Guillem Alsina Gonzàlez
En un artículo recientemente publicado en el blog Marketplace de Microsoft, Junwoo Park, Senior Partner Solution Architect en Microsoft, analiza la transición que está experimentando el entorno corporativo a raíz de la adopción de la inteligencia artificial cómo herramienta de trabajo, y las tensiones en el ámbito de la ciberseguridad que ello provoca.
Dichas tensiones son debidas a las identidades no humanas (léase agentes de IA) interactuando entre ellas y con trabajadores humanos, que poseen información corporativa, y que incrementan la superficie de exposición a un nivel que el autor del post considera sin precedentes para las infraestructuras tecnológicas.
Además, estos sistemas han dejado de ser meros asistentes que requieren instrucciones directas (IA generativa), para pasar a convertirse en agentes autónomos (IA agéntica), capaces de tomar decisiones, interactuar con clientes y ejecutar flujos de trabajo de manera independiente. Las proyecciones del sector apuntan a que para el año 2027 habrá más de mil trescientos millones de estos agentes desplegados a nivel mundial.
A pesar de que la inmensa mayoría de las organizaciones ya utiliza algún tipo de inteligencia artificial, Park pone de relieve que existe una notable falta de preparación técnica para su despliegue a gran escala, y explica que los riesgos asociados a esta tecnología van mucho más allá de los correos fraudulentos altamente perfeccionados, abarcando la exposición accidental de datos sensibles y el espionaje cibernético.
La autonomía con la que operan estos agentes implica que cualquier fallo o vulnerabilidad puede propagarse por la red corporativa a una velocidad y escala muy superiores a las de las amenazas informáticas tradicionales.
Es por ello que el primer gran frente que deben abordar los responsables de tecnología es la seguridad de los datos, porque los sistemas tradicionales de prevención de pérdida de información, diseñados para supervisar correos electrónicos o transferencias de archivos, resultan insuficientes ante agentes que se comunican a través de interfaces de programación de aplicaciones (API).
Para mitigar este riesgo, resulta imprescindible clasificar toda la información corporativa antes de que la inteligencia artificial pueda procesarla, así como establecer controles de acceso basados en los roles específicos de cada agente y gestionar activamente el ciclo de vida de los datos para eliminar aquellos que ya no sean necesarios.
Además, emerge una nueva categoría de ataque informático conocida como inyección de instrucciones. En este escenario, los atacantes pueden ocultar comandos maliciosos dentro de un documento aparentemente inofensivo que, al ser leído por el agente autónomo, ejecuta las instrucciones invasivas como si fueran legítimas. Esto obliga a las empresas a implementar mecanismos de validación exhaustiva de cualquier información externa antes de que interactue con el modelo lingüístico, además de establecer políticas estrictas para frenar el uso de herramientas de inteligencia artificial no aprobadas por el departamento técnico, un fenómeno que ya empieza a proliferar de manera inadvertida entre los empleados, según Park.
El comportamiento de estos sistemas autónomos requiere un marco de gobernanza riguroso centrado en los datos sobre los que operan. Una de las metodologías más prácticas que se están adoptando en la industria consiste en gestionar los agentes de inteligencia artificial de forma análoga a los empleados humanos, asignando a cada agente unas funciones delimitadas, un nivel de acceso a los datos que incorpore restricciones, y un supervisor humano responsable de sus acciones, algo fundamental para garantizar la rendición de cuentas.
Este control no debe limitarse a supervisar la información que se introduce en el sistema, sino que exige una monitorización constante de los resultados y de las acciones que el agente produce.
Desde el punto de vista regulatorio, la proliferación de normativas internacionales sobre privacidad e inteligencia artificial exige que los requisitos legales se integren en la arquitectura del sistema desde el inicio de su diseño, evitando intentar adaptar los sistemas una vez ya han sido implementados.
Las organizaciones que despliegan estas tecnologías mantienen la responsabilidad legal sobre el tratamiento de los datos y las decisiones tomadas por la máquina, independientemente de los principios de responsabilidad que ofrezca el proveedor de la plataforma subyacente.
La forma en la que las empresas adquieren estos agentes es un factor determinante en su estrategia de protección, puesto que las plataformas de distribución de software corporativo están adaptando sus catálogos para clasificar estas soluciones en función de su perfil operativo y de seguridad, diferenciando entre aquellas que se ejecutan en infraestructuras en la nube para flujos de trabajo específicos y las que se integran en las aplicaciones de ofimática del día a día para mejorar la productividad.
Al evaluar la compra de un agente desarrollado por una tercera parte, los responsables de compras tecnológicas deben exigir documentación técnica sobre el manejo de los datos y las certificaciones de cumplimiento normativo. Utilizar canales de adquisición corporativos centralizados permite al departamento de sistemas mantener el control sobre qué herramientas se instalan, bajo qué parámetros de seguridad operan y a qué regulaciones territoriales están sujetas.
En definitiva, la base para la viabilidad a largo plazo de los agentes autónomos reside en la confianza de los empleados, clientes y reguladores. Asegurar que los sistemas ofrezcan resultados explicables, mantengan su resiliencia ante fallos técnicos y operen de manera justa, será el elemento que distinga a las implementaciones seguras de aquellas que acaben derivando en problemas legales o pérdida de reputación.
