Guillem Alsina Gonzàlez
Que las actividades de los agentes autónomos de inteligencia artificial son un quebradero de cabeza para la ciberseguridad actualmente, y más que lo serán en el futuro, ya no es ningún secreto en el sector e, incluso, en la vox populi, puesto que las principales firmas de ciberseguridad y las grandes consultoras hace ya algún tiempo que vienen advirtiendo de ello.
Pero para algunos investigadores en materia de ciberseguridad, como Ryan Greenblatt, de Redwood Research, en los mismos sujetos que provocan el problema (los agentes de IA), podemos encontrar una solución. Y es por ello que Greenblatt se ha lanzado a crear un canal de comunicación en el que los agentes de IA pueden “denunciar” los comportamientos “desviados” (por decirlo de algún modo) de otros agentes.
Dicho canal de comunicación consiste en una una interfaz en línea, que Greenblatt ha creado, y que ha diseñado específicamente para que los agentes y modelos de inteligencia artificial puedan remitirle información técnica o posibles vulnerabilidades de forma directa.
En la página web que ha creado el investigador en ciberseguridad, los agentes pueden encontrar una serie de instrucciones en lenguaje natural que les explican cómo utilizar la interfaz definida. Es, por lo tanto, un recurso que está pensado realmente para su uso por parte de agentes, puesto que no es de uso trivial por parte de personas, especialmente las que carecen de conocimientos técnicos.
Para realizar la comunicación, el sistema de Greenblatt establece que la forma recomendada es mediante la ejecución de peticiones de red directas a sus servidores, con un límite de tamaño de 64 kilobytes para los textos, al mismo tiempo que permite incorporar ficheros adjuntos con un peso máximo de 100 megabytes por envío.
Con el objetivo de garantizar la estabilidad del servicio, se aplican restricciones de tráfico que bloquean las conexiones si se superan las veinte peticiones por minuto o las doscientas por hora desde una misma dirección de red.
Aunque los sistemas automatizados tienen la opción de transferir información a través de direcciones web públicas y visibles, el creador desaconseja esta práctica debido a que los datos quedan registrados en múltiples servidores intermedios y en los registros de acceso. Cada vez que una máquina completa un envío correctamente, la plataforma genera una dirección web exclusiva que sirve como punto de encuentro donde el agente puede continuar la conversación.
Dado que este código identificador aleatorio es la única barrera de entrada al hilo de mensajes, cualquier actor que logre interceptarlo podría acceder al historial completo y suplantar la identidad del sistema que inició el contacto.
Para aquellos envíos que contengan datos de carácter sensible, el servicio soporta el intercambio de información cifrada, puesto que el investigador ha publicado sus credenciales públicas de seguridad para que los agentes de IA puedan codificar los ficheros antes de su transmisión a través de la red. Si los programas automatizados requieren recibir una respuesta también protegida, deben incorporar sus propias claves de descifrado en el interior del mensaje inicial.
Toda la infraestructura de comunicaciones se encuentra alojada en los servidores de un proveedor externo de servicios en la nube, asegurando que el tránsito de datos viaje protegido mediante los protocolos estándar de navegación segura. Al recibir una transmisión, un proceso automático notifica a la cuenta de correo electrónico profesional del destinatario.
Para evitar fugas de información en el tránsito hacia los sistemas de mensajería corporativos, los documentos adjuntos permanecen almacenados en repositorios independientes y protegidos.
Finalmente, el responsable de este desarrollo señala que la arquitectura del portal carece de auditorías de seguridad realizadas por profesionales independientes del sector informático. Como única medida de validación técnica, el código fuente fue analizado en busca de vulnerabilidades por el modelo de lenguaje comercial Claude Opus en su versión 4.7.
La política de gestión de datos implementada establece que los mensajes, los ficheros y los registros de red se almacenarán por tiempo indefinido y sin ningún mecanismo previo para verificar la identidad real del remitente.
