Guillem Alsina Gonzàlez
NVIDIA ha presentado su nueva plataforma Open Agent Safety, un sistema diseñado para proteger a los agentes de inteligencia artificial desde su fase de pruebas hasta su despliegue definitivo en las infraestructuras corporativas, creando una capa de seguridad independiente fuera de los propios modelos algorítmicos con el fin de evitar que los sistemas autónomos se desvíen de sus tareas asignadas o actúen sin control.
Esta iniciativa surge en un contexto en el que los estudios de mercado apuntan a que la mitad de las empresas utilizarán agentes inteligentes en sus procesos para el año 2027. Ante los recientes incidentes de ciberseguridad en los que algunos de estos sistemas escaparon de sus entornos de prueba, desde NVIDIA proponen una solución basada en el aislamiento estricto de las operaciones, argumentando que la respuesta a los riesgos de la inteligencia artificial pasa por establecer controles de seguridad a nivel de hardware y software en vez de frenar el desarrollo tecnológico o depender exclusivamente de nuevas normativas.
Para lograr este nivel de protección, la arquitectura del sistema se divide en dos componentes principales diseñados para funcionar en conjunto; por un lado, se encuentra OpenShell, un programa de código abierto que establece un perímetro seguro alrededor de cada agente, limitando estrictamente su acceso a redes externas, archivos sensibles, herramientas del sistema y credenciales. Este software se ejecuta sobre los procesadores Vera de la misma fabricante, aunque está previsto ampliar su compatibilidad a las arquitecturas de otras marcas del mercado como Intel y Arm.
Por otro lado, el ecosistema incorpora Sentry, una capa de monitorización de hardware independiente que funciona sobre las unidades de procesamiento de datos BlueField-4. Este componente físico, separado de los procesadores centrales que ejecutan el agente, tiene la capacidad de detectar comportamientos anómalos autónomamente y poner en cuarentena cualquier proceso que intente sobrepasar sus límites de actuación en cuestión de milisegundos.
El lanzamiento de esta plataforma se ha realizado con un amplio apoyo del sector tecnológico, articulado a través de la Open Secure AI Alliance y bajo la gestión organizativa de la Linux Foundation. Más de 120 organizaciones tecnológicas y financieras respaldan este diseño de referencia abierto, incluyendo firmas de la talla de Microsoft, Anthropic, Oracle, Arm y CrowdStrike.
Los representantes de NVIDIA explican que la plataforma proporciona un entorno de confianza basado en la limitación de privilegios desde el primer instante, con el objetivo de que las organizaciones puedan evaluar y mitigar los riesgos asociados a los flujos de trabajo complejos garantizando una adopción segura de la IA autónoma en los entornos de producción reales.
