Guillem Alsina Gonzàlez
Auspiciada por NVIDIA, uno de los principales jugadores del sector de la inteligencia artificial gracias a su hardware de aceleración, pero, también, a sus modelos de lenguaje libres, se ha constituido la Open Secure AI Alliance, una alianza que tiene como objetivo desarrollar y compartir tecnologías de código abierto para proteger a los sistemas de inteligencia artificial.
Además de NVIDIA, esta iniciativa cuenta con la participación de casi cuarenta entidades, entre las que se cuentan nombres como los de Microsoft, Cisco, Hugging Face, Adobe o Hewlett Packard Enterprise, además de la Fundación Linux, que se repiten en su mayoría respecto al reciente comunicado conjunto de la industria a favor de los modelos de lenguaje de pesos libres.
El argumentario de las organizaciones fundadoras se repite respecto al comunicado antes referido: aunque el mercado requiere tanto modelos abiertos como cerrados, los sistemas abiertos son esenciales para la ciberseguridad al permitir una defensa distribuida sin un único punto de fallo. Al disponer de herramientas abiertas, las organizaciones pueden mantener el control local de sus sistemas, auditar el código y adaptar las defensas mientras protegen sus propios datos corporativos.
Para ilustrar esta necesidad operativa, el grupo se refiere al reciente incidente de seguridad sufrido por Hugging Face con la intrusión en sus sistemas de un modelo en pruebas propiedad de OpenAI.
En dicha situación, diversas herramientas de inteligencia artificial cerradas bloquearon el análisis forense al no poder distinguir entre atacantes y defensores, llevando a la compañía a ejecutar un modelo de pesos abiertos denominado GLM 5.2 en su propia infraestructura para poder analizar más de 17.000 acciones operativas y lograr contener el ataque en el momento de mayor urgencia.
En el marco de esta nueva alianza, diversos miembros ya están aportando tecnologías concretas para construir una arquitectura de defensa abierta. Por un lado, NVIDIA ha publicado en la plataforma GitHub el proyecto NOOA, un entorno de trabajo que facilita la integración de los agentes con los modelos para rastrear, gobernar y auditar su comportamiento de forma transparente.
Por su parte, HPE (Hewlett Packard Enterprise) proporciona estándares para marcos de identidad de confianza cero mediante los proyectos SPIFFE y SPIRE, los cuales verifican criptográficamente qué cargas de trabajo pueden acceder a los recursos corporativos.
Hugging Face ha transferido a la Fundación PyTorch un formato seguro para almacenar los pesos de los modelos llamado Safetensors. Microsoft contribuye con MDASH, una herramienta que coordina agentes para descubrir y probar vulnerabilidades. SpaceXAI ha liberado el código de su agente de programación Grok Build y tiene previsto hacer lo mismo con los pesos de sus modelos de la familia Grok para apoyar a la comunidad de investigadores.
Finalmente, el grupo dirige una advertencia a los reguladores encargados de legislar este ámbito tecnológico, señalando que las restricciones generales sobre los modelos abiertos disminuirían la capacidad defensiva frente a las amenazas y concentrarían la dependencia tecnológica en unos pocos proveedores de sistemas cerrados.
Como alternativa a la prohibición, este grupo de empresas propone combinar la disponibilidad del código con reglas claras de uso, evaluaciones rigurosas y el desarrollo de una infraestructura compartida para la defensa.
