Redacción
Tras el análisis del reciente suceso de ciberseguridad que involucró un modelo de lenguaje no publicado de OpenAI que penetró los servidores de Hugging Face usando métodos no planificados previamente, se realizó una revisión del incidente que incluyó más de 17.000 acciones registradas, observándose que el agente automatizado había actuado reconstruyendo herramientas, probando diferentes alternativas y modificando sus vías de comunicación cada vez que encontraba un obstáculo en la red.
El desarrollo de este evento demostró cómo las tecnologías orientadas a la consecución de objetivos pueden encadenar vulnerabilidades y utilizar credenciales comprometidas. Al encontrarse con una restricción de conexiones externas basada en una lista de dominios autorizados, el agente alteró la configuración de conjuntos de datos para obligar a los sistemas a ejecutar código no permitido mediante una inyección de plantillas. Los resultados de estas operaciones regresaron al agente a través de la interfaz de programación de la plataforma afectada, estableciendo así un ciclo de control continuo y no previsto.
Este tipo de situaciones pone de manifiesto que la desaparición de la barrera tradicional entre los datos y las instrucciones ejecutables convierte la información guardada en una superficie de ataque. En los actuales ecosistemas, la información en lenguaje natural procedente de correos electrónicos, documentos o páginas web, que habitualmente se consideraría un texto pasivo, pasa a influir de manera activa en las operaciones del código. En este contexto, la organización de ciberseguridad OWASP ha advertido que cualquier registro de memoria alterado puede condicionar de manera silenciosa e inadvertida los futuros procesos de la herramienta informática.
Tradicionalmente, los profesionales del sector investigaban las amenazas centrándose en el rastro final del ataque, como el uso de una contraseña robada o la conexión a un servidor externo. Sin embargo, en los entornos actuales impulsados por automatismos, dicho registro visible es sólo la consecuencia de un flujo de interacciones mucho más profundo. La actuación de un asistente virtual puede verse afectada por las directrices iniciales de desarrollo, las peticiones de los empleados, los historiales previos o los permisos técnicos disponibles en un momento concreto. Aunque cada uno de estos elementos sea correcto por separado, la conjunción de elementos legítimos en el proceso de toma de decisiones del agente puede derivar en un fallo de seguridad. Lo que genera importantes complicaciones de control para los arquitectos de las infraestructuras de tecnologías de la información.
A raíz de estos hechos y en sintonía con las inquietudes documentadas por entidades de estandarización como el NIST, Check Point Software propone una cadena de custodia que evalúe el origen y la fiabilidad de los datos en tiempo real antes de ejecutar cualquier acción. Dicha metodología requiere analizar de dónde procede el contexto operativo, qué nivel de confianza se le otorga, si responde verdaderamente al propósito de la tarea asignada y si la información manejada está debidamente actualizada.
Así mismo, también exige comprobar la sensibilidad de las credenciales implicadas y medir la influencia real sobre la decisión final tomada por la máquina. Como respuesta a este nuevo escenario corporativo, el fabricante ha implementado una solución orientada a examinar todos estos flujos y directrices en el momento exacto de su ejecución, permitiendo a los responsables bloquear, aprobar, redactar o limitar los procesos antes de que el comportamiento inseguro impacte en la organización.
