Guillem Alsina Gonzàlez
En una intervención este pasado lunes en el Google Cyber Defense Summit celebrado en Washington de la que se hace eco Cibersecurity Dive, Rob Joyce (quien fuera asesor principal de ciberseguridad del presidente Donald Trump en su primer mandato) pidió moderar el entusiasmo por automatizar la búsqueda de vulnerabilidades con modelos de lenguaje (LLM, por sus siglas en inglés).
Joyce advirtió que encontrar fallos con IA no resuelve el problema si las organizaciones no parchean con rapidez. A su juicio, grandes proveedores tecnológicos pueden priorizar y corregir con agilidad, pero buena parte del ecosistema opera con software sin soporte, tecnologías antiguas o sin personal capacitado para desplegar actualizaciones.
Según explicó, la detección automática ya supera en velocidad a los equipos humanos; en junio, un agente de IA denominado XBOW encabezó la tabla de HackerOne como primer informador de vulnerabilidades no humano, y se mantiene desde entonces entre los principales. Estos sistemas automatizados no descansan, rastreando redes de forma constante, lo que les permite localizar más fallos que los equipos humanos, limitados por turnos y tiempos de respuesta.
Y, evidentemente, esto se extrapola fácilmente a que los ciberdelincuentes que utilizan LLMs para detectar fallos de seguridad, van a ser cada vez más rápidos que los equipos de contraataque humanos.
El directivo planteó que, en un escenario en el que la identificación de fallos se acelera más que la capacidad de corregirlos, el riesgo se desplazará cada vez más hacia el software desatendido o mal mantenido. Incluso advirtió de una posible disrupción de gran alcance que obligue a “reiniciar” entornos tecnológicos para reconstruirlos con bases más sólidas.
Nuevos riesgos al conectar agentes de IA a sistemas corporativos
Durante una conversación con John Hultquist, analista jefe de Mandiant, Joyce alertó de las implicaciones de integrar agentes de IA con aplicaciones corporativas como el correo, las bases de conocimiento y otros sistemas críticos, ya que ello abre una nueva superficie de ataque, señalando ejemplos recientes en los que, tras obtener acceso a la red, los intrusos utilizaron esos agentes para buscar información de alto valor para campañas de ransomware o de extorsión.
El ex asesor de Trump también señaló también la aparición de amenazas capaces de ejecutar consultas de LLM directamente sobre los datos de la empresa para identificar contenidos “monetizables” en un ataque posterior de, por ejemplo, ransomware. En este contexto, anticipó que equipos de intrusión con motivación económica, como los asociados a Corea del Norte, podrían especializarse en atacar sistemas de IA al ver un claro incentivo financiero en ello.
