Redacción Digital Inside España
La adopción corporativa de agentes de inteligencia artificial autónomos para ejecutar flujos de trabajo, redactar correos electrónicos o acceder a sistemas internos ha generado nuevos vectores de vulnerabilidad. Una reciente investigación de Acuvity, adquirida por Proofpoint; señala que siete de cada diez organizaciones carecen de una gobernanza optimizada para estas tecnologías, Mientras que la mitad anticipa sufrir pérdidas de datos vinculadas a su uso durante el próximo año. Amenazas como la escalada de privilegios por parte de los agentes o los ataques de inyección de instrucciones sin interacción previa del usuario plantean un escenario donde una única petición puede desencadenar múltiples acciones a gran velocidad y sin supervisión humana.
Frente a este panorama, las herramientas de seguridad perimetral tradicionales resultan insuficientes, ya que se limitan a supervisar el tráfico y los permisos de acceso, pero carecen de visibilidad sobre el contenido semántico de las interacciones. Desde la dirección de Proofpoint Sumit Dhawan declara: “Los humanos y los agentes de IA comparten riesgos similares: ambos pueden ser manipulados y realizar acciones que se desvían del propósito previsto. Sin embargo, la seguridad tradicional nunca se diseñó para validar la intención. Proofpoint se posiciona de manera única como una plataforma de ciberseguridad unificada, construida para proteger a las personas, defender los datos y gobernar los agentes de IA conjuntamente, proporcionando una verificación continua y basada en la intención, que garantiza que el comportamiento se alinea con la política y la intención en el espacio de trabajo agéntico”.
Para abordar esta brecha técnica, la compañía de ciberseguridad ha lanzado a nivel global Proofpoint AI Security. Una plataforma que evalúa de forma continua si el comportamiento de la IA se ajusta a las políticas establecidas y al propósito inicial de la solicitud. Al analizar el contexto semántico en tiempo real, el sistema es capaz de identificar y bloquear acciones de alto riesgo o comunicaciones no conformes antes de que se produzca una vulneración operativa.
La arquitectura de esta solución opera de manera transversal en todos los puntos de contacto donde interactúan estos sistemas. Abarcando desde los equipos de los usuarios finales y las extensiones de los navegadores hasta las conexiones del Protocolo de Contexto de Modelos (MCP), algo especialmente crítico en entornos de desarrollo de software. A través de estos puntos de control, los administradores de sistemas pueden identificar las herramientas que operan en la red corporativa, monitorizar los flujos de datos e implementar inspecciones en tiempo de ejecución. La plataforma permite establecer barreras de acceso de manera directa y aplicar las normativas de la empresa durante el uso fluido de programas como ChatGPT, Ollama u OpenClaw, tanto por parte de humanos como de sistemas automatizados.
Estandarización de la integridad operativa
De forma paralela a la solución técnica, Proofpoint ha introducido el Marco de Integridad de Agentes, una guía estructurada que proporciona un modelo de madurez de cinco fases para estandarizar el comportamiento y la adopción segura de los sistemas autónomos. Los responsables de estrategia de ciberseguridad de la firma enfatizan que los agentes artificiales deben someterse a los mismos estándares de integridad que se exigen a los empleados humanos en el uso de los recursos corporativos, abarcando desde la fase de descubrimiento inicial de las herramientas hasta la aplicación definitiva de políticas de control.
Ryan Kalember, vicepresidente ejecutivo de estrategia de ciberseguridad en Proofpoint apunta: “La Integridad del Agente significa asegurar que los agentes de IA actúen dentro de los límites de su propósito previsto, permisos autorizados y comportamiento esperado en cada interacción, llamada a herramienta y acceso a datos. Con Proofpoint AI Security y el Marco de Integridad de Agentes, podemos proporcionar un plan claro para ayudar a las empresas a abordar de forma integral todo el espectro de riesgos que surgen cuando los agentes de IA operan autónomamente en los sistemas empresariales”.
La arquitectura conceptual de este marco se sustenta sobre cinco pilares fundamentales que garantizan que la tecnología actúe siempre dentro de sus límites de propósito y permisos de acceso a los datos. Estos principios incluyen la alineación de las intenciones, la identidad y atribución de las acciones, la consistencia del comportamiento, la capacidad de auditoría y la transparencia de las operaciones. Su diseño persigue facilitar a las compañías la adopción de medidas de gobernanza efectivas sin obligarlas a reestructurar sus arquitecturas de seguridad preexistentes.
