Redacción Digital Inside España
Google Cloud ha dado a conocer AI Protection, un conjunto de funcionalidades orientadas a salvaguardar los datos y modelos que respaldan el trabajo con IA. El objetivo principal es que las organizaciones adopten o amplíen sus proyectos de Inteligencia Artificial en un entorno seguro y bajo cumplimiento normativo.
AI Protection se integra con Security Command Center (SCC), la plataforma de administración de riesgos multicloud de Google Cloud, lo que permite un control centralizado de la postura de seguridad y un análisis más profundo de amenazas.
Entre las prestaciones clave se encuentra la capacidad de descubrir los activos de IA en la infraestructura, para determinar su nivel de vulnerabilidad y recomendar pasos de mitigación. Además, AI Protection pretende ofrecer la base para monitorizar y responder ante incidentes que pudieran comprometer la integridad de modelos, aplicaciones o datos usados en procesos de entrenamiento y despliegue.
Descubrimiento y gestión de riesgos en los entornos de IA
Uno de los ejes principales es la localización y catalogación de datos críticos relacionados con la IA. Con la extensión de Sensitive Data Protection (SDP) a los conjuntos de datos de Vertex AI, se busca evaluar la sensibilidad de la información y su nivel de protección, a fin de encontrar posibles vulnerabilidades o vías de acceso indeseado. Esto se complementa con la función de virtual red teaming, que analiza las rutas que un atacante podría explotar para llegar a la información.
Como incentivo para las organizaciones interesadas, Google Cloud ofrece un crédito gratuito de 300 dólares para probar las soluciones de seguridad e identidad, alineando el objetivo de impulsar la adopción de mecanismos sólidos de protección tanto en infraestructuras propias como en el entorno de la nube.
Model Armor y la defensa contra amenazas emergentes
Model Armor se presenta como una de las funciones centrales de AI Protection, ahora disponible de forma general. Permite defenderse de inyecciones de prompt, jailbreak, filtración de datos y otro tipo de contenido malicioso que puede afectar a los modelos de IA. Además, su enfoque multicloud hace posible que los equipos de TI protejan distintos modelos y plataformas, incluso si cambian con el tiempo. Actualmente, está disponible a través de llamadas REST o mediante una integración con Apigee, y se planean futuras integraciones con Vertex AI y productos de red de Google Cloud para facilitar la incorporación sin cambios en las aplicaciones.
Para reforzar la tarea de vigilancia y detección de amenazas, AI Protection se nutre de la inteligencia de Google y Mandiant, lo que permite una cobertura más amplia ante el crecimiento de posibles ataques orientados a comprometer la IA. Esto incluye nuevos detectores en Security Command Center enfocados en el acceso inicial, la escalada de privilegios y la persistencia en cargas de trabajo de IA, con proyecciones de añadir otras funcionalidades que eviten la manipulación de modelos de base.
Propuesta de consultoría y entorno seguro
Las organizaciones que busquen ayuda experta para evaluar la solidez de su IA pueden recurrir a Mandiant AI Security Consulting Portfolio, un servicio de consultoría que revisa la seguridad de las implementaciones de IA a nivel end-to-end.
Por otro lado, Google Cloud extiende su infraestructura segura por diseño, ofreciendo soluciones como Confidential Computing y Assured Workloads para quienes requieran entornos de procesamiento de datos con políticas de conformidad y cifrado gestionado.
Igualmente, Chrome Enterprise Premium puede contribuir a detectar o bloquear usos no autorizados de IA en los equipos finales, ofreciendo control sobre la carga o descarga de información sensible. Toda esta oferta converge en la idea de un enfoque integral de seguridad que abarque desde la extracción de datos hasta la gestión de modelos productivos.
