Redacción Digital Inside España
Red Hat ha comunicado la compra de Chatterbox Labs, empresa especializada en seguridad de modelos de IA y en mecanismos de protección para la IA generativa. Con esta operación, la compañía incorpora al porfolio de Red Hat AI capacidades descritas como de “seguridad para la IA”, con el objetivo de consolidar una plataforma de IA empresarial de código abierto orientada a la nube híbrida.
La adquisición se enmarca en un periodo de lanzamientos en el ámbito de Red Hat AI, tras la introducción de Red Hat AI Inference Server y la versión Red Hat AI 3. La compañía indica que clientes de diferentes sectores y geografías están adoptando su plataforma para impulsar casos de uso de IA generativa, predictiva y agéntica.
En este contexto, Red Hat sitúa el principal reto en el paso de la experimentación al despliegue en producción, donde las organizaciones necesitan modelos que no solo tengan capacidad de cálculo, sino que además resulten demostrables, fiables y seguros. La compañía presenta las capacidades de seguridad y los mecanismos de protección como un requisito para unas operaciones de aprendizaje automático (MLOps) actuales, y vincula este enfoque al objetivo compartido con IBM de impulsar una mentalidad de “seguridad como prioridad” en el escalado de la IA en entornos de nube híbrida. La integración de la tecnología de Chatterbox Labs se plantea como una plataforma unificada en la que la seguridad esté integrada, con la intención de habilitar cargas de trabajo de IA en producción con cualquier modelo, sobre distintos aceleradores y en diferentes ubicaciones.
Fundada en 2011, Chatterbox Labs aporta tecnología y conocimiento especializado en seguridad y transparencia de la IA. La empresa ha desarrollado capacidades de análisis de riesgo cuantitativo de IA que han sido valoradas por grupos de expertos y responsables políticos a escala internacional, y Red Hat incorpora con esta adquisición tecnología de aprendizaje automático considerada clave para su estrategia en este ámbito.
Chatterbox Labs aporta una tecnología de pruebas automatizadas y personalizadas que cuantifica el riesgo de los modelos de IA y proporciona métricas objetivas para respaldar su puesta en producción. Estas capacidades se articulan en torno a un enfoque agnóstico respecto a los modelos, tanto en la validación de datos como en la evaluación de los propios modelos.
Dentro de este portafolio se encuentran las soluciones AIMI para distintos tipos de IA. En el ámbito de la IA generativa, AIMI se orienta a proporcionar métricas cuantitativas de riesgo independientes para grandes modelos de lenguaje, con el fin de evaluar su comportamiento antes de su despliegue. Para la IA predictiva, AIMI se aplica a cualquier arquitectura de IA y la valida en ejes como la robustez, la equidad y la explicabilidad. Además, la tecnología de Chatterbox Labs incluye mecanismos de protección diseñados para identificar y corregir prompts inseguros, tóxicos o sesgados antes de que los modelos entren en producción.
IA agéntica y próximas cargas de trabajo de Red Hat AI
Red Hat enmarca la adquisición en su visión de soporte a diferentes modelos y escenarios de despliegue en la nube híbrida. La operación se presenta como complementaria de las capacidades introducidas en Red Hat AI 3, en particular las relacionadas con la IA agéntica y el Protocolo de Contexto del Modelo (Model Context Protocol, MCP). A medida que las organizaciones adoptan arquitecturas basadas en agentes de IA, la compañía subraya que la fiabilidad y la seguridad de los modelos se vuelven especialmente relevantes, dado el papel autónomo que pueden desempeñar estos agentes y su posible impacto en sistemas empresariales críticos.
Chatterbox Labs ha desarrollado trabajos de investigación centrados en la seguridad agéntica de forma holística, que incluyen la monitorización de las respuestas de los agentes de IA y la detección de elementos que pueden activar acciones en servidores MCP. Red Hat indica que este enfoque se alinea con su hoja de ruta para el soporte de Llama Stack y MCP, y sitúa esta combinación como base para asegurar una nueva generación de cargas de trabajo inteligentes y automatizadas con criterios de confianza y orientadas al entorno empresarial.
En este marco, la compañía plantea que la combinación de sus capacidades de MLOps con los mecanismos de protección de Chatterbox Labs está dirigida a facilitar que las organizaciones puedan trasladar sus inversiones en IA a producción con un mayor grado de control y visibilidad sobre el riesgo. Al combinar sus capacidades de MLOps con los mecanismos de protección de Chatterbox Labs, Red Hat orienta esta adquisición a que las organizaciones puedan operacionalizar sus inversiones en IA con un mayor nivel de confianza.
