Redacción
Veeam Software ha presentado el Data and AI Trust Maturity Model, un marco de trabajo destinado a que las empresas puedan evaluar y mejorar la gobernanza de la IA. Esta herramienta surge en un momento en el que esta tecnología está pasando de ser un mero asistente a convertirse en un agente autónomo capaz de tomar decisiones sobre la información corporativa a gran velocidad y sin intervención humana.
A pesar de la rápida adopción de estos sistemas en el tejido empresarial, los estudios demuestran que existe una brecha importante entre la implementación técnica y los controles necesarios para su supervisión. Según un análisis elaborado por Emerald Research Group, la mayoría de las corporaciones han acelerado el despliegue de estas herramientas sin establecer previamente los cimientos de datos y las estructuras de identidad necesarias para justificar las acciones automatizadas ante los auditores o los consejos de administración.
La investigación revela que 7 de cada 10 compañías ya integran la IA en sus operaciones diarias manejando información sensible de los clientes. Aunque un alto porcentaje de directivos confía en poder ampliar el uso de esta tecnología de forma segura en los próximos años, casi la mitad admite que esta percepción se basa más en la intuición que en pruebas demostrables. Esta falta de madurez operativa ha provocado que, en el último año y medio; más de la mitad de las organizaciones hayan tenido que reducir sus iniciativas en este ámbito, experimentando severos retrasos o incluso paralizando por completo sus proyectos.
Los principales obstáculos que frenan este avance en el mercado son de carácter organizativo y operativo. Los responsables de tecnología se enfrentan a una carencia de conocimientos específicos en aprendizaje automático, dificultades para integrar las nuevas herramientas en los flujos de trabajo existentes, incertidumbre en torno a la regulación aplicable, problemas con la calidad de la información original y dudas sobre cómo explicar de forma lógica las decisiones tomadas por los algoritmos. Como resultado de estas carencias, aunque la inmensa mayoría de las firmas cuenta con políticas teóricas de gobernanza, apenas una tercera parte es capaz de aportar pruebas de auditoría exhaustivas de forma inmediata cuando se les requiere.
Desde la dirección de la compañía Anand Eswaran, CEO de Veeam afirma: “La confianza en la IA es alta, pero ésta por sí sola no garantiza el éxito. Nuestra investigación muestra que, aunque la mayoría de las organizaciones creen estar preparadas para escalar la IA de forma segura y responsable, muchas tienen dificultades para demostrar esa preparación ante una junta directiva, en auditorías o ante organismos regulatorios. Data and AI Trust Maturity Model proporciona a los líderes una forma clara y objetiva de comprender su situación, identificar brechas en la ejecución y priorizar las capacidades necesarias para poner en práctica la confianza en la IA, en lugar de simplemente aspirar a ella. Esto es fundamental en un mundo impulsado por agentes”.
Para resolver esta situación de incertidumbre, el nuevo modelo evalúa la madurez de las organizaciones a través de 12 dimensiones, clasificando el progreso técnico en 5 etapas evolutivas que van desde la improvisación hasta el control absoluto. Expertos del sector del análisis tecnológico advierten que el éxito de estas implementaciones depende intrínsecamente de la solidez de la base de datos, un área donde las corporaciones presentan graves vulnerabilidades hoy en día. A pesar de la alta tasa de despliegue en las oficinas, una minoría de las empresas realiza copias de seguridad de la información generada por la inteligencia artificial. Facilitando que los atacantes externos vulneren directamente la capa de datos mediante técnicas de manipulación o extracción ilícita.
Para combatir estos riesgos, el marco de trabajo estructura la fiabilidad tecnológica en la comprensión total, la protección, la resiliencia operativa y la disponibilidad de información. En primer lugar, el sistema busca la visibilidad absoluta del contexto y la trazabilidad de los activos digitales para conocer sus riesgos. En segundo término, se centra en asegurar los controles de identidad, el acceso y la privacidad. El tercer pilar garantiza la continuidad de los servicios críticos mediante copias de respaldo frente a posibles caídas del sistema. Por último, se asegura el acceso a datos fiables para continuar desarrollando estas herramientas de manera ética y responsable.
La aplicación práctica de este modelo en el entorno corporativo se realiza mediante un servicio de consultoría especializada que proporciona a los directivos una puntuación de madurez y una hoja de ruta priorizada para facilitar la supervisión normativa, comparando además la situación tecnológica de la empresa con otras corporaciones del mismo sector para establecer un contexto de mercado basado en hechos reales.
