Redacción
En los últimos nueve meses, el catálogo de la plataforma Hugging Face ha pasado de 2 a casi 3 millones de modelos de IA, impulsado por una incorporación diaria de herramientas capaces de generar imagen, audio y vídeo. Este crecimiento constante plantea un desafío crítico de ciberseguridad, un ámbito donde la consultora Gartner ha situado las falsificaciones profundas entre las cuatro amenazas más graves de la actualidad. Los atacantes aprovechan estas tecnologías para perfeccionar fraudes, ingenierías sociales y estafas de contratación mediante la suplantación de identidades.
Sin ayuda tecnológica, los seres humanos pasan por alto aproximadamente 7 de cada 10 contenidos manipulados. Mientras que las herramientas de detección basadas en patrones requieren un reentrenamiento continuo ante cada nuevo generador de inteligencia artificial para mantener su efectividad.
Para abordar esta problemática, la empresa Resemble AI ha lanzado la solución DETECT-World, que aplica la tecnología de los denominados modelos de mundo (world model) a la detección de manipulación digital. A diferencia de los sistemas convencionales, esta arquitectura se basa en sistemas que comprenden la realidad física lo suficientemente bien como para simularla, un campo en el que la industria de la inteligencia artificial está invirtiendo miles de millones.
La nueva solución DETECT-World analiza si los contenidos digitales cumplen las leyes físicas para identificar manipulaciones que logran superar los análisis de patrones tradicionales. El sistema evalúa aspectos como la coherencia de la iluminación a través de la escena o si la proyección de una sombra se corresponde con su fuente de origen.
Desde la dirección ejecutiva de la compañía desarrolladora se señala que el objetivo fundamental es equiparar la velocidad de creación de defensas con el avance de las herramientas generativas, prestando servicio a agencias gubernamentales, operadoras de telecomunicaciones y plataformas de servicios. En términos de precisión, la tecnología ha sido evaluada frente a más de 250 modelos de generación, alcanzando, según apuntan desde Resemble AI, una exactitud del 99,5% en análisis de audio a nivel interno y ofreciendo cobertura en 54 idiomas.
En su aplicación práctica, el sistema intercepta suplantaciones en videoconferencias y valida documentos de identidad sintéticos o expedientes de siniestros analizando incoherencias lumínicas y espaciales. En las llamadas y reuniones en directo a través de plataformas como Zoom o Teams, esta herramienta es capaz de descubrir los cambios de rostros examinando la continuidad facial y corporal entre los distintos fotogramas. Así como distorsiones menores durante el movimiento o el habla. En el ámbito documental, el sistema audita fotografías y vídeos buscando alteraciones de profundidad, patrones artificiales de parpadeo y señales de que el flujo de la cámara ha sido manipulado. Lo que resulta fundamental para la tramitación de reclamaciones e indemnizaciones.
Esta herramienta no opera aisladamente, sino que actúa como la capa de detección de una arquitectura de seguridad más amplia. El sistema se apoya en módulos de inteligencia que traducen la puntuación de amenaza en pruebas explicables para los analistas, herramientas de gestión para registrar identidades legítimas, comprobadores de señales de fraude cruzadas y sistemas de marcas de agua para certificar el origen del material corporativo.
Para su implantación, esta plataforma se comercializa a través de interfaces de programación de aplicaciones y admite despliegues en la nube, instalaciones locales o entornos telefónicos aislados. Las empresas pueden optar por integraciones directas en protocolos SIP y SIPREC para analizar el tráfico de voz en tiempo real, así como por infraestructuras en redes privadas virtuales.
