Guillem Alsina Gonzàlez
Los deepfakes, contenidos falsos generados mediante inteligencia artificial, están en auge. Según Sumsub, plataforma especializada en la verificación de identidad, los deepfakes se han cuadruplicado entre 2023 y 2024. En este último año, representaron el 7% de los casos globales de fraude, incluyendo suplantaciones de identidad, accesos no autorizados a cuentas y complejas campañas de ingeniería social.
Con el objetivo de abordar este problema creciente, ya se han llevado a cabo iniciativas para conseguir el marcado de los contenidos que generan los sistemas de inteligencia artificial generativa -cómo en el caso de Google DeepMind con SynthID, o Microsoft-, y ahora es la Meta de Mark Zuckerberg quien ha presentado Meta Video Seal, una herramienta de código abierto que aplica marcas de agua, imperceptibles al ojo humano, a los vídeos generados por inteligencia artificial.
El anuncio de esta nueva herramienta, realizado este pasado jueves, destaca que está diseñada para integrarse fácilmente en software existente. Esta iniciativa forma parte de un conjunto de soluciones que Meta ha desarrollado, como Watermark Anything y Audio Seal, herramientas también enfocadas a marcar los contenidos digitales generados mediante IA.
Desde Meta aseguran que su solución supera a las alternativas existentes, ya que es capaz de aguantar prácticas de edición de los contenidos una vez estos han sido generados y marcados. Dichas prácticas incluyen, por ejemplo, la compresión de los vídeos, su desenfoque o el recorte, prácticas que son habituales en la difusión de los contenidos en redes sociales. Desde Meta aseguran que su tecnología resiste no solo a ediciones menores, sino también a los algoritmos de compresión más utilizados.
Una de las características diferenciadoras de Video Seal es su capacidad para incluir un mensaje oculto en los vídeos, el cual puede revelarse posteriormente para verificar su origen.
El momento crítico que vivimos, en el que generar contenido falso es bastante fácil, lleva a que este tipo de herramientas para el marcado de los contenidos generados sea altamente demandado.
