Guillem Alsina Gonzàlez
La nueva guía, titulada “Code of Practice on Transparency of AI-Generated Content” establece las directrices prácticas para demostrar el cumplimiento del artículo 50 de la Ley de Inteligencia Artificial de la Unión Europea, y se ha publicado con el objetivo de promover el uso fiable y proteger los derechos fundamentales de los ciudadanos frente a los posibles efectos perjudiciales derivados de la generación y alteración artificial de información mediante la tecnología de la inteligencia artificial.
Para lograrlo, este nuevo marco normativo divide las responsabilidades entre los proveedores de la tecnología y quienes la implementan o utilizan.
En el caso de los proveedores de sistemas generativos, la normativa exige que los resultados de sus modelos estén marcados en un formato legible por máquinas. Debido a que la tecnología actual no ofrece un método único que cumpla simultáneamente con los requisitos de eficacia, interoperabilidad, robustez y fiabilidad, los desarrolladores deben implementar un enfoque de múltiples capas que combine metadatos firmados digitalmente y marcas de agua imperceptibles.
Los metadatos deben incluir información sobre el origen del archivo, mientras que la marca de agua actúa como un mecanismo complementario integrado en el propio contenido para evitar su eliminación. El texto en formato libre presenta desafíos técnicos específicos, por lo que se requiere al menos el uso de marcas de agua, aunque el acceso a sus herramientas de verificación podrá restringirse temporalmente a usuarios expertos debido a su menor fiabilidad actual.
Además de marcar el contenido en origen, los creadores de estos sistemas están obligados a proporcionar herramientas de detección gratuitas y accesibles. Estas soluciones permitirán a los usuarios profesionales, a las autoridades pertinentes y al público general, comprobar si un audio, vídeo, imagen o texto ha sido procesado por sus algoritmos. Los mecanismos de detección deben respetar escrupulosamente la legislación de privacidad, lo que implica que los archivos subidos para su análisis no pueden almacenarse de forma permanente y deben eliminarse inmediatamente tras la comprobación del sistema.
Por otro lado, las empresas y los profesionales que utilicen estos sistemas para crear alteraciones ultrarrealistas o para publicar textos sobre asuntos de interés público, asumen la obligación legal de revelar, de forma visible o sonora, la naturaleza artificial de dicho material. Para facilitar esta tarea de estandarización en los distintos formatos, el documento propone el uso de un icono unificado de la Unión Europea que incluye las siglas de la inteligencia artificial y especifica si el material ha sido generado o modificado. Esta etiqueta visual debe ser clara, comprensible y aparecer en el momento exacto de la primera exposición del usuario final al contenido.
En aquellas situaciones donde la advertencia visual resulta técnicamente imposible, como ocurre con los formatos exclusivamente de audio, se exige una locución hablada clara al principio de la reproducción que informe sobre el origen sintético del archivo. El texto normativo también contempla escenarios específicos de uso comercial y creativo, dictando que las obras artísticas o satíricas deben informar sobre el uso de la tecnología sin arruinar la experiencia del usuario, mientras que los textos de naturaleza periodística que hayan sido revisados por humanos bajo estándares editoriales profesionales, quedarán exentos de este requisito de etiquetado.
