Guillem Alsina Gonzàlez
El Consejo de Ministros ha dado luz verde, a propuesta del Ministerio para la Transformación Digital y de la Función Pública, al proyecto de Ley Orgánica para el buen uso y la gobernanza de la inteligencia artificial, que será remitido al Congreso de los Diputados para iniciar su tramitación parlamentaria.
Esta nueva norma adapta al ordenamiento jurídico español el Reglamento europeo de Inteligencia Artificial (RIA), vigente desde agosto de 2024, e introduce los mecanismos necesarios para garantizar una supervisión humana sobre los sistemas algorítmicos y un uso fiable de esta tecnología.
El RIA, que fue impulsado durante la Presidencia española del Consejo de la Unión Europea, constituye una norma armonizada de aplicación directa en todos los Estados miembro. Su planteamiento clasifica los sistemas de IA en función del riesgo potencial que representan para las personas, veta aquellos cuyo nivel de peligro resulta inasumible para la seguridad o la salud, y fija las obligaciones que deben observar el resto para poder comercializarse o ponerse en servicio en el mercado comunitario.
Entre los sistemas prohibidos figuran los que recurren a técnicas subliminales como, por ejemplo, imágenes o sonidos imperceptibles, para manipular decisiones sin consentimiento del usuario y provocarle un perjuicio considerable, como podría ser un chatbot que detectase a personas con adicción al juego para inducirlas a entrar en plataformas de apuestas en línea.
Tampoco se permiten los que explotan vulnerabilidades vinculadas a la edad, la discapacidad o la situación socioeconómica, ni los que aplican biometría para clasificar a los individuos por raza u orientación política, religiosa o sexual, ni aquellos que puntúan a personas o colectivos por su comportamiento social para denegarles, por ejemplo, ayudas públicas o préstamos.
A estos ocho supuestos vetados se les añadieron dos más el pasado 7 de mayo, a iniciativa de España y con el respaldo de Francia: la Unión Europea acordó prohibir en todo el territorio comunitario la introducción en el mercado, la puesta en servicio y el uso de sistemas de IA capaces de generar ‘deepfakes’ sexuales, una decisión adoptada tras la controversia surgida por los desnudos de mujeres y menores fabricados por Grok, el asistente virtual integrado en la red social X. La propuesta española ya había recabado el apoyo comunitario a mediados de marzo para su inclusión en la reforma del Reglamento.
El proyecto de ley identifica los organismos encargados de supervisar el cumplimiento del RIA en territorio español y articula su régimen sancionador. La norma establece que aquellos productos ya sujetos a regulación sectorial, como maquinaria, juguetes, vehículos o productos sanitarios, conservarán las autoridades notificantes y de vigilancia del mercado que tenían asignadas.
Para los sistemas no cubiertos por legislación de producto, como los relacionados con el empleo, la biometría o la educación, la competencia recaerá principalmente en la Agencia de Supervisión de Inteligencia Artificial (AESIA), aunque también participarán la Agencia Española de Protección de Datos (AEPD) y el Consejo General del Poder Judicial (CGPJ) según el ámbito afectado, y también están previstos mecanismos de coordinación entre organismos y un punto de contacto único centralizado en la AESIA.
Las infracciones se clasificarán en muy graves, graves y leves, atendiendo a criterios de proporcionalidad, intencionalidad o reincidencia, y las multas podrán alcanzar los 35 millones de euros o el 7% del volumen de negocio en los supuestos más graves, mientras que las infracciones leves se castigarán con hasta 500.000 euros o el 0,5% de la facturación.
Más allá de la transposición del reglamento comunitario, el texto incorpora medidas dirigidas a ordenar el uso de la inteligencia artificial dentro del propio sector público estatal, una demanda recogida durante el trámite de audiencia pública. Se crea un inventario de los sistemas de IA empleados en procedimientos administrativos, que abarcará no solo los catalogados de alto riesgo, y se establece la figura del delegado de IA, responsable de coordinar la aplicación de la normativa y de asesorar en los proyectos y procesos de contratación pública. Tanto el inventario como esta nueva figura se desarrollarán mediante Real Decreto. La norma prevé asimismo acciones de formación y concienciación dirigidas a los empleados públicos.
El proyecto de ley también ordena el funcionamiento de los entornos controlados de pruebas, conocidos como sandboxes, espacios donde los desarrolladores pueden ensayar sus sistemas bajo supervisión antes de lanzarlos al mercado. El Ministerio para la Transformación Digital y de la Función Pública ya había puesto en marcha con anterioridad un entorno de este tipo para facilitar a los proveedores el cumplimiento de la legislación.
Ahora, el texto incorpora el espacio controlado de pruebas a escala nacional cuya creación exige el RIA, que será gestionado por la AESIA. Adicionalmente, se permite la apertura de sandboxes complementarios siempre que estén promovidos por autoridades de vigilancia del mercado o notificantes y se vinculen a su sector de supervisión, con la participación obligatoria de los organismos competentes en políticas públicas y derechos fundamentales relacionados con cada ámbito.
