La Unión Europea prohíbe las imágenes sexuales de Inteligencia Artificial no consentidas

La Unión Europea ha culminado este lunes los trámites para adoptar formalmente la reforma que simplifica la ley europea de Inteligencia Artificial (IA) e incluye cambios como nuevas prohibiciones sobre contenidos sexuales generados sin consentimiento, pero retrasa al mismo tiempo las obligaciones previstas en la normativa comunitaria para los sistemas de alto riesgo.

En concreto, el pacto prohíbe los sistemas de IA destinados exclusivamente a generar imágenes sexuales o íntimas sin el permiso de las personas implicadas, así como material de abuso sexual infantil creado mediante esta tecnología, y obligará además a las empresas que desarrollan modelos de inteligencia artificial de uso general a introducir "medidas de seguridad razonables" para impedir la difusión de este tipo de contenidos.

La reforma --pactada a principios de mayo entre el Consejo (gobiernos) y Parlamento-- llega meses después de la controversia provocada por la circulación masiva en redes sociales de imágenes íntimas manipuladas con inteligencia artificial, especialmente a través de herramientas integradas en plataformas digitales como Grok, el asistente de IA vinculado a la red social X.

"El progreso tecnológico debe ir siempre de la mano de la protección de nuestros valores fundamentales", ha defendido en un comunicado la viceministra chipriota para Asuntos Europeos y presidencia de turno del Consejo, Marilena Raouna, tras destacar que la reforma ofrece seguridad jurídica y una regulación armonizada para incentivar la innovación y crecimiento del sector, al tiempo que veta los 'deepfakes' sexuales generados o manipulados por IA y el material de abuso sexual infantil.

La prohibición se aplicará a imágenes que expongan "partes íntimas" de personas identificables, aunque según admitió el eurodiputado irlandés y negociador Michael McNamara tras el acuerdo, la interpretación dependerá del grado de exposición del contenido generado artificialmente.

Además, las instituciones europeas han acordado con esta reforma posponer hasta el 2 de diciembre de este año las obligaciones de transparencia para materiales generados artificialmente, como imágenes, vídeos o audios creados mediante IA, que deberán incorporar mecanismos que permitan a los usuarios identificar este tipo de contenidos.

El marco revisado aplaza también hasta el 2 de diciembre de 2027 parte de las obligaciones previstas para sistemas de IA de alto riesgo, como los utilizados en ámbitos sensibles como sanidad, educación, banca, contratación de personal, control fronterizo o gestión de infraestructuras críticas. En el caso de los sistemas integrados en productos, como dispositivos médicos o maquinaria industrial, las nuevas exigencias comenzarán a aplicarse a partir del 2 de agosto de 2028.

Inicialmente, la legislación europea contemplaba la entrada en vigor de estas obligaciones en un plazo más corto, pero las instituciones europeas han acordado retrasarlas hasta 16 meses al considerar que todavía no están disponibles todos los estándares técnicos y herramientas necesarios para aplicar plenamente la normativa.

El acuerdo forma parte del paquete legislativo europeo de simplificación digital 'Omnibus VII', con el que la Comisión Europea busca reducir cargas administrativas y facilitar la aplicación de la normativa comunitaria, especialmente para pequeñas y medianas empresas.

En este contexto, el texto amplía algunas de las exenciones regulatorias previstas inicialmente para pymes a compañías de mediana capitalización reducida y retrasa hasta agosto de 2027 el plazo para que los Estados miembro creen entornos nacionales de pruebas regulatorias para sistemas de inteligencia artificial. Asimismo, el pacto introduce cambios para evitar que determinados productos industriales tengan que cumplir requisitos duplicados cuando ya estén sujetos a otras normas europeas específicas.

Esta medida afectará, entre otros, a dispositivos médicos, juguetes, ascensores, maquinaria o embarcaciones y permitirá limitar parte de las exigencias de la ley europea de IA cuando existan obligaciones equivalentes en la legislación sectorial correspondiente.

Los colegisladores también han acordado mantener la obligación de que las empresas registren determinados sistemas en la base de datos europea incluso cuando consideren que están exentos de la clasificación de alto riesgo. El texto restablece además el criterio de "estricta necesidad" para el uso de categorías especiales de datos personales empleados para detectar y corregir posibles sesgos en sistemas de inteligencia artificial.

Otra de las modificaciones aclara las competencias de la Oficina Europea de IA para supervisar modelos de propósito general cuando tanto el modelo como el sistema hayan sido desarrollados por el mismo proveedor, aunque mantiene excepciones en ámbitos como control fronterizo, autoridades judiciales, fuerzas de seguridad o entidades financieras, donde seguirán siendo competentes las autoridades nacionales.