La UE obligará a identificar el contenido falso creado por IA

La Comisión Europea comenzará a aplicar mañana las primeras obligaciones de transparencia previstas en la Ley de Inteligencia Artificial (AI Act), que exigirán identificar los contenidos generados o manipulados mediante esta tecnología, incluidos los conocidos como “deepfakes”, y obligarán a los “chatbots” y otros sistemas a advertir a los usuarios de que están interactuando con una IA, al tiempo que Bruselas asumirá por primera vez las competencias para velar por el cumplimiento de la norma.

En la práctica, las herramientas capaces de crear imágenes, vídeos, audios o textos deberán incorporar marcas que permitan reconocer esas producciones, mientras que su uso con fines profesionales exigirá indicar de forma clara que han sido alteradas mediante inteligencia artificial y los asistentes conversacionales informar de que el usuario está hablando con una máquina y no con una persona.

Posibles beneficios de la IA

“La inteligencia artificial es una tecnología transformadora que puede aportar beneficios extraordinarios a nuestros ciudadanos y a nuestras empresas. Pero también estamos viendo que puede causar perjuicios si no se diseña y utiliza adecuadamente, y que los modelos más avanzados plantean riesgos de una magnitud completamente nueva”, señaló la vicepresidenta del Ejecutivo comunitario encargada de Soberanía Tecnológica, Seguridad y Democracia, Henna Virkkunen.

La entrada en vigor de estas medidas permitirá además a Bruselas empezar a supervisar los denominados modelos de IA de propósito general, es decir, aquellos capaces de realizar múltiples tareas y que sirven de base para una amplia gama de herramientas y servicios. La Oficina Europea de IA podrá requerir información a las empresas responsables de estos sistemas, acceder a ellos para evaluarlos, ordenar medidas correctoras e incluso restringir su disponibilidad cuando detecte incumplimientos.

Ese control se ejercerá de forma compartida con las autoridades nacionales, de modo que este organismo se encargará de sus proveedores y de los sistemas cuya competencia corresponde a la Comisión, mientras que los Estados miembros vigilarán el resto de herramientas desplegadas en su territorio.