El papa León XIV: “La IA debe ser desarmada y liberada”

El papa León XIV se ha mostrado tajante en su primera encíclica, titulada “Magnifica humanitas”, publicada ayer y que aborda la “preservación de la humanidad en la era de la inteligencia artificial (IA)”. El papa León XIV ha defendido que “la IA exige ahora ser desarmada, liberada de las lógicas que la convierten en un instrumento de dominación, exclusión o muerte”, ha subrayado el pontífice, durante su discurso, pronunciado en el Aula del Sínodo, en el Vaticano, en el marco de un acto en el que participaron cardenales, profesores y expertos en tecnología.

El papa ha precisado que “las denominadas inteligencias artificiales” no se pueden confundir con la “inteligencia humana” pues, aunque son capaces de “imitar lenguajes o simular empatía”, no viven “una experiencia, no poseen un cuerpo, no pasan por la alegría y el dolor, no maduran en las relaciones ni conocen desde dentro lo que significan el amor, el trabajo, la amistad y la responsabilidad”.

"No tiene una conciencia moral"

“Tampoco tienen una conciencia moral: no juzgan el bien y el mal, no captan el sentido último de las situaciones ni asumen el peso de las consecuencias”, ha insistido.

En este sentido, ha advertido de que “no existe algoritmo que pueda hacer que la guerra sea moralmente aceptable”. “No es lícito confiar a sistemas artificiales decisiones letales”, ha avisado mientras pide que la IA en el ámbito bélico esté sujeta a “las restricciones éticas más rigurosas y al respeto de la dignidad humana” y reclama “reglas compartidas a nivel internacional que frenen la carrera armamentística tecnológica”.

Además, ha lamentado que la “evolución de los arsenales nucleares -incluida la perspectiva de usos tácticos-” hace que el recurso a tales artefactos parezca una posibilidad cada vez menos remota”; advierte de “una preocupante pérdida de la memoria histórica que facilita la reescritura selectiva o distorsionada del pasado e insta a superar la teoría de la guerra justa y a apostar en su lugar por el diálogo, la diplomacia y el perdón”.

El pontífice ha pedido “un enfoque prudente y cauteloso” y ha advertido de que “puede ser peligrosa” cuando las personas buscan en ella una relación de cuidado o de acompañamiento porque la “imitación artificial” de consejo, empatía, amistad o amor en usuarios poco conscientes puede “inducir a engaño y dar la falsa impresión de estar en una relación”.

Además, ha advertido del “riesgo que supone el impacto ambiental” de los actuales sistemas de IA en relación al agua, el anhídrido carbónico y los recursos naturales.

Asimismo, ha alertado de que los sistemas de IA pueden suponer un “engaño cuando presentándose como neutrales y objetivos, reflejan y refuerzan posiciones ideológicas”.

Alerta contra los grupos que orientan el consumo

Para que la IA respete la dignidad humana, según el pontífice, es esencial que las “responsabilidades estén claras”, desde quienes la diseñan hasta quienes la utilizan. Además, ha apuntado que “pedir prudencia, controles rigurosos y una ralentización en la adopción de la IA no significa estar en contra del progreso”.

“No basta con invocar genéricamente la ética; se necesitan marcos jurídicos adecuados, vigilancia independiente, educación de los usuarios, una política que no renuncie a su tarea”, ha propuesto, al tiempo que ha pedido “valentía para discutir un código ético que deba ser usado, sometiéndolo a criterios de justicia social compartida”.

Así, el pontífice ha advertido del riesgo de que “pequeños grupos muy influyentes puedan orientar informaciones y consumos, condicionar procesos democráticos e incidir en las dinámicas económicas” y considera que “la propiedad de los datos no puede confiarse solo al sector privado, sino que debe reglamentarse”. Reclamó, por ello, “creatividad para gestionarlos en la lógica del compartir”.

Invita a limitar el acceso de los menores a móviles y redes sociales

El papa León XIV ha abogado por normas que establezcan “límites de edad” para el acceso de los menores a plataformas digitales y que exijan responsabilidades a los proveedores.

“Son oportunas intervenciones legislativas que establezcan límites de edad, responsabilicen a los proveedores de servicios -sin descargar, sobre las familias, el peso de la limitación- y prevean protecciones específicas contra toda forma de explotación y violencia sexual en Internet”, ha subrayado en el documento.

Además, el papa, licenciado en Matemáticas, ha advertido de los riesgos de comprar un móvil a los niños a edades demasiado tempranas. “Tener un teléfono móvil personal demasiado pronto y utilizarlo sin el control de los adultos puede acentuar la fragilidad y favorecer las adicciones en los jóvenes, exponiéndolos a dinámicas de aislamiento, acoso y ciberacoso, así como a la presión para compartir imágenes íntimas o datos sensibles”, ha indicado.

Para hacer estas consideraciones, el papa se ha apoyado en la literatura psicológica y psiquiátrica según la cual “una exposición precoz y sin supervisión a los dispositivos digitales y a las redes sociales puede afectar negativamente” a los niños, niñas y adolescentes.

El pontífice reivindica el “valor casi profético del Guernica” de Picasso

León XIV ha reivindicado el “valor casi profético” del Guernica, de Pablo Picasso, como “denuncia de la deshumanización”.

“La cultura y el arte, cuando son auténticos, custodian esta chispa, impidiendo la normalización del mal. De este modo, algunas obras han asumido un valor casi profético: la Novena Sinfonía de Bethoven como deseo de unidad; Guernica como denuncia de la deshumanización; La lista de Schindler como una invitación a no entregar el pasado al olvido”, ha apuntado en el documento sobre la custodia de la persona humana en el tiempo de la inteligencia artificial.

Así lo ha indicado tras subrayar la importancia de que el ser humano experimente sus límites, como “la vulnerabilidad, el dolor, el fracaso, porque es en la misma experiencia donde es capaz de intuir una fraternidad más grande que él mismo y de reconocer la injusticia”.

El pontífice también ha citado a J.R.R. Tolkien en “El Señor de los Anillos III: El retorno del rey”, cuando dice, en boca de uno de los protagonistas de su novela: “No nos atañe a nosotros dominar todas las mareas del mundo sino hacer lo que está en nuestras manos por el bien de los días que nos ha tocado vivir, extirpando el mal en los campos que conocemos, y dejando a los que vendrán después una tierra limpia para las labranzas”.