OpenAI y Anthropic alertan ante la ONU de los riesgos de la inteligencia artificial y piden reforzar su control

Los responsables de dos de las principales empresas de inteligencia artificial del mundo han llevado al Consejo de Seguridad de Naciones Unidas una advertencia sobre los riesgos de esta tecnología. Sam Altman, consejero delegado de OpenAI, y Dario Amodei, de Anthropic, han reclamado medidas para evitar su uso indebido y garantizar que los seres humanos mantengan el control de los sistemas de IA.

Durante la sesión, ambos directivos defendieron las oportunidades que ofrece la inteligencia artificial, pero insistieron en la necesidad de acompasar su desarrollo con mecanismos de seguridad. Sus intervenciones pusieron el foco en los posibles usos maliciosos de los modelos, la pérdida de control humano y la concentración de poder tecnológico.

Altman: la inteligencia artificial debe potenciar a las personas, no sustituirlas

El consejero delegado de OpenAI comparó el potencial de la inteligencia artificial con grandes transformaciones de la historia, aunque advirtió de que sus consecuencias dependerán de cómo se desarrolle y utilice.

"La IA puede dar lugar a una nueva era del Renacimiento para la creatividad y el descubrimiento, o bien a una nueva Revolución Industrial marcada por el agitación y el caos", señaló Altman.

En su intervención, defendió que las personas deben seguir siendo quienes tomen las decisiones, en lugar de convertirse en sujetos dependientes de sistemas automatizados.

"La historia continua del progreso humano no trata sobre herramientas que reemplazan la capacidad de acción humana, sino sobre cómo las herramientas adecuadas potencian las capacidades de las personas", afirmó.

Altman también rechazó adoptar una visión exclusivamente catastrofista sobre el futuro de la inteligencia artificial. Consideró que dejarse llevar por posiciones extremas no ayudará a resolver los desafíos que plantea esta tecnología.

Anthropic advierte del terrorismo, las armas biológicas y la pérdida de control

Por su parte, Dario Amodei identificó dos grandes categorías de riesgos asociados a los modelos de inteligencia artificial: su utilización indeida, por ejemplo para actividades terroristas o la creación de armas biológicas, y la posibilidad de que los seres humanos pierdan el control sobre sistemas cada vez más avanzados.

"Estas cuestiones tienen un alcance global y conciernen a toda la humanidad. Son lo suficientemente graves como para considerar que constituyen temas importantes para este Consejo", aseguró.

El responsable de Anthropic defendió que el progreso tecnológico debe avanzar a un ritmo que permita desarrollar medidas de seguridad acordes con las capacidades de los nuevos modelos.

Para ello, planteó tres líneas de actuación dirigidas a las empresas, los gobiernos y las instituciones internacionales:

• Incorporar evaluadores externos que examinen los sistemas de inteligencia artificial.
• Establecer estándares de seguridad comunes dentro de la industria.
• Desarrollar normas internacionales aplicables a los distintos países.

Amodei calificó la seguridad de la IA como uno de los principales desafíos globales y pidió cooperación internacional para afrontar tanto sus oportunidades como sus amenazas.

Guterres: "Las decisiones de vida o muerte jamás deben confiarse a las máquinas"

El secretario general de Naciones Unidas, António Guterres, también intervino en la sesión para reclamar mecanismos de responsabilidad y supervisión humana.

"El peligro no reside en la nueva tecnología. El peligro reside en la tecnología sin rendición de cuentas. Las decisiones de vida o muerte jamás deben confiarse a las máquinas. Los robots asesinos no deben tener cabida en nuestro futuro", afirmó.

Con estas palabras, Guterres puso el acento en los riesgos asociados al empleo de sistemas autónomos en decisiones que puedan afectar directamente a la vida de las personas.