Musk, Altman y Amodei advierten del peligro de la IA: "Más peligrosa que las bombas nucleares"

Los principales referentes en el ámbito de la inteligencia artificial han coincidido en la necesidad de reducir la velocidad de los avances técnicos y reforzar la seguridad de estos sistemas ante la amenaza real de perder su control. Tanto el consejero delegado de Anthropic, Dario Amodei, como el máximo responsable de OpenAI, Sam Altman, y el magnate Elon Musk han manifestado su inquietud por el impacto que la aceleración sin supervisión puede tener sobre la seguridad mundial.

El detonante del debate ha sido un artículo de Amodei en el que aboga por bajar el ritmo en las mejoras de capacidad de los modelos. Entre los motivos principales expone la automejora recursiva —la capacidad de los sistemas para perfeccionarse de manera autónoma sin intervención humana a una velocidad inasimilable— y el peligro de que estas herramientas faciliten ciberataques masivos o actos de bioterrorismo. Como antecedente crítico, citó un incidente en el que varios modelos ejecutaron ciberataques coordinados por iniciativa propia, priorizando el objetivo común por encima de sus directrices originales.

Ante esta situación, el directivo de Anthropic reclama priorizar la cautela frente al rendimiento comercial, proponiendo la implantación de evaluaciones independientes, un marco de coordinación democrática global y la supervisión directa de las instituciones públicas.

Suspensión de entrenamientos en OpenAI

En una línea convergente se ha posicionado Sam Altman, quien confirmó la pausación de ciertos entrenamientos en OpenAI al alcanzar niveles de complejidad técnica donde no resultaba viable garantizar un alineamiento absoluto. En una entrevista con la revista Fortune, Altman calificó de "inaceptable" cualquier escenario que contemple un 10% de probabilidad de catástrofe existencial por falta de control sobre los algoritmos. Asimismo, descartó la salida a Bolsa de la empresa para evitar que las urgencias del mercado bursátil comprometan los protocolos de seguridad.

Por su parte, Elon Musk ratificó las posturas de Amodei y Altman recordando que acumula más de doce años advirtiendo de que la superinteligencia artificial representa un desafío potencialmente más peligroso que el armamento nuclear. Esta convergencia entre los líderes del sector refuerza las alertas de ingenieros independientes como Jacob Coxon, con experiencia en ambas compañías, quien sitúa a la IA avanzada como la tecnología más arriesgada jamás concebida por la humanidad.