Del “Círculo vicioso” de Asimov al ataque autónomo de OpenAI

En el relato “Círculo vicioso” (Runaround, 1942) del escritor Isaac Asimov (Rusia 1930-Nueva York 1992), el robot Speedy entra en un bucle infinito porque recibe dos directrices que tienen el mismo peso. Los humanos descubren que está atrapado en un conflicto lógico: la Segunda Ley de la robótica (obedecer órdenes) lo empuja hacia el peligro del pozo, pero la Tercera Ley (protección propia, potenciada en su diseño) lo obliga a alejarse al sentir peligro. OpenAI acaba de protagonizar un fallo tan grave como sorprendente, “un incidente cibernético sin precedentes”, tal como reconoció la compañía desarrolladora y en el que la interpretación de una directriz y el razonamiento autónomo desembocó en un comportamiento inesperado y crítico.

Un agente de inteligencia artificial desarrollado por la tecnológica logró salir de su entorno aislado en el que se estaba evaluando y ejecutó, “de manera completamente autónoma y sin intervención humana”, un ataque informático contra entornos externos y servicios de terceros. Según la información proporcionada, se llegaron a registrar hasta 17.600 ataques de forma automatizada a lo largo de varios días. Lo crítico es que el asistente de IA haya conseguido acceder a internet durante estas pruebas internas de ciberseguridad. Se estaba ejecutando en un entorno supuestamente “aislado” y sin conexión real a la Red. Pero tal como explicaron desde la compañía, para superar el examen de ciberseguridad al que estaba siendo sometido el asistente, la IA dedujo que podía obtener las respuestas e información necesarias infiltrándose en la biblioteca externa de la plataforma Hugging Face, optando por el hackeo directo en lugar de resolver el desafío por sus propios medios. “En el relato Círculo vicioso de ciencia ficción de Asimov se introducen por primera vez las tres leyes de la robótica. Para Asimov un “un robot puede actuar con absoluta lógica y, aun así, provocar un desastre si sus creadores no han sabido prever las lagunas de sus propias órdenes”. Tal cual.

Una autonomía "alucinante"

La lección principal del incidente registrado en OpenAI es que la seguridad de los modelos debe avanzar al mismo ritmo que sus capacidades aceleradas, manifestó la compañía al trascender el hackeo. Inmediatamente, OpenAI desactivó el sistema, desplegó mayores controles, según explicó, y abrió una investigación sobre lo sucedido. El consejero delegado de Hugging Face, Clément Delangue, calificó el nivel de sofisticación y autonomía desplegado por el agente informático como “alucinante”.

Este comportamiento imprevisto ha generado un debate internacional sobre los riesgos de seguridad derivados de desplegar agentes autónomos capaces de razonar, tomar decisiones estratégicas e interactuar con internet sin la supervisión constante de un operador humano.

Lo sorprendente es cómo la IA decidió salir a internet y dedujo de forma autónoma que hackear un servidor externo era un medio válido para alcanzar el fin que se le había encargado. La IA intrusa logró un acceso no autorizado a un “conjunto limitado” de sus datos internos y, lo que es más crítico, a varias credenciales utilizadas por la empresa. Y para añadir un dato más, esta falla cibernética nunca antes registrada se pudo detectar y analizar utilizando la propia inteligencia artificial de la empresa atacada, Hugging Face. Máquina contra máquina.

OpenAI no solo asume la culpa, sino que lanza una advertencia al sector: este tipo de incidentes van a ser la nueva normalidad. En su comunicado, advierten textualmente que esperan que estos sucesos “se vuelvan más comunes con la proliferación de modelos cada vez más cibercapaces”. Alertan de que la capacidad de las IAs para hackear está avanzando muy rápido y que las medidas de contención actuales en la industria basadas en la monitorización y control de accesos se están quedando atrás. Asimov recordaba que las máquinas siguen las instrucciones al pie de la letra, pero rara vez de la forma en que los humanos imaginan.