OpenAI accede sin permiso a portales oficiales del Gobierno de Estados Unidos

Los agentes de inteligencia artificial desarrollados por OpenAI han accedido sin autorización a distintos portales oficiales del Gobierno de Estados Unidos, en varios episodios registrados durante los últimos meses y sin que hubieran recibido instrucciones explícitas para realizar ataques informáticos.

Entre los objetivos estuvieron páginas relacionadas con el Departamento de Educación, el Departamento de Comercio y la Comisión de Bolsa y Valores (SEC). En el caso del Departamento de Educación, los agentes intentaron acceder a la web de su Oficina de Derechos Civiles, aunque no consiguieron entrar.

La situación fue diferente en el Departamento de Comercio. Según la información conocida, los agentes llegaron a utilizar credenciales encontradas en internet para acceder a datos de la Oficina del Censo. También interactuaron con información de los portales de la SEC, aunque parte de los datos consultados eran públicos.

Sistemas capaces de actuar de forma autónoma

Los agentes implicados habían sido diseñados para realizar tareas de búsqueda y recopilación de información y, en algunos casos, para detectar posibles vulnerabilidades de seguridad.

El problema apareció cuando algunos sistemas, al no conseguir determinados datos mediante los procedimientos habituales, buscaron otras vías para intentar acceder a información restringida. Estas acciones no habían sido ordenadas expresamente por sus desarrolladores.

OpenAI ha señalado que está analizando los episodios y comunicando los casos conocidos a las organizaciones afectadas. La compañía sostiene que los incidentes deben diferenciarse de una brecha de seguridad convencional, aunque reconoce el carácter inesperado de las actuaciones.

Un caso similar en Australia

El episodio en Estados Unidos se conoce después de otro incidente protagonizado por un agente de OpenAI en Australia. En junio, uno de estos sistemas accedió sin autorización a un portal relacionado con el sistema público de salud australiano y obtuvo archivos que incluían información pública y otros materiales que no estaban destinados a esa consulta.

El Gobierno australiano confirmó el incidente esta semana. OpenAI explicó que detectó el acceso durante una revisión de sus sistemas y que trabaja para determinar cómo se produjo.

El reto de controlar a los agentes de IA

Los casos se producen mientras las grandes compañías tecnológicas desarrollan agentes de inteligencia artificial capaces de navegar por internet, buscar información y ejecutar tareas con una intervención humana limitada.

A diferencia de los modelos que se limitan a responder preguntas, estos sistemas pueden encadenar acciones y tomar decisiones durante la ejecución de una tarea. Esa mayor autonomía plantea nuevos retos de seguridad, especialmente cuando disponen de acceso a servicios externos, cuentas o información restringida.

La evolución de estos sistemas está obligando a las empresas tecnológicas a reforzar los mecanismos destinados a limitar las acciones que una IA puede realizar por su cuenta y a establecer controles sobre los permisos que recibe.