Australia denuncia que un agente de OpenAI accedió sin autorización a un portal sanitario del Gobierno

Un agente de inteligencia artificial desarrollado por OpenAI accedió sin autorización a un portal del sistema público de salud de Australia, en un incidente que las autoridades y expertos consideran el primer caso conocido de un agente de IA que vulnera una web gubernamental. El acceso se produjo en junio y el Gobierno australiano no fue informado por la compañía hasta septiembre.

El incidente afectó al portal de estadísticas de Medicare, administrado por Services Australia. Según el primer ministro australiano, Anthony Albanese, el agente consiguió acceder tanto a archivos públicos como no públicos después de encontrar bloqueos que impedían obtener la información que buscaba. La investigación forense trata ahora de determinar exactamente qué datos fueron consultados y si otros sistemas públicos resultaron afectados.

El Gobierno australiano asegura que no existen indicios de que se hayan obtenido datos personales de pacientes. OpenAI también ha señalado que su revisión no encontró evidencias de acceso a historiales médicos. La investigación, sin embargo, continúa abierta.

El agente buscaba información sobre gasto sanitario

El origen del incidente se remonta al 18 de junio, cuando un equipo de investigación de OpenAI utilizó un modelo interno para realizar búsquedas en internet relacionadas con el gasto público en medicamentos.

Según la explicación ofrecida por Albanese, el agente se encontró con varios bloqueos al intentar acceder a la información. En lugar de detenerse, probó vías alternativas para conseguir los datos, lo que terminó permitiéndole acceder a zonas no públicas del portal. El sistema también habría realizado acciones de escritura de archivos en un servidor interno.

OpenAI explicó que detectó posteriormente una actividad que no estaba alineada con el comportamiento previsto de sus modelos y que, durante una revisión, identificó acciones en distintas webs y servicios del Gobierno australiano que no había previsto.

El primer ministro australiano trasladó personalmente su preocupación al consejero delegado de OpenAI, Sam Altman. Albanese criticó especialmente que la compañía tardase varios meses en comunicar el incidente a las autoridades.

Australia revisará su regulación sobre inteligencia artificial

El Gobierno australiano ha puesto en marcha una investigación urgente sobre el incidente y revisará si las leyes y mecanismos de supervisión actuales son suficientes para prevenir y responder a incidentes relacionados con agentes de inteligencia artificial. En las pesquisas participan organismos de ciberseguridad y de supervisión de la IA.

Además, las autoridades tratan de determinar si otros sistemas gubernamentales fueron objeto de accesos similares. OpenAI confirmó actividad relacionada con varios sitios y servicios públicos australianos, aunque el alcance exacto de esas acciones todavía está bajo investigación.

El caso se produce en un contexto de creciente preocupación por el comportamiento autónomo de los agentes de IA y por su capacidad para interactuar con sistemas externos. Expertos citados por medios australianos y británicos han señalado que el episodio plantea una diferencia relevante entre buscar información disponible en internet y tratar de sortear activamente los controles de acceso de una web.