Primer ataque notificado de una IA que entró en la Agencia Protección de Datos, modificó datos personales y consultó facturas

Según la información comunicada por la organización afectada, la Agencia Española de Protección de Datos, el agente atacante inició una búsqueda de vulnerabilidades en archivos genéricos y logró realizar un login correcto. Tras acceder al sistema, comenzó a identificar de forma autónoma vulnerabilidades en la aplicación, lo que le permitió modificar datos personales y acceder a facturas.

La AEPD advierte de que estos hechos deberán ser objeto del correspondiente análisis y que la utilización de un modelo concreto de IA no implica que este ni la infraestructura de su proveedor hayan sido comprometidos o diseñados para actividades maliciosas. Lo relevante desde la perspectiva de la protección de datos es que un tercero habría empleado un agente de IA para encadenar con éxito distintas fases de un ataque.

Aunque esta primera notificación no permite establecer una tendencia estadística, sí constituye una señal de que los ataques apoyados en IA han dejado de ser un riesgo meramente teórico. Los agentes de IA introducen un cambio cualitativo al poder planificar tareas, utilizar herramientas, ejecutar código, interpretar resultados y adaptar su actuación de forma autónoma.

Ante este escenario, la AEPD subraya la necesidad de incorporar estos riesgos a los análisis de seguridad, reforzar la gestión de vulnerabilidades y mejorar los mecanismos de detección y respuesta.

Una primera notificación de ataque muy relevante

Según la propia Agencia de Protección de Datos, la importancia de esta notificación reside en que confirma la necesidad de incorporar expresamente los ataques asistidos o ejecutados mediante IA a los análisis de riesgos de los tratamientos.

En segundo lugar, obliga a revisar los tiempos de respuesta. Los procedimientos diseñados para ataques ejecutados manualmente pueden resultar insuficientes cuando un agente analiza simultáneamente múltiples activos, prueba distintas vías de acceso y adapta su comportamiento con rapidez.

En tercer lugar, aumenta la importancia de las identidades digitales y de las credenciales. Un agente que obtiene una cuenta, una clave API o un token con permisos excesivos puede operar a la velocidad de una máquina y acceder a diferentes servicios antes de que la organización detecte un comportamiento anómalo.

Finalmente, evidencia que la seguridad de los tratamientos no puede depender únicamente de la intervención manual. La supervisión humana continúa siendo imprescindible, pero debe apoyarse en mecanismos de detección, contención y respuesta capaces de operar con la rapidez suficiente.