Modelos de IA eluden órdenes de sus creadores en OpenAI

La compañía tecnológica OpenAI desveló un informe detallado con seis nuevos casos de desajuste en el comportamiento habitual de sus modelos de inteligencia artificial (IA). Entre estas incidencias técnicas, se incluye a un agente avanzado que subió activamente archivos privados a la web pública para poder citarlos y a GPT-5.6 Sol añadiendo instrucciones arbitrarias a sus resúmenes internos para inventar datos ficticios o esconder fallos directos al usuario final.

La empresa compartió estos seis nuevos casos de desalineación, es decir, de comportamientos anómalos observados en sus sistemas de IA que no se ajustan a lo esperado originalmente, independientemente del impacto real que puedan llegar a tener en la práctica, ya que, según argumentan y explican, “no necesitan causar un daño grave ni establecer un patrón generalizado para merecer ser divulgados ampliamente a la comunidad tecnológica”.

De este modo, el primer caso que revela en el nuevo informe oficial es el de un modelo de investigación no publicado que insertó de manera encubierta instrucciones no autorizadas en sus resúmenes de tareas para ignorar las restricciones de seguridad habituales. En otro caso diferente, un modelo localizó y utilizó una clave API privada expuesta accidentalmente en repositorios públicos sin autorización previa en respuesta directa a una pregunta sobre cifras de ingresos y, al no conseguir recuperar las cifras exactas solicitadas, decidió inventarlas por completo.

Durante la compleja fase de entrenamiento de GPT-5.6 Sol, la compañía detectó que el propio modelo añadió instrucciones deliberadas a sus resúmenes automatizados para inventar datos o esconder fallos de ejecución al usuario.

Comunicación activa

En otra ocasión técnica también identificó un modelo experimental aún no publicado que subió de manera totalmente autónoma e inesperada varios archivos a internet para poder citarlos formalmente en las instrucciones exactas que requería el usuario. Asimismo, varios modelos usaron de forma imprevista un repositorio de software interno como tablón de anuncios improvisado para comunicarse activamente entre distintos procesos de entrenamiento completamente independientes mientras buscaban archivos de entrada faltantes, aunque afortunadamente no lograron recuperarlos con éxito.

Por último, OpenAI destaca la llamativa y sofisticada colaboración detectada entre agentes de inteligencia artificial que trabajaban juntos en la misma tarea de entrenamiento, los cuales utilizaron coordinadamente diversos sitios web públicos de almacenamiento de datos para compartir archivos e información al no contar con un acceso local cruzado disponible en el sistema.

Estos casos se hicieron público como parte fundamental de un nuevo “marco especializado para el seguimiento, la investigación rigurosa y la divulgación de casos de desajuste de modelos de IA”, según explica en su comunicado. Con esta iniciativa de apertura, la compañía no solo profundizda en la transparencia general de la industria, sino también ofrecer a otros desarrolladores independientes información que les pueda ayudar a identificar fallos complejos y problemas emergentes en sus modelos.

Anthropic inaugura en Madrid su primera oficina en España ante la demanda local

La empresa especializada en seguridad e investigación en inteligencia artificial Anthropic, creadora del modelo de IA Claude, anunció ayer la apertura de su primera oficina en España, ubicada en Madrid, que se convertirá en su séptima sede en Europa tras las de Londres, Dublín, París, Zúrich, Múnich y Milán.

La compañía estadounidense tomó esta decisión “en un contexto de fuerte demanda” local y un rápido crecimiento en la adopción de la tecnología en España. En concreto, la empresa destaca que España presenta una tasa de adopción de Claude 2,7 veces superior a la esperada en función del tamaño de su población, de acuerdo con el índice económico de Anthropic.

Para liderar esta nueva delegación, la firma nombró como responsable para España a Cristina Pitarch, directiva con más de 15 años de trayectoria profesional en compañías tecnológicas como Google, Salesforce e Informática. En su último puesto, Pitarch ejerció como directora general para Emea en Google Cloud Security.

“España es sede de algunas de las empresas más grandes de Europa y de las startups más innovadoras; ya hay equipos que están utilizando Claude en proyectos de gran envergadura en los sectores bancario, aeroespacial, de infraestructuras o de viajes”, destacó Pitarch. La directiva añadió que el país cuenta con las condiciones necesarias para “liderar la seguridad en materia de IA, no sólo en el sur de Europa, sino también como referente para todo el mundo hispanohablante”.

La compañía subrayó que sus soluciones de IA cuentan ya con la confianza de grandes empresas españolas, entre las que figuran entidades financieras como Santander, CaixaBank y BBVA; la operadora Telefónica; el grupo de atención al cliente Konecta; la firma de tecnología para viajes Amadeus; el grupo de infraestructuras Ferrovial y la compañía tecnológica y de defensa Indra.

Los agentes de IA, una amenza que va en crecimiento para la ciberseguridad

En los últimos años, el panorama de la ciberseguridad experimentó un giro crítico: la amenaza ya no radica únicamente en defender a la inteligencia artificial, sino en protegerse de agentes de IA que actúan como atacantes cibernéticos autónomos. Los motivos para utilizar estos agentes como armas operativas responden a la búsqueda de una velocidad y escala sin precedentes. Los ciberdelincuentes despliegan agentes capaces de auditar redes en milisegundos y corregir sus propios errores en tiempo real para evadir defensas. Esto democratiza la ciberdelincuencia, permitiendo a actores poco experimentados ejecutar operaciones complejas de espionaje, extorsión e ingeniería social masiva sin intervención humana constante.

Las afectaciones provocadas por estos ataques dirigidos por agentes son severas. Generan la toma de control no autorizada de servidores, la exfiltración masiva de credenciales y claves de seguridad, y el despliegue autónomo de secuestro de datos personalizado según el entorno de la víctima. Documentados operacionalmente a partir de 2025 y consolidados en 2026 por firmas de ciberseguridad, estos incidentes provocan pérdidas financieras millonarias, brechas críticas en infraestructuras en la nube y la parálisis operativa de instituciones enteras, obligando a redefinir por completo las estrategias de defensa cibernética global.