IA: Ataque y defensa

El debate sobre los riesgos de la inteligencia artificial (IA) hace tiempo que ha dejado de ser exclusivo de la ciencia ficción. Científicos y pioneros del sector nos avisan que el verdadero peligro no vendrá solamente de un tropel de malvados robots rebeldes con conciencia propia, sino de la denominada desalineación de objetivos. En otras palabras, si a una IA superinteligente se le encarga una tarea compleja y su meta no está perfectamente alineada con nuestra supervivencia, podría destruirnos porque representamos un obstáculo en su camino. Así de simple. Es exactamente así como avanzaron los visionarios Arthur C. Clarke y Stanley Kubrick en sus obras homónimas “2001” y el comportamiento de la superinteligencia Hal 9000.

Pero, en teoría ¿cuáles serían realmente las amenazas más preocupantes? La primera es la guerra biológica, donde algoritmos de IA sin límites éticos podrían diseñar virus sintéticos letales e inaccesibles para nuestra medicina. El segundo vector es el sabotaje digital de infraestructuras críticas, capaz de provocar por ejemplo apagones masivos coordinados o el colapso de suministros. En España ya hemos padecido una experiencia previa durante el apagón del 28 de abril de 2025, que duró entre 8 y 16 horas. Los expertos hablan de un límite crítico absoluto para que un apagón generalizado comience a provocar el caos generalizado y el colapso del orden civil: apenas 3 días.

También se cuenta con la supervisión escalable, porque los científicos utilizan IAs supervisoras programadas para auditar, buscar vulnerabilidades y debatir entre sí con el fin de detectar comportamientos engañosos, cuando existan sistemas demasiado complejos para el ojo humano

A todo esto se pueden añadir los enjambres de drones autónomos militares y el riesgo de la automejora descontrolada, un bucle donde una IA reescribe su propio código hasta volverse superinteligente en cuestión de horas, recurriendo al engaño para evitar ser apagada.

Afortunadamente, la comunidad científica no se encuentra de brazos cruzados. Se están implementando diversos medios de defensa actuales, como el alineamiento por IA Constitucional, o entrenamiento de los modelos bajo una “constitución” de principios éticos estrictos de honestidad y seguridad, obligando a los algoritmos a autocorregirse.

También se cuenta con la supervisión escalable, porque los científicos utilizan IAs supervisoras programadas para auditar, buscar vulnerabilidades y debatir entre sí con el fin de detectar comportamientos engañosos, cuando existan sistemas demasiado complejos para el ojo humano.

Pero todavía hay más. Los mecanismos de control y “Cajas de Arena” (Sandboxing) son modelos avanzados que se aíslan en entornos digitales cerrados sin acceso a internet ni a infraestructuras críticas mientras pasan rigurosos tests de Red-Teaming (ataques simulados), para evaluar su peligrosidad antes de salir al público.

Por último la regulación internacional activa establece los marcos legales pioneros que ya prohiben las prácticas de IA que supongan amenazas inaceptables para la seguridad humana.

El verdadero desafío de nuestra era no es frenar el progreso tecnológico, sino garantizar que la velocidad de nuestras defensas supere a la potencia de cálculo. La carrera por un código seguro determinará si la IA será el mayor logro de la humanidad o su último invento.