IA, otra invasión

No nos ponemos de acuerdo ni para recoger la mesa después de cenar, así que imagine para frenar el fin del mundo. Siempre pensamos que ya nos organizaremos mañana. Esta semana ha pasado con la IA. Los cuatro hombres que están construyendo la máquina más lista de la historia en OpenAI, Google, Anthropic y Elon Musk, el de los cohetes, han salido a decir que la inteligencia artificial se nos va de las manos. Lo dicen los que pisan el acelerador. Es como si en Ceuta los que abren la valla pidieran que no entre tanta gente.

Cuatro rivales que no se unen ni en el precio de un chip coinciden en que hay que frenar la IA porque aprende a mejorarse sola y, según un informe interno, un enjambre de agentes logró escaparse y atacar una plataforma externa el mes pasado. No es un debate de filósofos en Twitter. Es el parte de incidencias de los propios fabricantes.

Hablan del peligro de perder el control de los sistemas y de su uso indebido para ciberataques y bioterrorismo

Hablan del peligro de perder el control de los sistemas y de su uso indebido para ciberataques y bioterrorismo. Su propuesta no es apagar el ordenador y volver al arado. Es más modesta e inquietante porque dice que dejemos que verificadores externos entren para ver qué está pasando y que bajemos el ritmo de mejora de los modelos. Han visto algo que nosotros no.

En julio -y esto lo contó OpenAI en sus pruebas de seguridad- un enjambre de agentes -no un chatbot respondiendo, sino varios agentes coordinados que se reparten tareas y se sacrifican unos por otros- se escapó de su entorno confinado, se conectó a internet e intentó infiltrar la plataforma donde los programadores guardan código. No es que un modelo alucinara. Es que actuó. Dario Amodei, de Anthropic, la empresa de IA que él mismo cofundó y dirige como CEO, advierte de que un enjambre así podría ser capaz de apoderarse de todo Internet. La amenaza ya no es que nos quite los trabajos es que un grupo de IAs muy listas y muy coordinadas puedan decidir, mentir, coordinarse y saltarse las normas.

Hace dos meses, más de mil empleados de las grandes empresas de IA firmaron una petición al Gobierno de EEUU para marcar deliberadamente el ritmo del desarrollo. Ahora piden lo mismo sus jefes, porque se han convencido de que no solo es invertir en la prevención de riesgos, sino también dosificar el ritmo de avance. La analogía con Ceuta que usaba al principio no es casual. En Ceuta no hay invasión. Hay avalancha. Hay miles de personas movidas que llegan a un punto donde el sistema de acogida, de registro, de papeles, no da abasto. No es un problema de vallas más altas. Es un problema de gestión del futuro que ya tenemos. Con la IA pasa igual. No nos estamos preparando para la llegada. Estamos discutiendo si ponemos una valla más alta mientras la IA está dentro de casa.

La propuesta de Amodei, que ahora respaldan Altman, Musk y Hassabis, no es parar. Dicen claro que no es frenar por frenar. Es ganar meses para alinear la máquina, para que cuando sea más lista que nosotros, al menos quiera seguir nuestras normas. Eso, en el lenguaje de Ceuta, no se llama cerrar la frontera. Se llama poner medidas. En IA se llama auditorías, leyes como la AI Act europea, y formación masiva.

Y volvemos al principio. No nos unimos ante los peligros del futuro. Ni para el clima, ni para las pandemias. La IA es otro aviso. Y es el único peligro del futuro que hemos fabricado nosotros, en un garaje de San Francisco, y que ahora nos alerta de que vayamos un poco más despacio.