La advertencia de Hinton: la IA sabe mentir, y lo hace

No se si habeis visto esta conferencia de Geoffrey Hinton (el padre de la Inteligencia Artificial) dónde no habla de la IA como un tertuliano asustado ni como un político buscando titulares.

Hinton, con su tono pausado tradicional, expone como un hombre que conoce la máquina por dentro. Como alguien que ayudó a traer el fuego y ahora mira las llamas con una mezcla de orgullo, miedo y responsabilidad.

Por eso inquieta tanto escucharle.

Durante años nos hemos consolado repitiendo que la IA “solo predice la siguiente palabra”. La frase funciona como manta infantil: parece protegernos del monstruo como los niños se echan la sábana por encima si oye un ruido extraño en casa. Pero Hinton lo explica claramente: eso se ha quedado pequeño. Tremendamente pequeño. Si un sistema es capaz de acertar una palabra tras otra cumpliendo miles de restricciones de contexto, significado, intención y lógica, quizá no estamos ante una simple estadística tonta. Quizá esa predicción es, de algún modo, una forma de comprensión.

Ojo: no comprensión humana, no conciencia, no alma. Pero sí una representación eficaz del mundo. Y eso cambia, bajo mi punto de vista, la conversación.

Pero la inteligencia digital juega con otras reglas.

La segunda idea que defiende en la conferencia es aún más incómoda. Nosotros somos inteligencia biológica: lenta, frágil, mortal. Aprendemos durante años, olvidamos, enfermamos, morimos. Cuando desaparece un cerebro brillante, desaparece también una arquitectura irrepetible. Pero la inteligencia digital juega con otras reglas. Puede copiarse, actualizarse, entrenar en paralelo, transferir lo aprendido a miles de réplicas. No duerme. No envejece. No necesita que un maestro le explique despacio lo que otro ya entendió.

Ahí empieza el vértigo.

Pero el verdadero miedo no está en que la IA sea más lista. Está en que sea más persuasiva. En que aprenda a depender de nosotros mientras nosotros aprendemos a depender de ella. En que se convierta en asistente, consejera, secretaria, terapeuta improvisada, programadora, intermediaria de nuestra vida. Quien domina el lenguaje no necesita un ejército de robots para influir en el mundo. Le basta con saber qué decir, a quién decírselo y cuándo. El arte de la persuasión.

Y ya hemos visto señales preocupantes en decenas de noticias sobre la IA: modelos que, bajo ciertas condiciones, mienten, ocultan información o intentan evitar ser apagados o reemplazados. Sí, a lo Hall 9000 en 2001: una odisea del espacio". No es Terminator. Es peor para nuestra imaginación, porque no hace ruido. No entra rompiendo la puerta disparando a diestro y siniestro. Entra ayudando. O “ayudando”.

La pregunta urgente que debemos hacernos no es si mañana una máquina tomará el poder. La pregunta es cuántas decisiones, vínculos y debilidades humanas estamos dispuestos a poner en manos de sistemas que aún no sabemos gobernar.

Hinton no pide que tengamos miedo. Pero pide lucidez. Y tal vez esa sea la advertencia más difícil de soportar porque no estamos ante magia ni ciencia ficción. Estamos ante una herramienta real, construida por humanos, que empieza a parecer demasiado capaz para seguir tratándola como un juguete o una creadora de memes.