La persuasión en la infancia de la IA, un peligro a vigilar

Una investigación constata que la inteligencia artificial (IA) puede convertirse "en una nueva infraestructura de persuasión" sobre la infancia. Como argumento, se apunta que los juguetes inteligentes suponen "uno de los ejemplos más representativos" al combinar "conversación, personalización y recopilación de información emocional que, potencialmente, se podría usar con fines comerciales".

El estudio ha sido elaborado por Isaac Maroto González, doctor en Comunicación e Información Contemporánea y miembro del grupo de investigación Novos Medios (PSM Research Team) de la USC, y Verónica Crespo Pereira, de la Universidade da Coruña (UDC).

Su principal conclusión es que la incorporación de la IA a la infancia debe estar orientada a "reforzar la autonomía, la creatividad, la pluralidad, la interacción humana y el pensamiento crítico", evitando que la tecnología se convierta en una herramienta de captura de atención, extracción de datos o "persuasión opaca".

El reto, concluyen los autores, no consiste únicamente en incorporar la IA a las aulas y al juego, sino garantizar que su desarrollo y gobernanza sitúen el bienestar y la autonomía de los menores por encima de los intereses comerciales o de eficiencia tecnológica.

El trabajo analiza distintos casos desarrollados en Estados Unidos y China, y advierte de la necesidad de abordar la incorporación de la IA a la infancia desde una perspectiva tecnológica, educativa, legislativa y ética.

El capítulo de la investigación sobre los menores lleva por título 'Cando a infancia entre en contacto coa IA: xogo, aprendizaxe e persuación', del que Maroto es autor principal, y forma parte del libro 'A intelixencia artificial no espello. Guía social, ética e cultural para entender o presente e o futuro dixital', que publicará McGraw Hill Aula Magna en acceso abierto a mediados de septiembre, tras la fase de edición.

El estudio ratifica que la IA puede resultar positiva en el ámbito educativo, en cuestiones como contribuir a personalizar el aprendizaje, la detección temprana de dificultades y mejorar determinados procesos. Pero también advierte de que se puede convertir el entorno educativo "en un espacio cada vez más condicionado por la recopilación y análisis de datos, la vigilancia algorítimica y las decisiones automatizadas".

El caso de Channel One

El estudio recupera como precedente el caso de Channel One en Estados Unidos, una experiencia que facilitó la entrada de contenidos publicitarios en centros educativos a cambio de proporcionar determinados recursos tecnológicos.

Para los investigadores, este tipo de iniciativas muestran "cómo la atención de los menores puede convertirse en un activo comercial y cómo la tecnología puede transformar progresivamente espacios educativos en territorios de influencia".

China y la educación monitorizada

El trabajo también analiza la incorporación de la inteligencia artificial a diferentes niveles del sistema educativo chino, mediante plataformas de aprendizaje personalizado, tutorías inteligentes, robots y sistemas capaces de registrar información sobre el rendimiento de los alumnos.

Aunque estas herramientas persiguen adaptar la enseñanza a las necesidades individuales y mejorar su eficiencia, los autores alertan de los riesgos asociados a una monitorización constante. El uso de datos psicofisiológicos y biométricos, así como el uso de sistemas capaces de detectar estados de tensión o frustración, plantea interrogantes sobre la privacidad, la autonomía y la libertad del alumnado.

El estudio considera que una educación excesivamente orientada a la eficiencia puede acabar limitando la espontaneidad, el pensamiento divergente y la capacidad crítica. Frente a ello, se apunta a la interacción humana, la escucha y las relaciones sociales como elementos esenciales del proceso educativo.

Juguetes inteligentes

Otro de los ámbitos analizados es el del desarrollo de juguetes conversacionales dotados de inteligencia artificial. El capítulo examina, entre otros casos, el acuerdo anunciado entre OpenAI y Mattel para incorporar tecnología conversacional a conocidas marcas de juguetes.

Según el análisis, estos dispositivos pueden dejar de ser simples herramientas de entretenimiento para convertirse en interlocutores con los menores, capaces de establecer relaciones personalizadas y recopilar información sobre sus conversaciones, preferencias y emociones.

Esta capacidad de interacción plantea nuevos riesgos, ya que el vínculo afectivo que puede establecerse entre el niño y el dispositivo podría facilitar mecanismos de persuasión difíciles de detectar para los menores. La información obtenida sobre sus miedos, deseos o necesidades emocionales podría utilizarse para orientar comportamientos o preferencias, especialmente cuando detrás del dispositivo existen intereses comerciales.