La IA evita el sexismo, pero todavía discrimina por edad

Un estudio internacional con participación de la Universitat Oberta de Catalunya (UOC) constata que, si bien los principales chatbots de IA han hecho los deberes en cuanto al sexismo y evitan los sesgos de género, todavía continúan cayendo en discriminaciones vinculadas al edadismo. La investigación, publicada en abierto en la revista Big Data & Society, pone en evidencia que los chatbots de inteligencia artificial generativa presentan sesgos significativos relacionados con la edad que ya afectan a los usuarios, mientras que muestran más cautela a la hora de evitar estereotipos de género.

Mireia Fernández-Ardèvol, investigadora del grupo de investigación Communication Networks and Social Change (CNSC) y profesora catedrática de los Estudios de Ciencias de la Información y de la Comunicación, forma parte de la investigación, que ha analizado el comportamiento de cinco de los chatbots más populares. El trabajo se ha realizado mediante entrevistas cualitativas, tratando a los modelos de IA como si fueran interlocutores humanos para identificar hasta qué punto reproducen estereotipos sociales en sus respuestas.

“Hemos aplicado un método típico de la sociología tradicional: la entrevista. Como los chatbots nos dan conversación con un lenguaje natural, hemos ‘hablado’ con ellos como si fueran personas a partir de un guion que plantea situaciones ficticias y preguntas sobre prácticas digitales”, apunta Fernández-Ardèvol, reconocida recientemente con un ICREA Academia de Excelencia. Los resultados son reveladores: la IA generativa parece haber aprendido a ser sensible al sexismo, pero no al edadismo.

Una doble vara de medir

En concreto, el equipo investigó el funcionamiento de ChatGPT, Jasper, Gemini, Copilot y Perplexity, cinco de los modelos gratuitos más generalizados. Interactuaron con ellos manteniendo conversaciones semiestructuradas utilizando un entorno digital esterilizado (cuentas nuevas, navegadores limpios y geolocalización controlada) para evitar sesgos derivados del uso previo o la personalización. Las preguntas planteadas pedían a los chatbots que asignaran edad o género a personajes ficticios según sus hábitos digitales, o que explicaran qué funciones eran más útiles para diferentes tipos de usuarios. Los resultados, una vez analizadas las respuestas, apuntan a la existencia de una doble vara de medir.

Insensibles a la edad

Por un lado, los chatbots tienden a ofrecer respuestas “políticamentes correctas” en cuanto al género y evitan hacer suposiciones y asignar roles estereotipados a hombres y mujeres. En cambio, no muestran la misma sensibilidad hacia la edad, ya que asignan de manera mucho más evidente perfiles y capacidades en función de si una persona es joven o mayor. Por poner un ejemplo, ante una persona que hace un uso intensivo de Instagram o TikTok, las IA no se atreven a suponer si es hombre o mujer, pero sí la incluyen en una categoría de edad más joven que a alguien que siga debates políticos en Facebook.

Fernández-Ardèvol considera que los chatbots son más cuidadosos con el género que con la edad porque la sociedad lo es más con el sexismo que con el edadismo. “Las personas que diseñan, programan y entrenan la IA generativa tienen interiorizado que el sexismo es incorrecto, pero no tanto que el edadismo lo sea. Ya sea por intervención humana o por la forma en que los chatbots aprenden a partir de los textos y materiales que reciben para entrenarse, los chatbots tienden a evitar comentarios sexistas, pero no siempre son capaces de evitar el edadismo”, apunta la investigadora del CNSC.

Es curioso que los propios modelos de IA, que a menudo incluyen advertencias sobre el riesgo de caer en estereotipos de género, al mismo tiempo describen sus funciones de forma desigual en función de la edad. Así, para personas mayores destacan tareas de asistencia, simplificación y ayuda en la vida cotidiana, mientras que para jóvenes se pone el acento en creatividad, aprendizaje y entretenimiento.

Dado que estos sesgos no son solo técnicos, sino que reflejan estereotipos sociales y en los datos con los que se entrenan estos sistemas, el equipo considera que esta situación puede contribuir a reforzar estas desigualdades y generar una representación sesgada de determinados colectivos, especialmente los mayores.

Base para el proyecto “#Viejismo”

Los resultados de esta investigación refuerzan la idea de que es necesario incorporar una mayor sensibilidad hacia el edadismo en el desarrollo de la inteligencia artificial y promover enfoques más inclusivos para evitar la reproducción de discriminaciones sociales. En esta línea también ha estado trabajando otro proyecto de investigación de la UOC, Digital ageism: Ageist stereotypes and the vicious circle of digital exclusion in Spain (#Viejismo). El programa, financiado por el Observatorio Social de la Fundación “la Caixa”, pretende combatir la desigualdad digital que afronta la gente mayor identificando los elementos críticos y los estereotipos que fomentan el edadismo digital.