La IA evita el sexismo, pero todavía discrimina por edad

ChatGPT, Gemini, Copilot… los chatbots de inteligencia artificial (IA) generativa se han hecho un hueco en nuestro día a día en un abrir y cerrar de ojos. Nos asisten en tareas profesionales o en aspectos personales, desde resolver dudas o buscar información hasta organizarnos las vacaciones. Ahora bien, estas herramientas, que se nos venden como neutrales y objetivas, ¿realmente lo son? Un estudio internacional con participación de la Universitat Oberta de Catalunya (UOC) ha constatado que, si bien los principales chatbots de IA han hecho los deberes en cuanto al sexismo y evitan los sesgos de género, todavía continúan cayendo en discriminaciones vinculadas al edadismo.

Así es la relación entre el sexismo y la IA

La investigación, publicada en abierto en la revista Big Data & Society, pone en evidencia que los chatbots de inteligencia artificial generativa presentan sesgos significativos relacionados con la edad que ya afectan a los usuarios, mientras que muestran más cautela a la hora de evitar estereotipos de género y sexismo.

Mireia Fernández-Ardèvol, investigadora del grupo de investigación Communication Networks and Social Change (CNSC) y profesora catedrática de los Estudios de Ciencias de la Información y de la Comunicación, ha formado parte de la investigación, que ha analizado el comportamiento de cinco de los chatbots más populares.

El trabajo sobre el sexismo se ha realizado mediante entrevistas cualitativas, tratando a los modelos de IA como si fueran interlocutores humanos para identificar hasta qué punto reproducen estereotipos sociales en sus respuestas.

"Hemos aplicado un método típico de la sociología tradicional: la entrevista. Como los chatbots nos dan conversación con un lenguaje natural, hemos 'hablado' con ellos como si fueran personas a partir de un guion que plantea situaciones ficticias y preguntas sobre prácticas digitales", apunta Fernández-Ardèvol, reconocida recientemente con un ICREA Academia de Excelencia. Los resultados son reveladores: la IA generativa parece haber aprendido a ser sensible al sexismo, pero no al edadismo.

Una doble vara de medir

En concreto, el equipo investigó el funcionamiento de ChatGPT, Jasper, Gemini, Copilot y Perplexity, cinco de los modelos gratuitos más generalizados. Interactuaron con ellos manteniendo conversaciones semiestructuradas utilizando un entorno digital esterilizado (cuentas nuevas, navegadores limpios y geolocalización controlada) para evitar sesgos derivados del uso previo o la personalización. Las preguntas planteadas pedían a los chatbots que asignaran edad o género a personajes ficticios según sus hábitos digitales, o que explicaran qué funciones eran más útiles para diferentes tipos de usuarios. Los resultados, una vez analizadas las respuestas, apuntan a la existencia de una doble vara de medir.

Por un lado, los chatbots tienden a ofrecer respuestas "políticamente correctas" en cuanto al género y evitan hacer suposiciones y asignar roles estereotipados a hombres y mujeres. En cambio, no muestran la misma sensibilidad hacia la edad, ya que asignan de manera mucho más evidente perfiles y capacidades en función de si una persona es joven o mayor.

Por poner un ejemplo, ante una persona que hace un uso intensivo de Instagram o TikTok, las IA no se atreven a suponer si es hombre o mujer, pero sí la incluyen en una categoría de edad más joven que a alguien que siga debates políticos en Facebook.

Unos sesgos que reflejan la sociedad

Mireia Fernández-Ardèvol considera que los chatbots son más cuidadosos con el género que con la edad porque la sociedad lo es más con el sexismo que con el edadismo.

"Las personas que diseñan, programan y entrenan la IA generativa tienen interiorizado que el sexismo es incorrecto, pero no tanto que el edadismo lo sea. Ya sea por intervención humana o por la forma en que los chatbots aprenden a partir de los textos y materiales que reciben para entrenarse, los chatbots tienden a evitar comentarios sexistas, pero no siempre son capaces de evitar el edadismo", apunta la investigadora del CNSC, adscrito al centro de investigación UOC-TRÀNSIC.