Como te ve, te juzga: confirman que la IA te responde diferente según cómo hablas/escribes

Esta es la verdadera “revolución de las máquinas”

Villa Metroid.- En algo que ni James Cameron ni Isaac Asimov vieron venir, acaban de descubrir que la inteligencia artificial te responde según cómo le hablas, y pues este no es el mejor momento para escribir con faltas de ortografía.

Desde hace unos meses, la inteligencia artificial ha llegado a nuestra vida para ayudarnos con algunas tareas o dudas del día a día, pero no sospechábamos que este sistema nos contestaría “según cómo nos viera”, como si estuviéramos en el tianguis.

Salió delicada la IA

Resulta que investigadores de varias universidades —entre las que no se encuentra la de Chapingo— descubrieron que los sistemas de IA no solo fallan al interpretar dialectos, sino que además tienden a asociar estereotipos negativos con sus hablantes. Es decir, discriminan según vean cómo el humano les pregunta las cosas.

En la investigación, se descubrió que los chatbots “etiquetan” o agrupan a los usuarios según su forma de hablar, incluyendo el uso de dialectos, y que, con base en esta “clasificación”, es como deciden cómo contestarles.

Estos prejuicios se dan principalmente porque la inteligencia artificial “aprende” de textos publicados en la web, lo que genera representaciones sesgadas al enfrentarse a acentos locales, expresiones coloquiales y estructuras gramaticales distintas, discriminando de paso en sus respuestas.

Estos patrones han sido detectados en países como China, Malasia o Singapur, donde existen múltiples dialectos y formas de hablar, lo que ha provocado que la inteligencia artificial “trate diferente” a los miembros de estos grupos o colectivos, en un problema que nadie sabe si se puede acotar o si despertará al Terminator que duerme dentro de Grok.

Y para arrancar el año: una tiktokera se quejó que en los tianguis de Torreón no hablen inglés.