Esto sabemos del algoritmo racista de Twitter por el que tuvieron que disculparse

Twitter es señalado una vez más y ahora es por su algoritmo

La otra red social – Twitter, señalada por muchos como el Chernobyl de las redes sociales por sus altos grados de toxicidad, tiene ahora una nueva acusación en su contra. Y es que algunos usuarios comenzaron a notar que su algoritmo es, digamos, racista.

El algoritmo de Twitter está diseñado para “recortar” las imágenes grandes y mostrar lo que considera más relevante. Por ejemplo, siempre le da prioridad al texto por sobre otras cosas, como bien lo demuestra aquí nuestra amiga personal la Biuriofertas:

Como pueden ver, se trata de una imagen larguísima, pero el algoritmo detecta que el perro está diciendo algo importante y enfoca el tuit en él. Pasa lo mismo con las personas, aunque precisamente el asunto es que casi siempre prefiere mostrar a gente blanca que a personas afrodescendientes.

Veamos acá un ejemplo que se hizo viral, lo pondremos en screenshot por si cambian el algoritmo o lo borran. Esta es la imagen que muestran:

Y esta es la imagen una vez que la abren…

O sea, de entre toooodas las personas, Twitter elige al blanquito. De hecho en la gran mayoría de los casos es así y en algunos ejemplos se demuestra que no importa el tono de piel de las opciones, Twitter siempre prefiere los tonos claros.

Las únicas excepciones parecen ser cuando el fondo de los blanquitos está muy atascado o cuando las imágenes de personas afrodescendientes son al menos 1.5 veces más grandes que sus contrapartes.

Acá está el tuit original por si lo quieren ver en vivo, además de más ejemplos o experimentos en ese mismo hilo.

La empresa del pajarito tuvo que salir a disculparse

Ante la tremenda cancelada que les dieron los usuarios, Twitter tuvo que salir a disculparse diciendo que, aunque probaron las herramientas de detección de imágenes para buscar sesgos, en realidad no fueron lo suficientemente meticulosos con esto.

Al respecto, un portavoz de Twitter dijo que la compañía estaría revisando de nuevo sus algoritmos y que compartirían los resultados.

¿Por qué pasa esto o qué?

Aunque la respuesta corta es que hicieron mal su trabajo, la respuesta es más amplia. Algunos dicen que usaron bancos de imágenes de Internet, en donde la representación es predominantemente blanca. Otras versiones apuntan a que fueron precisamente personas caucásicas y que probaron los algoritmos en su propio tono de piel.

Sea como sea, es una prueba más de que la tecnología no es tan objetiva como nos gustaría creer.

VE TAMBIÉN: La rata gigante de la CDMX se robó nuestro corazón y nos dejó con estos 11 memazos