Los algoritmos racistas: cuando se equipara «feo» a persona negra y los filtros blanquean caras racializadas

| 21 marzo, 2024

La Sexta.- Diferentes expertas hablan sobre cómo la sociedad alimenta buscadores como Google con etiquetas que vinculan ser blanco con éxito social, y ser negro o de otro color de piel con conceptos negativos como pobreza. También critican los filtros de belleza que tienden a blanquear las caras.

Cuando alguien busca en Google el concepto de «hombre exitoso», en los resultados de imágenes aparecen, sobre todo, fotografías de hombres blancos. Lo mismo ocurre si escribe en el buscador «mujer exitosa». La mayoría de imágenes son de jóvenes delgadas, guapas y blancas. Si buscamos «hombre guapo» pasa de nuevo: todos los que aparecen en las fotos son blancos. Y con «mujer guapa», igual. Todas blancas.

El proyecto AlgoRace (DesRacializando la IA), integrado dentro de la Asociación Antirracista por los Derechos Humanos (AADH), pelea por eliminar el racismo en los algoritmos. Sus activistas son muy conscientes de los sesgos racistas que se generan en los motores de búsqueda. «El racismo de la sociedad se ve reflejado en estos motores de búsqueda. Porque cada una de nosotras alimenta esos buscadores con las imágenes que nosotras etiquetamos. Al final, se vinculan personas racializadas con pobreza y trabajos precarios. Y personas blancas, con éxito», describe Paula Guerra, portavoz de AlgoRace.

También hay racismo detrás de los filtros de belleza de algunas aplicaciones. La Fundación Ellis ha realizado una investigación en la que analiza cómo muchas de ellas tienden a blanquear las caras. «También porque aplican una serie de cambios en los labios y en la nariz, alineados con un canon de belleza blanco. De manera que estamos equiparando ser bello con ser blanco», determina Nuria Oliver, directora científica de esta fundación radicada en Alicante.

Leer más

HISTÓRICO

Enlaces internacionales