sábado, diciembre 4, 2021

¿Racistas? Redes Sociales solo identifican como bello a mujeres blancas

Al buscar en Google, Mujer Bella, únicamente aparecen una serie de fotografías de mujeres con rasgos físicos similares. Todas ellas tienen la piel blanca.

Esto es lo que sucede cuando buscas la fotografía de una mujer bonita en Google.

Hace unos meses, los usuarios de Twitter detectaron que al momento de recortar las imágenes, el algoritmo prefería recortar siempre las caras de personas blancas.

Usuarios de todo el mundo realizaron pruebas para encontrar que efectivamente, la red social siempre daba prioridad a los rostros que tenían rasgos caucásicos, sobre otro tipo de caras.

Esto fue calificado por los usuarios como una programación deliberadamente racista, sin embargo Twitter lo negó.

«Encontrar sesgos en los modelos de aprendizaje automático (ML) es difícil y, a veces, las empresas descubren los daños éticos no deseados una vez que ya han llegado al público. Queremos cambiar eso. Como parte de DEF CON AI Village de este año , estamos intentando algo radical al presentar la primera competencia de recompensas por sesgo algorítmico de la industria» se puede leer en el comunicado de la empresa Twitter.

Aunque el algoritmo fue retirado hace un par de meses, continuaba siendo una incógnita el motivo de esta reacción automática.

Instagram no modera el racismo

Pero Twitter no es la única red acusada de apología al racismo, Instagram luego permitió una serie de comentarios racistas.

Luego admitió  que un error en su algoritmo no identificó los comentarios racistas y emojis. Estos comentarios se produce después de la final masculina de la Eurocopa 2020 contra los futbolistas ingleses negros: Bukayo Saka, Marcus Rashford y Jadon Sancho.

En respuesta jefe de Instagram, Adam Mosseri, afirmó que el contenido se había identificado «por error» dentro de las pautas en lugar de enviarse a moderadores humanos. El problema ahora se ha solucionado, declaró. «Tenemos tecnología para tratar de priorizar los informes y estábamos marcando erróneamente algunos de estos como comentarios como benignos, que no lo son en absoluto», comentó al medio británico BBC News.

Esto causó revuelo entre todos los usuarios, ya que otro tipo de contenido se prohíbe en la red social, mientras que comentarios racistas continúan apareciendo.

¿Por qué los algoritmos muestran racismo?

A través de un comunicado, los desarrolladores de la red social admitieron que el algoritmo daba preferencia a los rostros de mujeres blancas. Sin embargo, aclararon que no era algo que se planeó de esta manera.

De acuerdo con la Facultad de Contaduría y Administración de la UNAM Un algoritmo es un conjunto detallado y lógico de pasos para alcanzar un objetivo o resolver un problema; por ejemplo, el instructivo para armar un modelo de avión a escala.

Los algoritmos tienen sesgos porque principalmente ordenan información a partir de datos que sus programadores le ingresan.

Esto significa que si cualquier persona, si atiende de forma estricta la secuencia de los pasos, podría llegar al mismo resultado.

La construcción de algoritmos se basa en la abstracción,  a través de un proceso de análisis se seguirá con el diseño de una solución fundamentada en modelos, los cuales ven su representación tangible en el proceso de implementación del algoritmo.

Esto significa que se basan en información ya existente para seleccionar lo que consideran más cercano a las imágenes que han recibido.

No solo aplica para Twitter este funcionamiento, si no también para otras redes sociales que también utilizan algoritmos para ordenar información

Twitter encuentra la falla

Twitter inició la convocatoria a un concurso para invitar a desarrolladores especialistas en informática, a encontrar el detalle que seleccionaba

«En mayo, compartimos nuestro enfoque para identificar sesgos en nuestro algoritmo de prominencia (también conocido como nuestro algoritmo de recorte de imágenes), y pusimos nuestro código a disposición de otros para que reproduzcan nuestro trabajo. Queremos llevar este trabajo un paso más allá al invitar e incentivar a la comunidad para que ayude a identificar los daños potenciales de este algoritmo más allá de lo que nosotros mismos identificamos»

Además ofreció un premio de hasta 3 mil 500 dólares a quien encontrara el problema.

Esta mañana, El País dio a conocer que ya hay un ganador. La respuesta a este problema de la informática fue encontrado por Bogdan Kulynych (Ucrania, 1993) quien confirmó que el algoritmo prefiere rostros claros, jóvenes, delgados y con rasgos femeninos.

Para llegar a esta conclusión, el joven de 28 años diseñó varias caras y posteriormente modificó algunos rasgos, de modo que la página mostraba preferencia por las imágenes señaladas.

Es decir, el sesgo podría deberse al concepto de «lo bello» que el programa identificó.

Comentarios racistas de  TikTokers

La red social de los videos breves también ha sido señalada por permitir comentarios racistas por parte de algunas estrellas. La TikToker Anna Shumate, fue criticada en las redes sociales por hacer comentarios racistas y antisemitas en su cuenta de vídeos.

Shumate,tiene más de 11 millones de seguidores en las redes sociales, pero en su cuenta de respaldo hizo  el siguiente comentario: “Me gusta mi tocino como me gustan mis judíos. Quemado y crujiente”

Como ves, no solo se trata de un sesgo en el recorte de imágenes, las redes sociales han sido señaladas por permitir y promover el contenido de ciertos creadores, los cuales en su  mayoría tienen rasgos específicos.

También te puede interesar:

Detienen a dos asaltantes en Chalco

Danae Valdés
Escribo notas e historias de la ciudad | Estudié Letras en la UNAM y luego Periodismo de Investigación en CIDE e Ibero | Antes: Ciencia UNAM y El Universal.

Relacionado

Información al momento

141,800FansMe gusta
7,757SeguidoresSeguir
4,140SuscriptoresSuscribirte

Últimas notas