Facebook involucrado en nuevo escándalo por IA: confundió a afroamericanos con primates

Facebook involucrado en nuevo escándalo por IA: confundió a afroamericanos con primates

La red social de Facebook se refirió a un reciente suceso que los usuarios reportaron tras ver un video de un periódico que tenía a un afroamericanos como protagonista de la noticia, la inteligencia artificial de la plataforma les preguntó si querían “seguir viendo videos sobre primates”

Según la información consignada por la BBC, la red social se comunicó con ellos y les compartió que esto “era claramente un error inaceptable”, por lo que desactivaron el sistema para comenzar a investigar qué lo ocasionó. 

“Pedimos disculpas a cualquiera que haya visto estas recomendaciones ofensivas“, señaló Facebook. Este sistema siempre ha sido una preocupación por la comunidad por los prejuicios sociales y debates que ocurren en estos casos.

¿Inteligencia Artificial de Facebook racista?

En 2015 también ocurrió un hecho similar, cuando la aplicación de Fotos de Googleetiquetó las fotos de los afroamericanos como “gorilas”

En su momento, Google señaló estar “horrorizada y genuinamente apenada” y, según informó Wired en 2018, simplemente censuraron las búsquedas de fotos y etiquetas de las palabras “gorilas”, “monos” y “chimpancés”.

Hace unos meses, en mayo, Twitter también admitió que su “algoritmo de prominencia”había realizado sesgos raciales y recortó las vistas previas de las imágenes. Los estudios también han destacado que los sesgos en los algoritmos son impulsados por algunos sistemas de reconocimiento facial.

En 2020, Facebook anunció un nuevo “Consejo de producto inclusivo” junto a un “Equipo de equidad” en Instagram para examinar, entre otras cosas, si sus algoritmos exhibieron sesgo racial.

En el caso de la recomendación del algoritmo de Facebook para “seguir viendo a primates”, la compañía señaló a BBCC que esto se debía, efectivamente, a un error en sus sistema y que “no reflejaba el contenido del video”.

Deshabilitamos toda la función de recomendación de tema tan pronto como nos dimos cuenta de que esto estaba sucediendo para que pudiéramos investigar la causa y evitar que esto vuelva a suceder”, informaron a BBC. “Como hemos dicho, aunque hemos mejorado nuestra inteligencia artificial, sabemos que no es perfecta y que tenemos más progreso que hacer”, finalizaron.

Fuente: biobiochile.cl