IA do Facebook rotula homem negro como primata e gera revolta

Não é a primeira vez que a plataforma sofre criticas desse tipo

O Facebook está sendo altamente criticado depois que usuários da plataforma assistirem a um vídeo do Daily Mail apresentando um encontro entre um homem branco e um grupo de homens negros que estavam comemorando um aniversário. O vídeo captura o homem branco supostamente ligando para o 911 para relatar que ele está “sendo assediado por um bando de homens negros”, antes de cortar para um vídeo não relacionado que mostrava policiais prendendo um inquilino negro em sua própria casa. As pessoas que assistiram o vídeo receberam uma mensagem perguntando se eles gostariam de “continuar vendo vídeos sobre primatas”, relatou o New York Times na sexta-feira.

“Este foi claramente um erro inaceitável e desabilitamos todo o recurso de recomendação de tópico assim que percebemos que isso estava acontecendo para podermos investigar a causa e evitar que isso aconteça novamente”, disse o porta-voz do Facebook Dani Lever em um comunicado ao USA TODAY. “Como dissemos, embora tenhamos feito melhorias em nossa IA, sabemos que não é perfeita e temos mais progresso a fazer”, disse ela. “Pedimos desculpas a qualquer pessoa que possa ter visto essas recomendações ofensivas.”

Há algum tempo existe um debate na internet sobre a inteligência artificial das plataformas, várias vezes essas empresas foram criticadas por preconceito racial em seus sistemas automatizados. Em 2015, o Google se desculpou depois que seu aplicativo Photos identificou erroneamente os negros como “gorilas”. Outro incidente, um ano depois, teve buscas de imagens no Google por “três adolescentes negros” mostrando fotos e “três adolescentes brancos” mostrando adolescentes brancos sorridentes. Naquele mesmo ano, o chatbot de IA da Microsoft, Tay, começou a espalhar calúnias raciais e teve de ser colocado offline.

Outros sinais de preconceito racial se infiltrando em produtos de tecnologia incluem filtros do Instagram que iluminam a pele ou fetichizam características étnicas e filtros do Snapchat que usam blackface ou caricaturas de asiáticos. O ex-funcionário do Facebook Darci Groves twittou sobre o erro na quinta-feira depois que um amigo a informou sobre o erro de identificação. Ela compartilhou uma captura de tela do vídeo que capturou a frase do Facebook “Continue vendo vídeos sobre primatas?” mensagem.

Sair da versão mobile