Os usuários do Twitter descobrem um potencial preconceito racial no algoritmo de colheita automática

O Twitter está tentando determinar por que seu recurso de visualização de fotos mostra sinais de preconceito racial. Vários usuários descobriram que rostos negros tinham maior probabilidade de serem cortados nas visualizações de fotos em comparação com rostos brancos.

Uma falha no algoritmo do Twitter

Quando você vê uma imagem no Twitter, é apenas uma visualização; você deve clicar nela para ver a imagem inteira. O Twitter usa um algoritmo para cortar fotos, ditando o que você verá nas visualizações das imagens.

Em 2018, o Twitter anunciou seu recurso de corte automático inteligente em uma postagem no Twitter Blog. Esse recurso usa "saliência" para aprimorar as partes mais proeminentes das fotos e, em seguida, recorta as visualizações das fotos de acordo.

Os usuários do Twitter descobriram que a rede neural da plataforma pode ter um viés racial. Um usuário postou uma foto do senador dos EUA Mitch McConnell ao lado do ex-presidente Barack Obama.

A pré-visualização da imagem mostra claramente o rosto de Obama, mesmo quando seu rosto está colocado no topo da foto. Quando o mesmo usuário tentou inverter as cores da imagem, o rosto de Obama finalmente apareceu na visualização da imagem.

Outros usuários começaram a conduzir seus próprios experimentos. Repetidamente, os usuários descobriram que o algoritmo parecia preferir consistentemente rostos brancos em vez de rostos negros.

Liz Kelley, membro da equipe de comunicação do Twitter, enviou um tweet em resposta às descobertas dos usuários do Twitter. Ela notou que, embora a equipe do Twitter já tenha testado o algoritmo para polarização, ela teria que investigar mais.

Todas essas descobertas resultaram de um tweet de um usuário sobre um Problema de chamada de zoom. O zoom falhou continuamente em detectar o rosto de seu amigo negro quando ele tentou usar um plano de fundo virtual. Quando o usuário recorreu ao Twitter para postar capturas de tela do problema, o Twitter cortou seu amigo negro da visualização da imagem.

Eliminando o preconceito do Twitter

Embora todos esses experimentos sejam informais, eles parecem destacar um problema real. O Twitter definitivamente terá que olhar mais de perto seu recurso de corte automático e ver se ele tem um preconceito racial arraigado.

Dito isso, o algoritmo de corte automático do Twitter não é o único recurso do Twitter que foi criticado. Afinal, muitos usuários também não são fãs do algoritmo da plataforma que organiza automaticamente seu feed.

Como (e por que) desabilitar feeds de algoritmo no Twitter, Instagram e Facebook

Os feeds algorítmicos atendem apenas a redes sociais. Veja como mudar para feeds cronológicos no Twitter, Instagram e Facebook.

Sobre o autor