Twitter revela que abandonou o cultivo de IA devido ao preconceito racial e de gênero

A primeira vez que ouvimos a ideia de que o algoritmo de corte de imagens do Twitter pode ter alguns preconceitos foi em setembro de 2020. O engenheiro criptográfico Tony Arcieri carregou duas imagens apresentando o líder da maioria no Senado, Mitch McConnell, e o ex-presidente Barack Obama, e a IA cortada no rosto de McConnell nas duas vezes.

Quando a polêmica finalmente atingiu o pessoal do Twitter, a empresa prometeu analisar seu modelo. Finalmente, podemos ler essas descobertas.

Twitter compartilha os resultados de sua análise de algoritmo

No início de maio, O Twitter finalmente lançou visualizações de imagens em tamanho real em seus cronogramas móveis. Uma postagem no blog do Twitter revelou que o aplicativo cancelou seu algoritmo de corte de imagens depois que uma análise mostrou que ele tinha preconceitos de raça e gênero.

A plataforma começou a usar um algoritmo de saliência em 2018 para cortar suas imagens. O Twitter diz que os modelos de saliência são treinados em dados de rastreamento do olho humano, que são então usados ​​pelo algoritmo para estimar quais assuntos / elementos na imagem ele pensa serem mais importantes para a maioria pessoas.

O algoritmo então apresentaria uma pontuação de saliência para todas as partes da imagem antes de escolher o ponto com a pontuação mais alta para ser o centro do corte.

Depois de executar um teste quantitativo para verificar possíveis vieses, a equipe descobriu que o algoritmo de saliência parecia favorecer as mulheres em relação aos homens, e os brancos em relação aos negros.

O Twitter também testou o algoritmo para o "olhar masculino", mas nenhuma evidência de viés de objetificação foi encontrada.

Mesmo se o algoritmo de saliência fosse ajustado para refletir a igualdade perfeita entre os subgrupos de raça e gênero, nós [Twitter] estamos preocupados pelo dano representacional do algoritmo automatizado quando as pessoas não têm permissão para se representar como desejam no plataforma. A saliência também contém outros danos potenciais além do escopo desta análise, incluindo insensibilidade às nuances culturais.

Ao considerar as compensações entre a velocidade e a consistência do cultivo automatizado e seus riscos, O Twitter diz que sua equipe percebeu que cortar uma imagem é uma decisão tomada por pessoas, não algoritmos.

Relacionado: Tendências de tecnologia que já estão mudando o futuro

Twitter se livra do corte automático de imagens

O Twitter não usa mais o algoritmo de saliência e agora exibe fotos de proporção padrão na íntegra no iOS e no Android. Ao elaborar um tweet, você descobrirá que a nova atualização também inclui uma visualização real das imagens carregadas, para que você saiba como tudo ficará depois de publicado.

Se você estiver interessado em ler o artigo acadêmico do estudo, você pode encontrá-lo em arXiv.org. Você também pode encontrar o código do Twitter para a análise em GitHub.

Como fazer upload e visualizar imagens 4K no Twitter

O aplicativo do Twitter agora permite fazer upload e visualizar imagens em 4K. Veja como alterar suas configurações.

Leia a seguir

Sobre o autor