Imagens deepfake da prisão de Trump fizeram as pessoas acreditarem que realmente aconteceu.
Se você é ativo no Twitter, pode ter visto algumas imagens chocantes do ex-presidente dos EUA, Donald Trump, sendo preso por policiais, lutando com eles e até fugindo deles. Acontece que nada disso era real. Mas como tudo isso aconteceu?
A prisão de Donald Trump que nunca aconteceu
O ex-presidente dos EUA compartilhou um suposto vazamento por meio de seu oficial Identificador social da verdade em 18 de março. A postagem afirmava que ele esperava uma prisão na terça-feira da semana seguinte por acusações "antigas e totalmente desmascaradas" contra ele. Não demorou muito para que as imagens da prisão de Trump começassem a aparecer em toda a internet.
As imagens mostraram o que parecia ser a prisão de Trump por um grupo de policiais.
As imagens foram geradas por IA
As imagens, no entanto, não eram autênticas. Eles eram deepfakes feitos com Midjourney, um gerador de imagem AI. Midjourney usa um algoritmo de aprendizado profundo para gerar imagens do zero usando prompts de texto. Nesse caso, os prompts de texto eram variações de Trump sendo preso.
tecnologia deepfake já existe há algum tempo e está se tornando cada vez mais sofisticado. As imagens geradas por IA costumavam ser facilmente identificáveis: careciam de detalhes e realismo. No entanto, Último lançamento do Midjourney (v5) corrigiu a maioria desses problemas e foi, de fato, a versão usada para gerar os deepfakes da prisão de Trump.
Como as imagens se tornaram virais
Eliot Higgins, um jornalista investigativo, criou as primeiras versões dos deepfakes da prisão de Trump para visualizar como seria uma prisão de Trump. Ele os postou em sua conta no Twitter. Embora sua legenda tenha deixado claro desde o início que as imagens eram falsas, não demorou muito para que o post se tornasse viral.
À medida que as imagens se espalhavam pelas redes sociais, muitas pessoas acreditavam que era real. A postagem de Trump no Truth Social já deixou as pessoas suspeitas, e as imagens realistas apenas alimentaram o fogo. Demorou um pouco até ficar claro que as fotos eram falsas e que a história da prisão era uma farsa.
As postagens nas redes sociais "relatando" a prisão falsa foram excluídas ou têm o rótulo de desinformação. Como penalidade, Midjourney também baniu Higgins de seu servidor por um mês, por The Washington Post.
A era dos deepfakes exige vigilância
Os deepfakes da prisão de Trump destacam os avanços alarmantes na tecnologia de IA. Imagens falsas agora podem ser criadas com uma facilidade incrível e parecem tão realistas que é difícil distinguir o que é real do que não é. A vigilância agora é mais crítica do que nunca quando se trata de conteúdo online.
