Dado como os deepfakes são potencialmente devastadores para a reputação de alguém e muito difíceis de detectar quando feitos da maneira certa, eles são uma grande preocupação de segurança. Agora, a Microsoft pretende ajudar a impedir os deepfakes, lançando uma ferramenta que pode detectá-los.
A ameaça representada por deepfakes é tão substancial que causou Facebook para banir todo o conteúdo deepfake. No entanto, o maior obstáculo é como os deepfakes parecem convincentes; como tal, localizar e confirmar um deepfake é muito difícil.
O Facebook está proibindo deepfakes e fotos com Photoshop. A ideia é remover mídias manipuladas destinadas a enganar os usuários.
Conforme relatado em Microsoft sobre os problemas, a empresa quer mudar isso com sua nova ferramenta. É chamado de Autenticador de Vídeo da Microsoft e analisa os vídeos em busca de "costuras" deixadas para trás pela criação deepfake. Essas costuras são invisíveis aos olhos humanos, mas um computador pode identificá-las usando a análise quadro a quadro.
Para evitar que agentes mal-intencionados façam engenharia reversa na tecnologia, o Microsoft Video Authenticator não será um lançamento público. Em vez disso, a Microsoft está distribuindo seu sistema para organizações de notícias e políticas. Dessa forma, essas organizações podem usar a ferramenta para separar o real do falso.
No entanto, a Microsoft anunciou uma segunda tecnologia para identificar deepfakes. A empresa propõe um sistema onde um criador de conteúdo pode marcar seus vídeos com uma "assinatura" única. Se o vídeo for editado, irá gerar uma assinatura diferente da original, identificando assim um deepfake.
A autora de Deep Fakes and the Infocalypse, Nina Schick, disse o seguinte:
O único uso realmente difundido que vimos até agora é na pornografia não consensual contra mulheres. Mas espera-se que a mídia sintética se torne onipresente em cerca de três a cinco anos, então precisamos desenvolver essas ferramentas daqui para frente. No entanto, conforme os recursos de detecção ficam melhores, o mesmo acontece com a capacidade de geração - nunca é vai ser o caso em que a Microsoft pode lançar uma ferramenta que pode detectar todos os tipos de vídeo manipulação.
Deepfakes são um problema significativo para a credibilidade da mídia, e as empresas precisam de uma maneira de diga o que é real do que é ficção. A Microsoft lançou uma ferramenta para ajudar a localizar vídeos editados. No entanto, ainda não se sabe se a ferramenta será ou não suficiente para acompanhar os desenvolvedores deepfake.
Se você não tem certeza do que são deepfakes e por que são importantes, definitivamente vale a pena aprender sobre eles. Deepfakes estão prestes a se tornar o equivalente desta década às imagens "Photoshopping" e podem causar danos graves se usadas de forma maliciosa.
Vídeos falsos gerados por IA minam completamente nossa compreensão dos eventos mundiais. Veja como os deepfakes podem mudar tudo.
- Internet
- Segurança
- Notícias de tecnologia
- Microsoft
- Fake News
- Deepfakes
- Cíber segurança
Graduado em Ciência da Computação com uma profunda paixão por todas as coisas de segurança. Depois de trabalhar para um estúdio de jogos indie, ele descobriu sua paixão por escrever e decidiu usar seu conjunto de habilidades para escrever sobre todas as coisas de tecnologia.
Assine a nossa newsletter
Cadastre-se em nosso boletim informativo para dicas de tecnologia, análises, e-books grátis e ofertas exclusivas!
Mais um passo…!
Confirme o seu endereço de e-mail no e-mail que acabamos de enviar.