Pode Deepfake Fool Reconhecimento Facial? Um novo estudo diz que sim!

Deepfakes e vídeos gerados por IA vieram para ficar. Mas, nos últimos anos, eles cresceram em qualidade e quantidade, fazendo com que muitas pessoas se preocupassem com a segurança nacional e a privacidade pessoal.

Ainda assim, não importa o quanto os usuários anônimos online tentem tornar seus vídeos falsos realistas, eles nunca conseguem passar por um software de reconhecimento facial avançado. Até agora.

Fooling Face Recognition APIs

Pesquisadores da Universidade Sungkyunkwan em Suwon, Coreia do Sul, testou a qualidade da tecnologia deepfake atual. Eles testaram as APIs da Amazon e da Microsoft usando software de geração de vídeo deepfake de código aberto e comumente usado para ver o seu desempenho.

Os pesquisadores usaram os rostos de celebridades de Hollywood. Para criar deepfakes sólidos, o software precisa de muitas imagens de alta qualidade de diferentes ângulos das mesmas pessoas, que são muito mais fáceis de adquirir de celebridades em vez de comuns pessoas.

Os pesquisadores também decidiram usar a API da Microsoft e da Amazon como referência para seu estudo, já que ambas as empresas oferecem serviços de reconhecimento facial de celebridades. Eles usaram conjuntos de dados disponíveis publicamente e criaram pouco mais de 8.000 deepfakes. De cada vídeo deepfake, eles extraíram várias imagens de rosto e enviaram para as APIs que estão em questão.

Com o Azure Cognitive Services da Microsoft, os pesquisadores foram capazes de enganar o sistema 78 por cento do tempo usando deepfakes. Os resultados da Amazon foram um pouco melhores, com 68% dos rostos enviados sendo identificados como reais.

E quanto aos detectores de Deepfake?

Os detectores de deepfake funcionam mais ou menos da mesma maneira que o deepfake. Os detectores são softwares treinados com modelos de aprendizado de máquina para detectar vídeos deepfake.

Mas, em vez de se concentrar na criação de um vídeo hiper-realista para enganar os detectores, os deepfakes agora podem incluir exemplos adversários em cada quadro para confundir o sistema de IA. Na verdade, ataques deepfake deste tipo têm taxas de sucesso que variam de 78 a 99 por cento.

Está ficando pior

Deepfakes é um aplicativo de aprendizado de máquina. Para criar um que seja mesmo remotamente convincente, você precisa de centenas de imagens do rosto da mesma pessoa de diferentes ângulos e exibindo várias emoções.

Devido à necessidade de grandes quantidades de dados, poderíamos pensar que apenas pessoas com uma grande presença online estão em risco, como celebridades e políticos. Mas isso não é mais o caso.

De acordo com a Deeptrace, o número de deepfakes online aumentou 330% em menos de um ano - de outubro de 2019 a junho de 2020. Sem mencionar que o software e os algoritmos usados ​​pelos fabricantes de deepfake estão se tornando mais fortes, mais prontamente disponíveis e acessíveis.

Quem corre o risco de falsificações?

Quando deepfakes se tornou popular, o principal as preocupações eram com a privacidade e segurança nacional. As pessoas temiam que vídeos de políticos e funcionários públicos não fossem mais confiáveis.

Mas, embora seja irresponsável desconsiderar a postura do deepfake de risco à segurança, várias pesquisas descobriram que os fabricantes do deepfake ainda não estão interessados ​​em perturbar a política. A maioria dos vídeos deepfakes online pode ser dividida em duas categorias: vídeos engraçados de entrevistas com celebridades e filmes e material pornográfico.

Embora o estudo recente tenha sido conduzido usando rostos de celebridades para garantir que os deepfakes fossem de alta qualidade para enganar as APIs, isso não significa que você não pode fazer deepfakes com menos dados. Claro, eles podem não ter a chance de enganar sistemas avançados de reconhecimento facial, mas podem ser convincentes o suficiente para enganar outras pessoas.

Hoje em dia, falsificações profundas de qualquer pessoa com presença social podem ser feitas de forma convincente. Eles só precisam de algumas fotos suas e talvez de um vídeo em que você apareça. O deepfake resultante pode ser de baixa qualidade, mas ainda é viável e pode ser prejudicial.

O futuro ainda é desconhecido

Existem muitas previsões contraditórias sobre o estado dos deepfakes, já que eles não irão desaparecer tão cedo.

Alguns esperam um futuro cibernético apocalíptico onde você não pode confiar em nenhuma filmagem que encontrar online. Outros são mais otimistas, comparando deepfakes à animação e dizendo que pode haver um futuro na produção de conteúdo.

Como se proteger de vídeos falsos

Deepfakes estão se tornando mais prevalentes. Veja como eles podem ameaçar sua privacidade online e como evitar serem enganados.

Leia a seguir

Sobre o autor