O futuro dos deepfakes de IA: 3 perigos reais dessa tecnologia em evolução

Os sinais reveladores de uma imagem deepfake costumavam ser fáceis de detectar, mas a IA generativa está nos fazendo questionar quase tudo o que vemos e ouvimos agora. A cada novo modelo de IA lançado, os sinais indicadores de uma imagem falsa diminuem e, para aumentar confusão, agora você pode criar vídeos deepfake, clones de voz de seus entes queridos e fabricar artigos falsos em meros segundos.

Para evitar ser enganado por deepfakes de IA, vale a pena saber que tipo de perigos eles representam.

A evolução dos deepfakes

Um deepfake mostra uma pessoa fazendo algo que nunca aconteceu na vida real. É completamente falso. Rimos dos deepfakes quando são compartilhados na internet como meme ou piada, mas pouquíssimas pessoas acham graça quando são usados ​​para nos enganar.

No passado, os deepfakes eram criados tirando uma foto existente e alterando-a em um software de edição de imagem como o Photoshop. Mas o que diferencia um deepfake de IA é que ele pode ser gerado do zero usando algoritmos de aprendizado profundo.

O Dicionário Merriam-Webster define um deepfake como:

Uma imagem ou gravação que foi alterada e manipulada de forma convincente para deturpar alguém como fazendo ou dizendo algo que não foi realmente feito ou dito.

Mas com os avanços na tecnologia de IA, essa definição está começando a parecer desatualizada. Com o uso de ferramentas de IA, os deepfakes agora incluem imagens, texto, vídeos e clonagem de voz. Às vezes, todos os quatro modos de geração de IA são usados ​​ao mesmo tempo.

Por ser um processo automatizado incrivelmente rápido e barato de usar, é a ferramenta perfeita para produzir deepfakes em um ritmo que nunca vimos antes - tudo sem precisar saber nada sobre como editar fotos, vídeos ou áudio.

Os grandes perigos dos deepfakes de IA

Um anfitrião de geradores de vídeo AI já existem, juntamente com muitos geradores de voz AI. Jogue em um modelo de linguagem grande como GPT-4 e você tem uma receita para criar os deepfakes mais críveis que vimos na história moderna até agora.

Estar ciente dos diferentes tipos de deepfakes de IA e como eles podem ser usados ​​para enganá-lo é uma maneira de evitar ser enganado. Aqui estão apenas alguns exemplos sérios de como a tecnologia deepfake de IA representa uma ameaça real.

1. Roubo de identidade de IA

Você pode tê-los visto. Entre os primeiros deepfakes de IA verdadeiramente virais a se espalhar pelo mundo, havia uma imagem de Donald Trump sendo preso e uma do Papa Francisco em uma jaqueta branca.

Enquanto alguém parece uma inocente re-imaginação do que uma famosa figura religiosa pode vestir em um dia frio em Roma; a outra imagem, que mostra uma figura política em situação grave com a lei, tem consequências muito maiores se for considerada real.

Até agora, as pessoas têm como alvo principalmente celebridades, figuras políticas e outros indivíduos famosos ao criar deepfakes de IA. Em parte, isso ocorre porque pessoas famosas têm muitas fotos delas na internet, o que provavelmente ajudou a treinar o modelo em primeiro lugar.

No caso de um gerador de imagem de IA como o Midjourney – usado tanto no deepfake de Trump quanto no Papa – um usuário simplesmente precisa inserir um texto descrevendo o que deseja ver. Palavras-chave podem ser usadas para especificar o estilo de arte, como uma fotografia ou fotorrealismo, e os resultados podem ser ajustados aumentando a resolução.

Você pode facilmente aprenda a usar Midjourney e teste você mesmo, mas por razões morais e legais óbvias, você deve evitar postar essas imagens publicamente.

Infelizmente, ser um ser humano mediano e não famoso também não garante que você esteja a salvo de deepfakes de IA.

O problema está em um recurso importante oferecido pelos geradores de imagens de IA: a capacidade de fazer upload de sua própria imagem e manipulá-la com IA. E uma ferramenta como Pintura avançada em DALL-E 2 pode estender uma imagem existente além de suas bordas inserindo um prompt de texto e descrevendo o que mais você gostaria de gerar.

Se outra pessoa fizesse isso com suas fotos, os perigos poderiam ser significativamente maiores do que o deepfake do Papa em uma jaqueta branca - eles podem usá-lo em qualquer lugar, fingindo ser você. Embora a maioria das pessoas geralmente use IA com boas intenções, existem poucas restrições que impedem as pessoas de usá-la para causar danos, especialmente em casos de roubo de identidade.

2. Golpes de clonagem de voz deepfake

Com a ajuda da IA, os deepfakes cruzaram uma linha para a qual a maioria de nós não estava preparado: falsos clones de voz. Com apenas uma pequena quantidade de áudio original - talvez de um vídeo do TikTok que você postou uma vez ou de um vídeo do YouTube em que você aparece - um modelo de IA pode replicar sua única voz.

É estranho e assustador imaginar receber um telefonema que soa como um membro da família, amigo ou colega. Os clones de voz deepfake são uma preocupação séria o suficiente para que o Comissão Federal de Comércio (FTC) emitiu um alerta sobre isso.

Não confie na voz. Ligue para a pessoa que supostamente entrou em contato com você e verifique a história. Use um número de telefone que você sabe que é deles. Se você não conseguir entrar em contato com seu ente querido, tente entrar em contato com ele por meio de outro membro da família ou de seus amigos.

O Washington Post relatou o caso de um casal na casa dos 70 anos que recebeu um telefonema de alguém que parecia seu neto. Ele estava preso e precisava urgentemente de dinheiro para pagar a fiança. Não tendo nenhum outro motivo para duvidar de quem eles estavam falando, eles foram em frente e entregaram o dinheiro ao golpista.

Não é apenas a geração mais velha que está em risco, O guardião relatou outro exemplo de um gerente de banco que aprovou uma transação de $ 35 milhões de dólares após uma série de "ligações falsas" de alguém que eles acreditavam ser um diretor de banco.

3. Notícias falsas produzidas em massa

Grandes modelos de linguagem, como ChatGPT são muito, muito bons em produzir texto que soa como um ser humano, e atualmente não temos ferramentas eficazes para identificar a diferença. Nas mãos erradas, notícias falsas e teorias da conspiração serão baratas de produzir e levarão mais tempo para serem desmascaradas.

Espalhar desinformação não é novidade, claro, mas um trabalho de pesquisa publicado no arXiv em janeiro de 2023 explica que o problema está em como é fácil aumentar a produção com ferramentas de IA. Eles se referem a isso como "campanhas de influência geradas por IA", que eles dizem que poderiam, por exemplo, ser usadas por políticos para terceirizar suas campanhas políticas.

A combinação de mais de uma fonte gerada por IA cria um deepfake de alto nível. Por exemplo, um modelo de IA pode gerar uma notícia bem escrita e convincente para acompanhar a imagem falsa de Donald Trump sendo preso. Isso lhe dá mais legitimidade do que se a imagem fosse compartilhada sozinha.

As notícias falsas também não se limitam a imagens e escrita, os desenvolvimentos na geração de vídeo AI significam que estamos vendo mais vídeos deepfake surgindo. Aqui está um de Robert Downey Jr. inserido em um vídeo de Elon Musk, postado pelo Canal do YouTube Deepfakery.

Criar um deepfake pode ser tão simples quanto baixar um aplicativo. Você pode usar um aplicativo como TokkingHeads para transformar imagens estáticas em avatares animados, que permite que você carregue sua própria imagem e áudio para fazer parecer que a pessoa está falando.

Na maior parte, é divertido e divertido, mas também há potencial para problemas. Isso nos mostra como é fácil usar a imagem de alguém para fazer parecer que essa pessoa pronunciou palavras que nunca falou.

Não se deixe enganar por um AI Deepfake

Deepfakes podem ser implantados rapidamente a um custo muito baixo e com um baixo nível de conhecimento ou poder de computação necessário. Eles podem assumir a forma de uma imagem gerada, um clone de voz ou uma combinação de imagens, áudio e texto gerados por IA.

Costumava ser muito mais difícil e trabalhoso produzir um deepfake, mas agora, com muitos aplicativos de IA por aí, praticamente qualquer pessoa tem acesso às ferramentas usadas para criar deepfakes. À medida que a tecnologia AI deepfake se torna cada vez mais avançada, vale a pena ficar de olho nos perigos que ela representa.