A inteligência artificial (IA) tem o potencial de mudar a própria natureza da nossa sociedade. E se as ferramentas de IA que temos atualmente à nossa disposição são uma indicação do que está por vir, temos muito o que esperar.
Também temos muito com o que nos preocupar. Ou seja, o armamento da IA por cibercriminosos e outros atores de ameaças. Essa não é uma preocupação teórica, e nem mesmo os geradores de imagens de IA são imunes a abusos.
O que são geradores de imagem AI? Como eles funcionam?
Se você já usou um gerador de imagens AI, você tem uma boa ideia do que se trata. Mesmo que você nunca tenha usado um, provavelmente já encontrou imagens geradas por IA nas mídias sociais e em outros lugares. O software popular hoje funciona com um princípio muito simples: o usuário digita o texto e a IA gera uma imagem com base nesse texto.
O que acontece sob o capô é muito mais complexo. A IA tornou-se muito melhor nos últimos anos, e a maioria geradores de texto para imagem hoje em dia são os chamados modelos de difusão. Isso significa que eles são "treinados" por um longo período de tempo em uma enorme quantidade de textos e imagens, o que torna suas criações tão impressionantes e incrivelmente realistas.
O que torna essas ferramentas de IA ainda mais impressionantes é o fato de que elas não apenas modificam imagens existentes ou combinam milhares de imagens em uma, mas também criam novas imagens originais a partir do zero. Quanto mais as pessoas usam esses geradores de texto para imagem, mais informações recebem e melhores se tornam suas criações.
Alguns dos mais conhecidos Geradores de imagem AI são Dream by WOMBO, DALL-E, Stable Diffusion, Midjourney, DeepAI, Fotor e Craiyon. Novos estão surgindo a torto e a direito, e gigantes da tecnologia – incluindo o Google – estão lançando seus próprios, então podemos apenas especular sobre o que o futuro trará.
4 maneiras pelas quais os agentes de ameaças armam os geradores de imagens de IA
Como praticamente toda tecnologia, os geradores de imagens de IA podem ser abusados por atores malévolos. Na verdade, eles já estão sendo usados para todos os tipos de propósitos nefastos. Mas exatamente que tipo de golpes e ataques cibernéticos um criminoso pode realizar com a ajuda de geradores de imagens de IA?
1. Engenharia social
Uma coisa óbvia que os agentes de ameaças poderiam fazer com geradores de imagens de IA é se envolver em engenharia social; por exemplo, crie perfis falsos de mídia social. Alguns desses programas podem criar imagens incrivelmente realistas que se parecem com fotos genuínas de pessoas reais, e um golpista pode usar esses perfis falsos de mídia social para pescar.
Ao contrário das fotos de pessoas reais, as geradas por IA não podem ser descobertas por meio de pesquisa reversa de imagens, e o cibercriminoso não precisa trabalhar com um número limitado de fotografias para enganar seu alvo - usando IA, eles podem gerar quantas quiserem, construindo uma identidade online convincente a partir arranhar.
Mas há exemplos da vida real de agentes de ameaças usando geradores de imagem de IA para enganar as pessoas. Em abril de 2022, TechTalks o blogueiro Ben Dickinson recebeu um e-mail de um escritório de advocacia alegando que havia usado uma imagem sem permissão. Os advogados enviaram por e-mail um Aviso de violação de direitos autorais da DMCA, informando a Dickinson que ele precisa vincular a um cliente deles ou remover a imagem.
Dickinson pesquisou o escritório de advocacia no Google e encontrou o site oficial. Tudo parecia completamente legítimo; o site ainda tinha fotos de 18 advogados, com suas biografias e credenciais. Mas nada disso era real. As fotos foram todas geradas por IA e os supostos avisos de violação de direitos autorais foram enviados por alguém tentando extorquir backlinks de blogueiros desavisados, como parte de um esquema negro e antiético chapéu SEO (Otimização para Mecanismos de Busca) estratégia.
2. Golpes de caridade
Quando terremotos devastadores atingiram a Turquia e a Síria em fevereiro de 2023, milhões de pessoas em todo o mundo expressaram sua solidariedade às vítimas doando roupas, alimentos e dinheiro.
De acordo com um relatório de BBC, os golpistas se aproveitaram disso, usando IA para criar imagens realistas e solicitar doações. Um golpista mostrou imagens de ruínas geradas por IA no TikTok Live, pedindo doações aos espectadores. Outro postou uma imagem gerada por IA de um bombeiro grego resgatando uma criança ferida das ruínas e pediu a seus seguidores doações em Bitcoin.
Só podemos imaginar que tipo de golpes de caridade os criminosos executarão com a ajuda da IA no futuro, mas é seguro presumir que eles só melhorarão ao abusar desse software.
3. Deepfakes e desinformação
Governos, grupos ativistas e think tanks há muito alertam sobre a perigos de deepfakes. Os geradores de imagens AI adicionam outro componente a esse problema, considerando o quão realistas são suas criações. Na verdade, no Reino Unido, existe até um programa de comédia chamado Deep Fake Neighbour Wars, que encontra humor em casais improváveis de celebridades. O que impediria um agente de desinformação de criar uma imagem falsa e promovê-la nas redes sociais com a ajuda de bots?
Isso pode ter consequências na vida real, como quase aconteceu em março de 2022, quando circulou online um vídeo falso mostrando o presidente ucraniano Volodymyr Zelensky dizendo aos ucranianos que se rendessem. NPR. Mas esse é apenas um exemplo, porque as possibilidades são quase infinitas e existem inúmeras maneiras de agente de ameaça pode prejudicar a reputação de alguém, promover uma narrativa falsa ou espalhar notícias falsas com a ajuda de IA.
4. Fraude de anúncio
TrendMicro pesquisadores descobriram em 2022 que golpistas estavam utilizando conteúdo gerado por IA para criar anúncios enganosos e promover produtos obscuros. Eles criaram imagens que sugeriam que celebridades populares usavam determinados produtos e veicularam campanhas publicitárias com base nessas imagens.
Por exemplo, um anúncio de uma "oportunidade de consultoria financeira" apresentava o bilionário Elon Musk, fundador e CEO da Tesla. É claro que Musk nunca endossou o produto em questão, mas a filmagem gerada por IA fez parecer que sim, presumivelmente atraindo espectadores desavisados a clicar nos anúncios.
IA e segurança cibernética: uma questão complexa que precisamos resolver
No futuro, os reguladores do governo e os especialistas em segurança cibernética provavelmente terão que trabalhar juntos para lidar com a ameaça emergente do cibercrime impulsionado pela IA. Mas como podemos regular a IA e proteger as pessoas comuns, sem sufocar a inovação e restringir as liberdades digitais? Essa questão será grande nos próximos anos.
Até que haja uma resposta, faça o que puder para se proteger: examine cuidadosamente qualquer informação que você veja online, evite sites obscuros, use software seguro, mantenha seus dispositivos atualizados e aprenda a usar inteligência artificial para o seu vantagem.
