Como os hackers usam IA generativa em seus ataques e o que podemos fazer sobre isso

A inteligência artificial generativa (IA) tem estado no centro das atenções ultimamente. O chatbot com tecnologia de IA ChatGPT e outros sistemas com suporte de processamento de linguagem natural, como o VALL-E, trouxeram a IA generativa para o público em geral e liberaram seus benefícios e efeitos nocivos.

Uma das principais preocupações sobre a IA generativa é o fato de que ela pode ser usada para atualizar explorações maliciosas e criar ataques cibernéticos mais sofisticados. Então, como os hackers usam IA generativa em seus ataques e o que isso significa para o futuro da segurança cibernética?

O que é IA generativa e como funciona?

Como o próprio nome indica, a IA generativa é um tipo de IA capaz de gerar novos conteúdos – imagens, texto, áudio e dados sintéticos.

Um exemplo famoso é o ChatGPT, um chatbot com tecnologia de IA com o qual você pode ter conversas semelhantes a humanos e obtenha algumas recomendações excelentes de filmes - isto é, se você não conseguir pensar em uma missão mais significativa para enviar ao ChatGPT sobre.

Deixe-nos dar uma ideia ou duas - você poderia faça com que o ChatGPT escreva todos aqueles e-mails difíceis para você, utilizar ChatGPT como uma ferramenta de tradução, e até mesmo transforme o ChatGPT em seu assistente de planejamento de refeições saudáveis. Em suma, em questão de segundos, este chatbot pode criar um conteúdo aparentemente novo e convincente e apresentá-lo de uma maneira bastante politicamente correta.

No entanto, uma IA generativa ainda não pode ser criativa da mesma forma que um ser humano. Isso ocorre porque ele utiliza algoritmos de aprendizado de máquina não supervisionados e semi-supervisionados para processar uma grande quantidade de dados e gerar saídas personalizadas.

Por exemplo, se você quiser encomendar uma pintura semelhante a Picasso de uma IA generativa como DALL-E 2, você terá que digitar sua descrição em um campo designado - digamos "Picasso's Guernica, mas com gatinhos" - e fique por aqui por alguns segundos. Durante esse tempo, a IA aplicará todas as características específicas do estilo do artista que aprendeu antes, adicionará gatinhos para garantir e criar algo original - temos aquela foto que você pode ver um pouco acima.

Como os hackers utilizam IA generativa em seus ataques?

Os bandidos sempre foram atraídos por bons algoritmos. Portanto, não é surpresa que eles estejam explorando a IA generativa para potencializar seus ataques. Ao utilizar métodos de ML, como aprendizado por reforço e redes adversárias generativas, os cibercriminosos podem criar ataques cibernéticos novos e mais sofisticados que podem romper o padrão defesas cibernéticas.

Um exemplo dessa perversão é o chatbot “de ponta” da OpenAI, como ChatGPT é aproveitado por cibercriminosos para escrever malware. No início, o ChatGPT parecia divertido e divertido, mas agora está exposto como uma das principais ameaças à segurança e à privacidade. Se você gosta de conversar com o ChatGPT, é bom ficar atento ao coisas que os cibercriminosos podem fazer com o ChatGPT.

Resumindo, o ChatGPT e outras ferramentas de IA generativas tornaram a vida dos cibercriminosos mais fácil e mais difícil para as equipes de segurança. Algumas das maneiras pelas quais os agentes de ameaças cibernéticas utilizam IA em seus ataques incluem:

• Construindo malwares melhores e mais sofisticados: nas mãos de hackers, a IA generativa pode ser usada para gerar cepas de malware difíceis de detectar e executar ataques. Combinado com modelos de IA, o malware pode mascarar sua intenção até cumprir seu propósito nocivo.
• Escrevendo e-mails de phishing personalizados com inteligência artificial: com a ajuda da IA ​​generativa, os e-mails de phishing não apresentam mais os sinais indicadores de fraude, como ortografia incorreta, gramática incorreta e falta de contexto. Além disso, com IA como o ChatGPT, os agentes de ameaças podem lançar ataques de phishing em velocidade e escala sem precedentes.
• Gerando dados falsos profundos: uma vez que pode criar imitações convincentes de atividades humanas - como escrita, fala e imagens - a IA generativa pode ser usada em atividades fraudulentas, como roubo de identidade, fraude financeira e desinformação.
• Quebrar CAPTCHAs e adivinhar senhas: usado por sites e redes para vasculhar bots em busca de acesso não autorizado, o CAPTCHA agora pode ser contornado por hackers. Ao utilizar o ML, eles também podem realizar outras tarefas repetitivas, como adivinhação de senhas e ataques de força bruta.
• Sabotando o ML na detecção de ameaças cibernéticas: Se um sistema de segurança estiver sobrecarregado com muitos falsos positivos, um hacker pode pegá-lo de surpresa com um ataque cibernético real.

Como podemos combater a ameaça generativa da IA?

À medida que os ataques cibernéticos se tornam mais sofisticados e suas consequências mais graves, os sistemas de segurança tradicionais se transformarão em coisas do passado. Com a capacidade de aprender com ataques anteriores e se adaptar, a IA é um ativo inestimável tanto para cibercriminosos quanto para seus adversários.

O uso de IA na segurança cibernética tem algumas vantagens importantes, como detecção de ameaças mais rápida, identificação de ameaças e resposta a ameaças – portanto, combater fogo com fogo parece ser a resposta certa. Antes que os cibercriminosos aprendam a desferir golpes devastadores em indivíduos e empresas em todo o mundo, os profissionais de segurança cibernética devem ensinar seus sistemas alimentados por IA a se protegerem desses ataques.

No entanto, nem tudo depende da IA. Afinal, também podemos fortalecer nossa própria segurança e privacidade com métodos testados e comprovados, como autenticação multifator (MFA), tecnologia biométrica, utilizando um gerenciador de senhas, usando o ferramentas de colaboração com melhor criptografia, e um bom e velho senso comum.

Combatendo IA com IA

Então, testemunharemos guerras de segurança cibernética de IA em um futuro próximo? Bem, esperamos que não. No entanto, à medida que a IA continua avançando e se tornando acessível a todos - cibercriminosos e profissionais de segurança cibernética - o papel da IA ​​e do ML se tornará maior nos próximos anos.