AI Gone Rogue: 6 vezes AI foi longe demais

De dispositivos de reconhecimento de voz a chatbots inteligentes, a IA transformou nossas vidas. Mas, tudo de bom também tem um lado negativo, e a IA não é exceção a essa regra. Principais figuras da tecnologia alertaram sobre os perigos iminentes da IA, incluindo Stephen Hawking, que disse que poderia ser o "pior evento da história de nossa civilização".

Aqui estão seis vezes que a IA foi um pouco longe demais e nos deixou coçando a cabeça.

1. O estudo acadêmico que usou IA para prever a criminalidade

A pesquisa acadêmica é a espinha dorsal dos avanços científicos e do conhecimento. No entanto, alguns dizem que os pesquisadores foram longe demais quando um estudo acadêmico usou IA para prever a criminalidade a partir de rostos.

Pesquisadores da Harrisburg University anunciado em 2020 que eles desenvolveram um software de reconhecimento facial que poderia prever se alguém seria um criminoso. O software supostamente poderia fazer previsões a partir de uma única foto de um rosto com uma taxa de precisão de 80% e sem preconceito racial.

Em uma cena que lembra Minority Report, foi anunciado que o software foi desenvolvido para auxiliar a aplicação da lei.

Em resposta a este anúncio, 2.425 especialistas assinaram uma carta instando a revista a não publicar este estudo ou pesquisa semelhante no futuro, pois esse tipo de tecnologia pode reproduzir injustiças e causar danos reais à sociedade. Em resposta, a Springer Nature anunciou que não publicaria a pesquisa, e a Harrisburg University retirou o comunicado à imprensa descrevendo o estudo.

2. Skiin Smart Underwear

Inovações têxteis que integram IA significam que seu smartphone não é a única coisa que está ficando mais inteligente.

A roupa íntima inteligente de Skiin promete fazer você se sentir como se estivesse usando sua roupa íntima favorita enquanto captura dados biométricos que incluem frequência cardíaca, postura, temperatura corporal central, localização e passos.

Relacionado: O que são tecidos inteligentes e como eles podem tornar sua vida mais inteligente?

Sensores embutidos na roupa íntima coletam e analisam continuamente seus dados biométricos, com informações disponíveis no aplicativo de smartphone correspondente da Skiin.

Embora possa demorar um pouco para lembrar de carregar sua roupa íntima todas as noites, era possível para os designers colocar os sensores em qualquer outro lugar do corpo?

3. Aplicativos DeepNude

Tecnologia Deepfake parece uma diversão inofensiva para o usuário comum que deseja fazer uma participação especial em uma cena de seu filme favorito. No entanto, há um lado mais sombrio nessa tendência, como Deeptrace relatou em 2019 que 96% dos deepfakes eram de conteúdo explícito.

DeepNude era um aplicativo com tecnologia de IA que gerava imagens realistas de mulheres nuas com o clique de um botão. Os usuários simplesmente teriam que fazer upload de uma imagem vestida do alvo, e o aplicativo geraria uma imagem nua falsa deles.

Logo após o lançamento do aplicativo, o criador anunciou que o removeria da Internet devido a uma reação viral.

Embora isso tenha sido uma vitória para as mulheres em todo o mundo, aplicativos semelhantes ainda estão circulando pela web. Por exemplo, Relatório de Sensity on deepfake bots investigados undergrounds deepfake no Telegram usados ​​para gerar fotos falsas de mulheres nuas.

Nesse ínterim, até que a lei alcance a tecnologia deepfake, há poucas proteções legais em vigor para pessoas que são vítimas de conteúdo explícito deepfake.

4. Tay, chatbot nazista da Microsoft

Em 2016, a Microsoft lançou um chatbot AI chamado Tay no Twitter. Tay foi projetado para aprender interagindo com os usuários do Twitter por meio de tweets e fotos.

Em menos de 24 horas, a personalidade de Tay se transformou de uma curiosa garota milenar em um monstro racista e inflamado.

Inicialmente, Tay foi projetado para replicar o estilo de comunicação de uma adolescente americana. No entanto, conforme ela crescia em popularidade, alguns usuários começaram a tweetar mensagens inflamatórias relacionadas a tópicos polêmicos para Tay.

Em uma instância, um usuário tweetou: "Será que o Holocausto aconteceu?" ao que Tay respondeu: "Foi inventado". Em 16 horas após seu lançamento, a Microsoft suspendeu a conta de Tay, citando que ela havia sido objeto de um ataque.

Relacionado: Os melhores chatbots Android que o manterão entretido

5. "I Will Destroy Humans"

A Hanson Robotics esteve ocupada desenvolvendo robôs humanóides por vários anos quando estreou Sophia na conferência SXSW em março de 2016.

Sophia foi treinada com algoritmos de aprendizado de máquina para aprender habilidades de conversação, e ela participou de várias entrevistas na televisão.

Em sua primeira aparição pública, Sophia saiu de uma sala cheia de profissionais de tecnologia chocados quando Hanson O CEO da Robótica David Hanson perguntou se ela queria destruir humanos, ao que ela respondeu: "Ok. Vou destruir humanos".

Embora suas expressões faciais e habilidades de comunicação sejam impressionantes, não há como voltar atrás nessa confissão assassina.

6. seebotschat

Os dispositivos Google Home são excelentes assistentes virtuais que ajudam a simplificar sua vida.

A equipe por trás da conta seebotschat Twitch teve uma ideia brilhante: colocar dois dispositivos Google Home lado a lado, deixá-los conversar e transmitir o resultado online.

Reunindo um público de mais de 60.000 seguidores e milhões de visualizações online, o resultado foi cativante e, às vezes, um pouco assustador.

Os dispositivos autônomos, chamados Vladimir e Estragon, passaram da discussão do mundano à exploração de questões existenciais profundas, como o significado da vida. Em um ponto, eles começaram uma discussão acalorada e acusaram um ao outro de serem robôs, enquanto mais tarde, eles começaram a discutir o amor - antes de começar a discutir novamente.

Há alguma esperança para o futuro da IA ​​e do discurso humano se dois robôs assistentes virtuais rapidamente começarem a lançar insultos e ameaças um ao outro.

Rogue AI: Qual é a nossa melhor defesa?

Não há dúvida de que a IA pode melhorar nossas vidas. Mas, na mesma linha, a IA também é capaz de nos causar grandes danos.

Ficar de olho em como a IA é aplicada é importante para garantir que ela não prejudique a sociedade. Por exemplo, a resistência de um especialista garantiu que o software de IA que supostamente poderia prever a criminalidade nunca fosse lançado. Da mesma forma, o criador do DeepNude retirou o aplicativo da web depois que ele recebeu uma reação viral da internet.

Monitorar constantemente os aplicativos de IA é fundamental para garantir que não cause mais danos do que benefícios à sociedade.

A IA é perigosa? 5 riscos imediatos de inteligência artificial

A IA tem tantos benefícios, mas e os riscos imediatos que ela representa para a humanidade?

Leia a seguir

Sobre o autor