Na IA, o progresso está sendo feito em níveis sem precedentes, com novos desenvolvimentos feitos quase semanalmente. As ferramentas de IA generativa, como o ChatGPT, agora são tão populares que estão sendo integradas em todos os lugares.
Mas deveríamos? O uso da tecnologia de IA para produtividade, educação e entretenimento faz sentido. No entanto, as empresas agora estão pensando em colocá-lo diretamente em nossos aplicativos de mensagens, e isso pode ser destrutivo. Aqui estão sete razões para isso.
1. Chatbots de IA tendem a ter alucinações
Se você já usou ChatGPT, Bing ou Bardo, você sabe que os chatbots de IA generativa tendem a "alucinar". A alucinação de IA é quando esses chatbots inventam coisas devido à falta de dados de treinamento adequados sobre a consulta solicitada pelo usuário.
Em outras palavras, eles fornecem desinformação, mas parecem confiantes sobre isso, como se fosse um fato. Este é um grande problema porque muitas pessoas não verificam os fatos ao usar um chatbot e acreditam que ele seja preciso por padrão. É um dos maiores
erros a evitar ao usar ferramentas de IA.Quando colocado em aplicativos de mensagens, o dano que pode causar é ainda maior, pois as pessoas podem usá-lo para (intencionalmente ou involuntariamente) espalhar desinformação entre seus contatos e nas mídias sociais, proliferar propaganda e promover eco câmaras.
2. As pessoas não gostam de falar com bots
Pense em como é chato quando você está tentando entrar em contato com o suporte ao cliente de uma empresa e é obrigado a falar com um chatbot em vez de um executivo humano real que pode realmente entender as nuances do seu problema e oferecer orientação.
O mesmo se aplica a conversas pessoais. Imagine conversar com seu amigo e, no meio do caminho, você percebe que ele está usando IA para responder às suas mensagens todo esse tempo, em vez de fazê-lo por conta própria, com base em seus pensamentos e opiniões.
Se você for como a maioria das pessoas, imediatamente se sentiria ofendido e perceberia o uso de IA em uma conversa privada como insensível, assustador e até passivo-agressivo, como se a outra pessoa não considerasse que você merece seu tempo, atenção e empatia.
Usar IA para escrever e-mails, por exemplo, é compreensível, pois é uma interação profissional, mas usá-la em conversas pessoais não é algo que alguém gostaria de encorajar. Assim que a novidade da tecnologia desaparecer, será rude usá-la neste contexto.
3. AI não pode copiar sua tonalidade única
Hoje, as ferramentas de IA generativa já permitem que você altere o tom de sua mensagem, como formal, alegre ou neutro, dependendo de para quem você está escrevendo e como deseja ser visto. Escrita mágica nas mensagens do Google, por exemplo, permite que você faça o mesmo.
Embora isso seja bom, observe que essas tonalidades são treinadas com base em dados de treinamento definidos e não em seu histórico de bate-papo pessoal, portanto, não pode replicar sua tonalidade exclusiva ou os emojis que você normalmente usa.
Você pode não se importar muito com isso, especialmente se estiver usando IA para escrever e-mails de trabalho simples, para os quais todos usam mais ou menos o mesmo tom formal. Mas é muito mais importante do que você imagina ao usá-lo para conversar com seus amigos e familiares em um aplicativo de mensagens.
Até que as ferramentas de IA permitam a opção de treinar seu modelo de idioma com base em seu histórico de bate-papo, elas não poderão replicar seu dialeto exclusivo e excentricidades. Dito isso, esse desafio não é tão difícil de resolver, então podemos vê-lo sendo implementado em breve.
4. Escrever bons prompts leva tempo
Obter os resultados desejados de um chatbot de IA depende muito da qualidade do seu prompt. Se você escrever um prompt ruim, obterá uma resposta ruim e terá que refinar o prompt até obter um resultado satisfatório.
Esse processo faz sentido quando você deseja escrever um conteúdo longo, mas é extremamente ineficiente ao escrever várias respostas curtas em uma conversa informal.
O tempo que pode levar para refinar seus prompts e obter respostas utilizáveis será, na maioria dos casos, mais do que o tempo que levaria se você mesmo escrevesse as mensagens.
5. IA pode produzir resultados ofensivos
Além da precisão, o viés é um dos maiores problemas com IA generativa. Algumas pessoas percebem a IA como imparcial, pois não tem seus próprios motivos. No entanto, as pessoas por trás dessas ferramentas de IA são, em última análise, humanos com seus próprios preconceitos.
Em outras palavras, o viés é inserido no sistema. A IA não entende inerentemente o que é considerado ofensivo e o que não é, então pode, por exemplo, ser treinada ser tendencioso contra certos grupos de pessoas ou certas culturas - produzindo, portanto, resultados ofensivos no processo.
6. IA pode não entender sarcasmo ou humor
A compreensão da IA sobre figuras de linguagem, como ironia e metáfora, está melhorando com o tempo, mas ainda está longe de chegar a um ponto em que possa ser usada em uma conversa para reconhecer o humor. Ao pedir ao Bard do Google para ser sarcástico, por exemplo, os resultados foram imprevisíveis.
Em alguns casos, foi genuinamente engraçado e brincou com meu sarcasmo. Mas, em outros casos, ele voltou a uma resposta padrão sem graça ou simplesmente se recusou a participar da conversa, dizendo que, como é apenas um LLM, não pode me ajudar com meu consulta.
7. A dependência da IA pode levar a uma comunicação deficiente
Outro problema sutil, mas substancial, com a integração de IA generativa em aplicativos de mensagens é como isso pode afetar nossa capacidade de comunicação. Se dependermos cada vez mais da IA para conversar uns com os outros, isso pode prejudicar nossa capacidade de treinar nossa inteligência emocional e habilidades sociais.
O ponto aqui é que quanto mais terceirizarmos nossas necessidades sociais para a IA, pior ficaremos na comunicação de ideias por meios orgânicos. Em outras palavras, quanto mais você usa a IA para falar com seus contatos, maior a probabilidade de degradar a qualidade de seus relacionamentos.
Nem tudo precisa ter IA
Muitas vezes, com o advento de uma nova tecnologia, estamos tão ocupados tentando descobrir como usá-la que deixamos de discutir se deveríamos usá-la em primeiro lugar.
Embora faça todo o sentido usar IA generativa para escrever e-mails, debater ideias ou criar imagens para apresentações, sua integração em aplicativos de mensagens atrai muitas críticas.
