Hoje, milhões de pessoas confiam no ChatGPT como um recurso útil, seja para trabalho, diversão ou educação. Mas você pode confiar neste chatbot de IA para sempre fornecer os fatos? O ChatGPT mente ou apenas fornece informações factuais?
De onde o ChatGPT obtém suas informações?
Em seu período de treinamento, o ChatGPT recebeu dados de fontes em toda a web, como sites governamentais e de agências, revistas científicas, estudos, artigos de notícias, podcasts, fóruns online, livros, bancos de dados, filmes, documentários e redes sociais meios de comunicação.
Especificamente, o ChatGPT-3 foi treinado usando um extenso banco de dados de informações que totalizou 570 GB de dados. Como afirma um artigo de Foco na ciência, 300 bilhões de palavras de informação foram inseridas no sistema GPT-3 durante seu desenvolvimento.
Algo digno de nota aqui é que o ChatGPT só recebeu dados que existiam antes de 2021. Isso significa que o chatbot não pode responder a perguntas relacionadas a eventos recentes. O ChatGPT também não tem acesso à internet. Os dados que foram alimentados no treinamento são o único tipo que ele usa para atender às solicitações do usuário.
Mas o ChatGPT está apenas fornecendo os fatos ou há alguma informação mais ambígua misturada com suas respostas? Além disso, o ChatGPT pode mentir para você?
O ChatGPT mente?
Embora o ChatGPT geralmente forneça informações verdadeiras aos usuários, ele tem a capacidade de "mentir". Obviamente, o ChatGPT não decide mentir maliciosamente para os usuários, pois simplesmente não pode fazê-lo. Afinal, o ChatGPT é uma ferramenta de processamento de linguagem, não uma imitação de uma pessoa real e senciente.
No entanto, o ChatGPT ainda pode tecnicamente mentir através de um fenômeno conhecido como alucinação de IA.
alucinação de IA envolve um sistema de IA que fornece informações que parecem razoáveis ou plausíveis, mas, na realidade, não são verdadeiras. Na verdade, a alucinação da IA pode fornecer informações de que nunca foi alimentada durante o período de treinamento. Como alternativa, pode ocorrer quando um sistema AI fornece informações não relacionadas ao prompt ou solicitação. Um sistema de IA pode até afirmar ser humano em um evento de alucinação.
Sistemas de IA, como chatbots, caem na armadilha da alucinação por vários motivos: falta de compreensão do mundo real, bugs de software e limitações nos dados fornecidos.
Como dito anteriormente, o ChatGPT só pode fornecer informações usando dados publicados até 2021, o que certamente limita os tipos de prompts que ele pode atender.
Um de Os grandes problemas do ChatGPT é que ele também pode ser vítima de viés ao fornecer informações aos usuários. Até os criadores do ChatGPT afirmaram que o sistema de IA foi "politicamente tendencioso, ofensivo" e "censurável" no passado. Conforme relatado por O Independente, os desenvolvedores do ChatGPT estão empenhados em resolver esse problema, mas isso não significa que ele não representa mais um risco.
Quando questionado, o ChatGPT afirmou que os motivos pelos quais pode fornecer informações imprecisas incluem o seguinte:
- Ambigüidade na pergunta (sugestões vagas e pouco claras);
- Informações incompletas fornecidas;
- Informações tendenciosas ou incorretas fornecidas; ou,
- Limitações técnicas (principalmente devido à falta de acesso aos dados atuais).
Assim, o próprio ChatGPT afirmou que existem cenários em que não fornecerá informações precisas aos usuários.
Em outra resposta na mesma conversa, o ChatGPT afirmou que “é sempre uma boa ideia verificar qualquer informação [que forneça] com outras fontes”.
Você pode confiar no ChatGPT?
Porque pode fornecer informações falsas, você claramente não pode confiar no ChatGPT 100% do tempo.
Você pode reduzir o risco de alucinações de um chatbot de IA definindo parâmetros específicos sobre como ele pode responder a você. No entanto, ainda não há garantia de que algumas informações falsas não passarão despercebidas.
Por causa disso, é melhor verificar qualquer informação que o ChatGPT lhe forneça, especialmente se você estiver solicitando informações sobre eventos recentes. Verificar novamente esses dados consultando outras fontes pode ajudá-lo a determinar se o ChatGPT está certo no que está dizendo e pode impedir que você tome decisões imprudentes.
ChatGPT é útil, mas nem sempre verdadeiro
Infelizmente, você não pode confiar no ChatGPT para fornecer informações verdadeiras e imparciais 100% do tempo. Este chatbot com inteligência artificial é inegavelmente útil e pode ajudá-lo de várias maneiras, mas sempre vale a pena verificar se as informações fornecidas são factuais.
