O ChatGPT é um novo e poderoso chatbot de IA que impressiona rapidamente, mas muitas pessoas apontaram que ele tem algumas armadilhas sérias. Pergunte o que quiser e receberá uma resposta que parece ter sido escrita por um humano, tendo aprendido seus conhecimentos e habilidades de escrita a partir de grandes quantidades de informações na Internet.
Assim como a internet, no entanto, a verdade e os fatos nem sempre são dados e o ChatGPT é culpado de errar. Com o ChatGPT definido para mudar nosso futuro, aqui estão algumas das maiores preocupações.
O que é o ChatGPT?
O ChatGPT é um grande modelo de aprendizado de idiomas que foi projetado para imitar a conversa humana. Ele pode se lembrar de coisas que você disse a ele no passado e é capaz de se corrigir quando estiver errado.
Ele escreve de maneira humana e possui um conhecimento rico porque foi treinado em todos os tipos de texto da Internet, como Wikipedia, postagens de blog, livros e artigos acadêmicos.
É fácil aprender como usar o ChatGPT, mas o que é mais desafiador é descobrir quais são seus maiores problemas. Aqui estão alguns que valem a pena conhecer.
1. ChatGPT nem sempre está certo
Ele falha em matemática básica, não consegue responder a perguntas lógicas simples e chega a argumentar sobre fatos completamente incorretos. Como os usuários de mídia social podem atestar, o ChatGPT pode errar em mais de uma ocasião.
OpenAI sabe sobre essa limitação, escrevendo que: "ChatGPT às vezes escreve respostas que parecem plausíveis, mas incorretas ou sem sentido." Esse A "alucinação" de fato e ficção, como alguns cientistas a chamam, é especialmente perigosa quando se trata de algo como conselho.
Ao contrário de outros assistentes de IA como Siri ou Alexa, o Chat GPT não usa a internet para localizar respostas. Em vez disso, ele constrói uma frase palavra por palavra, selecionando o "token" mais provável que deve vir a seguir, com base em seu treinamento.
Em outras palavras, o ChatGPT chega a uma resposta fazendo uma série de suposições, o que é parte do motivo pelo qual ele pode argumentar respostas erradas como se fossem completamente verdadeiras.
Embora seja ótimo para explicar conceitos complexos, tornando-se uma ferramenta poderosa para o aprendizado, é importante não acreditar em tudo que ele diz. O ChatGPT nem sempre está correto - pelo menos ainda não.
2. O viés está embutido no sistema
O ChatGPT foi treinado na escrita coletiva de humanos em todo o mundo, passado e presente. Isso significa que os mesmos vieses que existem nos dados também podem aparecer no modelo.
De fato, os usuários mostraram como o ChatGPT pode produzir algumas respostas terríveis, algumas, por exemplo, que discriminam as mulheres. Mas isso é apenas a ponta do iceberg; pode produzir respostas extremamente prejudiciais para uma série de grupos minoritários.
A culpa também não está simplesmente nos dados. Os pesquisadores e desenvolvedores da OpenAI escolhem os dados que são usados para treinar o ChatGPT. Para ajudar a resolver o que o OpenAI chama de "comportamento tendencioso", está pedindo aos usuários que deem feedback sobre saídas ruins.
Com o potencial de causar danos às pessoas, você pode argumentar que o ChatGPT não deveria ter sido divulgado ao público antes que esses problemas fossem estudados e resolvidos.
Um chatbot de IA semelhante chamado Sparrow (de propriedade da empresa controladora do Google, Alphabet) foi lançado em setembro de 2022. No entanto, foi mantido a portas fechadas por causa de preocupações semelhantes de que poderia causar danos.
Talvez Meta devesse ter encabeçado o aviso também. Quando lançou o Galactica, um modelo de linguagem AI treinado em trabalhos acadêmicos, foi rapidamente recolhido depois que muitas pessoas o criticaram por produzir resultados errados e tendenciosos.
3. Um desafio para o inglês do ensino médio
Você pode pedir ao ChatGPT para revisar sua redação ou apontar como melhorar um parágrafo. Como alternativa, você pode se retirar totalmente da equação e pedir ao ChatGPT para escrever algo para você.
Os professores experimentaram alimentar tarefas de inglês no ChatGPT e receberam respostas melhores do que muitos de seus alunos poderiam fazer. Desde escrever cartas de apresentação até descrever os principais temas de uma obra famosa da literatura, o ChatGPT pode fazer isso sem hesitar.
Isso levanta a questão: se o ChatGPT pode escrever para nós, os alunos precisarão aprender a escrever no futuro? Pode parecer uma questão existencial, mas quando os alunos começarem a usar o ChatGPT para ajudar a escrever suas redações, as escolas terão que pensar em uma resposta rápida. A rápida implantação da IA nos últimos anos deve chocar muitas indústrias, e a educação é apenas uma delas.
4. Pode causar danos no mundo real
Anteriormente, mencionamos como informações incorretas do ChatGPT podem causar danos no mundo real, sendo o exemplo mais óbvio o conselho médico errado.
Há outras preocupações também. Contas falsas de mídia social representam um grande problema na Internet e, com a introdução de chatbots de IA, os golpes na Internet se tornariam mais fáceis de realizar. A disseminação de informações falsas é outra preocupação, especialmente quando o ChatGPT faz com que até as respostas erradas pareçam convincentemente corretas.
A taxa na qual o ChatGPT pode produzir respostas que nem sempre são corretas já causou problemas para o Stack Exchange, um site onde os usuários podem postar perguntas e obter respostas.
Logo após seu lançamento, as respostas do ChatGPT foram banidas do site devido a um grande número delas estarem erradas. Sem voluntários humanos suficientes para resolver o backlog, seria impossível manter um alto nível de respostas de qualidade, causando danos ao site.
5. OpenAI tem todo o poder
Com grandes poderes vêm grandes responsabilidades, e a OpenAI detém muito poder. É uma das primeiras empresas de IA a realmente abalar o mundo com não um, mas vários modelos de IA, incluindo Dall-E 2, GPT-3 e agora, ChatGPT.
O OpenAI escolhe quais dados são usados para treinar o ChatGPT e como ele lida com as consequências negativas. Quer concordemos com os métodos ou não, ela continuará desenvolvendo essa tecnologia de acordo com seus próprios objetivos.
Embora a OpenAI considere a segurança uma alta prioridade, há muito que não sabemos sobre como os modelos são criados. Se você acha que o código deve ser de código aberto ou concorda que ele deve manter partes dele em segredo, não há muito que possamos fazer a respeito.
No final das contas, tudo o que podemos fazer é confiar que a OpenAI pesquisará, desenvolverá e usará o ChatGPT com responsabilidade. Como alternativa, podemos defender que mais pessoas opinem em qual direção a IA deve seguir, compartilhando o poder da IA com as pessoas que a usarão.
Se você estiver interessado no que mais a OpenAI desenvolveu, confira nossos artigos sobre como usar Dall-E 2 e como usar o GPT-3.
Enfrentando os maiores problemas da IA
Há muito o que se entusiasmar com o ChatGPT, o mais recente desenvolvimento da OpenAI. Mas além de seus usos imediatos, existem alguns problemas sérios que valem a pena entender.
A OpenAI admite que o ChatGPT pode produzir respostas prejudiciais e tendenciosas, sem mencionar sua capacidade de misturar fatos com ficção. Com uma tecnologia tão nova, é difícil prever quais outros problemas surgirão. Então, até lá, aproveite para explorar o ChatGPT e tome cuidado para não acreditar em tudo o que ele diz.