À medida que o campo da inteligência artificial continua a evoluir em um ritmo vertiginoso, um novo concorrente está prestes a entrar no campo de jogo. TruthGPT, um chatbot de IA proposto pelo bilionário tecnológico Elon Musk, está gerando muito burburinho online.
Mas o que é TruthGPT? Por que Elon Musk quer criá-lo? E como isso será diferente das ferramentas de IA que já temos?
O que é TruthGPT?
TruthGPT é um modelo de IA proposto com o objetivo de abordar os problemas dos modelos existentes que alimentam empresas como ChatGPT e Bard, com ênfase particular na verdade e na segurança. De acordo com Elon Musk, o TruthGPT será uma IA de "busca máxima da verdade" que entende a natureza do universo e provavelmente não destruiria a humanidade porque vê os humanos como um componente crítico do universo.
IA máxima em busca da verdade? Compreende a natureza do universo?
Você será perdoado se a descrição de Musk não lhe der uma imagem clara do que exatamente ele está tentando construir. No entanto, você terá uma ideia melhor do que ele está falando observando por que ele está tentando construí-lo em primeiro lugar.
Por que Elon Musk está construindo TruthGPT?
Em entrevista com Notícias da raposa, Elon Musk expressou suas preocupações sobre como as grandes empresas de IA podem perpetuar o viés e a desinformação por meio de chatbots de IA - uma ferramenta emergente da qual as pessoas dependem cada vez mais para obter informações. Elon Musk também comentou sobre a ameaça que a IA representa para a humanidade, enfatizando a possibilidade de um apocalipse da IA, um cenário em que os sistemas de IA podem assumir o controle de nossas vidas diárias.
Destacando empresas como OpenAI e Google, que, em sua opinião, não estão fazendo o suficiente nas áreas de segurança de IA e proteção contra desinformação, Elon Musk propôs uma terceira força – TruthGPT. O CEO da SpaceX e da Tesla quer criar o TruthGPT como um contrapeso ao Bard do Google e ao ChatGPT da OpenAI. A ideia é criar um modelo de IA que tente ao máximo ser verdadeiro nas informações que fornece.
Elon Musk, que recentemente escreveu uma carta aberta pedindo uma moratória no desenvolvimento de IA poderosa modelos (especificamente aqueles mais poderosos que o GPT-4), acredita que a IA está se movendo muito rápido. Ele acredita que precisamos desacelerar e reavaliar nossa abordagem à segurança da IA antes que a IA "assuma o controle". TruthGPT é um modelo de linguagem grande (LLM) que promete abordar essas duas preocupações principais com a IA de hoje sistemas.
Como seria o TruthGPT?
A primeira dica de como o TruthGPT ficaria está no nome. Considerando o apêndice "GPT", TruthGPT provavelmente terá uma arquitetura semelhante ao ChatGPT. Lembre-se, Elon Musk ajudou a montar o OpenAI e a equipe que construiu o modelo GPT do ChatGPT.
Além disso, considerando que a arquitetura do GPT provou ser um sucesso técnico e comercial, seguir um caminho diferente provavelmente será muito demorado e caro. Tempo é uma coisa que Elon Musk não tem se quiser construir algo que possa realmente enfrentar a IA de última geração o mais rápido possível. Portanto, não fique muito empolgado - o TruthGPT pode não ser tão radicalmente diferente das ferramentas de IA que já temos.
A precisão, ou no jargão de Elon Musk, "veracidade", de um modelo de IA depende muito de seus dados de treinamento e do algoritmo de treinamento. Não temos certeza de como os dados de treinamento do TruthGPT seriam obtidos, mas para obter a melhor chance de criar um LLM tão "verdadeiro" possível, o TruthGPT de Elon Musk teria que priorizar dados de "fontes verdadeiras". Mas isso é precisamente o problema. A verdade é um conceito muito subjetivo. O que é verdade para mim pode não ser verdade para você.
Então, essa ideia de uma IA máxima em busca da verdade é mesmo prática?
Por que construir o TruthGPT é um grande desafio
uma vez que você entender como modelos de linguagem grandes como GPT funcionam, fica claro que é impraticável estar correto o tempo todo. Normalmente treinados em um grande conjunto de dados da Internet, muitos deles, previsivelmente, serão informações falsas, e os LLMs não têm uma maneira inerte de diferenciar o fato da ficção.
A melhor intervenção é tipicamente de treinadores humanos que tentam ensinar ao modelo de linguagem o que é bom e o que é mau comportamento. Mas os treinadores humanos são tendenciosos. O viés é passado para os modelos de IA, derrotando todo o propósito de uma "IA máxima em busca da verdade". Observe que não estamos falando de parcialidade ou preconceito contra um povo ou qualquer outra coisa. É o viés mais sutil sobre como você interpreta a linguagem, as situações, os desafios e assim por diante que penetra no processo. Humanos são humanos, afinal.
Obviamente, a precisão também pode ser abordada do lado do algoritmo. No entanto, independentemente do algoritmo, a ambiguidade da linguagem ainda representa um grande problema para a precisão dos modelos de IA. Mesmo os humanos muitas vezes lutam para interpretar com precisão o significado de uma frase ou frase, levando à desinformação. Para modelos de IA, a ambiguidade pode levar a interpretações erradas, resultando em imprecisões.
Para Musk, TruthGPT parece ser uma chance para ele criar um modelo de IA que ele considere adequado para entregar a verdade. Como isso aconteceria sem introduzir seus próprios preconceitos é outra questão que nos leva de volta ao início da conversa. Como as opiniões de Musk sobre o que é tendencioso ou não são diferentes daquelas que treinaram e dirigiram o ChatGPT?
O TruthGPT é uma possibilidade empolgante?
Os planos de Elon Musk para TruthGPT parecem nobres e louváveis. No entanto, construir um modelo de IA com uma incidência insignificante de imprecisões é uma tarefa difícil.
Embora esperássemos que um bilionário da tecnologia que desmistificou a ciência de foguetes fosse capaz de realizar algo dessa natureza, algumas coisas são mais fáceis de dizer do que de fazer.
