O chatbot automatizado com inteligência artificial da OpenAI, ChatGPT, conquistou a Internet, mas não sem criar alguns problemas no caminho. Com escritores, programadores, profissionais de marketing e aparentemente todos os outros usando o ChatGPT para gerar conteúdo, empresas em todo o mundo estão enfrentando um tsunami de conteúdo gerado por IA.
Com problemas de plágio e conteúdo roubado girando constantemente em torno do ChatGPT e sua saída, a OpenAI lançou agora um novo GPT-Classifier, uma ferramenta desenvolvida para detectar e revelar se o texto que você está lendo é obra do ChatGPT ou de algum de seus outros Ferramentas GPT.
OpenAI lança classificador GPT para ajudar a verificar texto escrito por IA
anúncio da OpenAI vem como escrutínio sobre escrita de IA e texto gerado por IA avança e as empresas integram a saída do ChatGPT.
O novo classificador GPT tenta descobrir se um determinado trecho de texto foi escrito por humanos ou o trabalho de um gerador de IA. Embora o ChatGPT e outros modelos GPT sejam treinados extensivamente em todos os tipos de entrada de texto, o A ferramenta GPT-Classifier é "ajustada em um conjunto de dados de pares de texto escrito por humanos e texto escrito por IA no mesmo tema."
Portanto, em vez de coletar informações e recriar sua melhor aproximação, o classificador GPT tenta compare semelhanças entre texto humano conhecido e texto de IA conhecido para encontrar discrepâncias que revelem a fonte escritor.
A detecção do classificador GPT é atualmente limitada
Embora a ideia de identificar facilmente o texto gerado por IA seja música para os ouvidos de editores e educadores, a OpenAI alertou que seu "classificador não é totalmente confiável".
Atualmente, o classificador GPT "identifica corretamente 26% do texto escrito por IA" enquanto rotula 9% do texto humano como escrito por IA. A OpenAI também observa que a precisão da ferramenta "normalmente melhora à medida que o comprimento do texto de entrada aumenta".
Um teste superficial do classificador GPT localizou um exemplo gerado por humanos e o marcou como "muito improvável de ser Gerado por IA" e também indicou corretamente que um snippet gerado pelo ChatGPT sobre problemas de USB era "possivelmente AI gerado".
A demanda por detecção de ChatGPT é alta
Mesmo com as limitações do classificador GPT, a demanda por uma detecção confiável do ChatGPT provavelmente fará com que muitos se voltem para essa ferramenta. O compromisso da OpenAI em criar e lançar uma ferramenta gratuita de detecção de GPT é importante porque, à medida que mais alunos, escritores, programadores e outros usam ferramentas de geração de texto AI, entender e detectar essa entrada se tornará vital.
Por enquanto, embora o GPT-Classifier esteja funcionando e disponível para testes, é melhor levar sua rotulagem com uma pitada de sal.