Quanto tempo pode demorar uma resposta do ChatGPT antes que a IA generativa pare de responder a você?
ChatGPT é uma grande novidade. Mas qual é o tamanho das respostas que você recebe deste chatbot multifuncional?
Estabelecer isso não é tão simples quanto você pode pensar. Para começar, faça esta mesma pergunta ao ChatGPT e você terá certeza de que não há limites definidos para o comprimento de suas respostas.
No entanto, como descobrimos aqui, não é tão simples. Existem limites ocultos para a duração de uma resposta do ChatGPT, mas também existem algumas soluções simples e bacanas para ajudá-lo a obter respostas mais longas.
Como o ChatGPT determina a duração de uma resposta?
O funcionamento do ChatGPT é complexo, e o tamanho da resposta varia dependendo do que está sendo perguntado e do nível de detalhamento solicitado. Como mostra a próxima captura de tela, o ChatGPT afirma que não há limites rígidos.
Não foi isso que encontramos. O exemplo abaixo mostra o ChatGPT interrompendo repentinamente uma resposta no meio de uma frase. Pedimos que redigisse um ensaio de mil palavras sobre os benefícios de uma economia circular. O ChatGPT parou de responder quando chegou a 677 palavras.
Repetimos o teste várias vezes com perguntas diferentes e, a cada vez, ele parava no meio da frase; ocasionalmente, isso era acompanhado por um erro de rede. Este é um erro comum e existem várias maneiras de corrigir erros de rede no ChatGPT.
Parte da resposta de por que isso acontece está em algo chamado sistema de token.
O que o sistema de token que o ChatGPT usa?
Em vez de uma simples contagem de palavras para determinar o tamanho das consultas e respostas, o ChatGPT usa um sistema de token. Isso divide cada entrada e saída em uma série de tokens usados para classificar a solicitação e o tamanho da resposta.
Embora a contagem de palavras tenha um papel nisso, não é toda a história. Por exemplo, o exemplo abaixo foi inserido em Ferramenta Tokenizer da OpenAi.
A frase e a resposta foram "tokenizadas" para um valor de nove tokens. Isso é consistente com a "regra de ouro" da OpenAI de que um token é equivalente a três quartos de uma palavra.
O modelo GPT 3.5 restringe as perguntas e os dados do usuário a 4.097 tokens. Pelos cálculos da OpenAI, isso equivale a cerca de 3.000 palavras. No entanto, é importante observar que esse limite se aplica tanto à resposta quanto à pergunta.
Embora tudo isso seja bom em teoria, os resultados que encontramos nunca se aproximaram desses limites. A resposta incompleta que o ChatGPT retornou em nosso teste anterior pesou apenas 798 tokens.
Por que as respostas do ChatGPT são limitadas?
Essa tecnologia incipiente rapidamente se tornou o desenvolvimento tecnológico mais falado neste século. Isso gerou uma enorme demanda pelo ChatGPT. Em última análise, essa demanda reduziu efetivamente as respostas para muito abaixo dos limites estabelecidos.
Embora não haja confirmação oficial disso, parece haver um limite de fato de cerca de quinhentas palavras ou 4.000 caracteres.
Para enfatizar, essa não é uma regra fixa - geramos saídas que excediam isso em quase duzentas palavras. No entanto, isso pode ser considerado um limite superior seguro para obter respostas completas.
Como obter respostas mais longas do ChatGPT
Depois de entender que há um "limite oculto" para as respostas do ChatGPT, existem algumas maneiras simples de ajudá-lo a obter respostas mais completas.
- Peça ao ChatGPT para continuar: Se o ChatGPT parar no meio de uma resposta, uma opção é simplesmente pedir para continuar. No exemplo abaixo, digitamos "Continue" e adicionamos outras duzentas palavras à resposta.
- Divida sua pergunta em seções menores: Por exemplo, pedimos várias vezes para escrever um ensaio sobre o impacto da IA na sociedade. Cada vez que a resposta parou. Uma opção aqui é pedir que ele marque alguns tópicos para um ensaio sobre IA e, em seguida, use os marcadores fornecidos como prompts individuais.
- Use a opção Regenerar: Embora isso possa gerar o mesmo erro, sem nada a perder, sempre vale a pena tentar.
- Especifique um limite superior para sua contagem de palavras em seu prompt: A imagem abaixo ilustra como isso pode ser usado para manipular a contagem máxima de palavras em uma resposta.
Essas dicas ajudarão você a obter respostas mais completas do ChatGPT e a contornar o limite não oficial de duração de suas respostas.
ChatGPT: qualidade acima da quantidade
Embora não haja limites definidos para o tamanho das respostas do ChatGPT, a plataforma parece impor um limite de cerca de quinhentas palavras ou 4.000 caracteres.
Principalmente isso pode ser atribuído à enorme demanda por ChatGPT. Isso levou a respostas incompletas e respostas interrompidas no meio da frase, mas existem soluções simples para ajudá-lo a obter respostas mais longas.
Apesar de suas limitações, o ChatGPT continua sendo um notável desenvolvimento tecnológico que continuará a se desenvolver e expandir os limites de qualidade e quantidade de sua produção.
