Com milhões de usuários do ChatGPT, você pode se perguntar o que o OpenAI faz com todas as suas conversas. Ele analisa constantemente as coisas sobre as quais você fala com o ChatGPT?
A resposta é sim, o ChatGPT aprende com a entrada do usuário, mas não da maneira que a maioria das pessoas pensa. Aqui está um guia detalhado explicando por que o ChatGPT rastreia conversas, como as usa e se sua segurança está comprometida.
O ChatGPT se lembra das conversas?
O ChatGPT não aceita prompts pelo valor de face. Ele usa memória contextual para lembrar e fazer referência a entradas anteriores, garantindo respostas relevantes e consistentes.
Tome a conversa abaixo como exemplo. Quando pedimos idéias de receitas ao ChatGPT, ele considerou nossa mensagem anterior sobre alergias a amendoim.
Aqui está a receita segura do ChatGPT.
A memória contextual também permite que a IA execute tarefas de várias etapas. A imagem abaixo mostra o ChatGPT permanecendo no personagem mesmo depois de alimentá-lo com um novo prompt.
O ChatGPT pode lembrar dezenas de instruções em conversas. Sua saída realmente melhora em exatidão e precisão à medida que você fornece mais contexto. Apenas certifique-se de explicar suas instruções explicitamente.
Você também deve gerenciar suas expectativas porque a memória contextual do ChatGPT ainda tem limitações.
As conversas do ChatGPT têm capacidade de memória limitada
A memória contextual é finita. O ChatGPT possui recursos de hardware limitados, portanto, ele lembra apenas pontos específicos das conversas atuais. A plataforma esquece os prompts anteriores quando você atinge sua capacidade de memória.
Nesta conversa, instruímos o ChatGPT a interpretar um personagem fictício chamado Tomie.
Ele começou a responder às solicitações como Tomie, não como ChatGPT.
Embora nossa solicitação tenha funcionado, o ChatGPT quebrou o personagem após receber um prompt de 1.000 palavras.
O OpenAI nunca divulgou os limites exatos do ChatGPT, mas rumores dizem que ele só pode processar 3.000 palavras por vez. Em nosso experimento, o ChatGPT apresentou defeito após apenas 2.800 palavras.
Você pode dividir seus prompts em dois conjuntos de 1.500 palavras, mas o ChatGPT provavelmente não reterá todas as suas instruções. Basta iniciar outro bate-papo. Caso contrário, você terá que repetir detalhes específicos várias vezes durante a conversa.
O ChatGPT só se lembra de entradas relevantes para o tópico
O ChatGPT usa memória contextual para melhorar a precisão da saída. Ele não apenas retém informações para coletá-las. A plataforma esquece quase automaticamente detalhes irrelevantes, mesmo que você esteja longe de atingir o limite de token.
Na imagem abaixo, tentamos confundir IA com várias instruções incoerentes e irrelevantes.
Mantivemos nossas entradas combinadas abaixo de 100 palavras, mas o ChatGPT ainda esqueceu nossa primeira instrução. Rapidamente quebrou o personagem.
Enquanto isso, o ChatGPT continuou interpretando durante essa conversa porque só fizemos perguntas relevantes ao tópico.
Idealmente, cada diálogo deve seguir um tema singular para manter resultados precisos e relevantes. Você ainda pode inserir várias instruções simultaneamente. Apenas certifique-se de que eles estejam alinhados com o tópico geral, caso contrário, o ChatGPT pode descartar instruções que considere irrelevantes.
As instruções de treinamento dominam a entrada do usuário
O ChatGPT sempre priorizará as instruções predeterminadas sobre a entrada gerada pelo usuário. Ele interrompe atividades ilícitas por meio de restrições. A plataforma rejeita qualquer solicitação que considere perigosa ou prejudicial a terceiros.
Considere as solicitações de roleplay como exemplos. Embora eles substituam certas limitações de linguagem e fraseologia, você não pode usá-los para cometer atividades ilícitas.
Claro, nem todas as restrições são razoáveis. Se diretrizes rígidas dificultarem a execução de tarefas específicas, continue reescrevendo seus prompts. A escolha de palavras e o tom afetam fortemente as saídas. Você pode se inspirar nos mais prompts detalhados e eficazes no GitHub.
Como o OpenAI estuda as conversas do usuário?
A memória contextual só se aplica à sua conversa atual. A arquitetura sem estado do ChatGPT trata as conversas como instâncias independentes; não pode fazer referência a informações de anteriores. Iniciar novos chats sempre redefine o estado do modelo.
Isso não quer dizer que o ChatGPT elimine as conversas do usuário instantaneamente. Termos de uso do OpenAI afirmam que a empresa coleta entradas de serviços de consumo não API, como ChatGPT e Dall-E. Você pode até pedir cópias do seu histórico de bate-papo.
Enquanto o ChatGPT acessa conversas livremente, Política de privacidade da OpenAI proíbe atividades que possam comprometer os usuários. Os instrutores só podem usar seus dados para pesquisa e desenvolvimento de produtos.
Desenvolvedores procuram brechas
O OpenAI examina as conversas em busca de brechas. Ele analisa instâncias em que o ChatGPT demonstra viés de dados, produz informações prejudiciais ou ajuda a cometer atividades ilícitas. As diretrizes éticas da plataforma são constantemente atualizadas.
Por exemplo, as primeiras versões de ChatGPT respondeu abertamente a perguntas sobre codificação de malware ou construindo explosivos. Esses incidentes fizeram com que os usuários se sentissem como OpenAI não tem controle sobre ChatGPT. Para reconquistar a confiança do público, treinou o chatbot para rejeitar qualquer pergunta que pudesse ir contra suas diretrizes.
Os instrutores coletam e analisam dados
O ChatGPT usa técnicas de aprendizado supervisionado. Embora a plataforma se lembre de todas as entradas, ela não aprende com elas em tempo real. Os treinadores da OpenAI os coletam e analisam primeiro. Isso garante que o ChatGPT nunca absorva as informações prejudiciais e prejudiciais que recebe.
O aprendizado supervisionado requer mais tempo e energia do que as técnicas não supervisionadas. No entanto, deixar a IA para analisar a entrada sozinha já se provou prejudicial.
Tome o Microsoft Tay como exemplo - um dos vezes que o aprendizado de máquina deu errado. Como analisava tweets constantemente sem a orientação do desenvolvedor, usuários mal-intencionados acabaram treinando-o para cuspir opiniões racistas e estereotipadas.
Os desenvolvedores estão constantemente atentos aos vieses
Diversos fatores externos causam vieses na IA. Preconceitos inconscientes podem surgir de diferenças em modelos de treinamento, erros de conjunto de dados e restrições mal construídas. Você os identificará em vários aplicativos de IA.
Felizmente, o ChatGPT nunca demonstrou preconceitos discriminatórios ou raciais. Talvez o pior viés que os usuários notaram seja a inclinação do ChatGPT para ideologias de esquerda, de acordo com um New York Post relatório. A plataforma escreve mais abertamente sobre tópicos liberais do que conservadores.
Para resolver esses vieses, a OpenAI proibiu o ChatGPT de fornecer informações políticas. Ela só pode responder a fatos gerais.
Moderadores analisam o desempenho do ChatGPT
Os usuários podem fornecer feedback sobre a saída do ChatGPT. Você encontrará os botões de polegar para cima e polegar para baixo no lado direito de cada resposta. O primeiro indica uma reação positiva. Depois de clicar no botão curtir ou não gostar, uma janela aparecerá na qual você pode enviar comentários com suas próprias palavras.
O sistema de feedback é útil. Apenas dê ao OpenAI algum tempo para filtrar os comentários. Milhões de usuários comentam no ChatGPT regularmente – seus desenvolvedores provavelmente priorizam instâncias graves de vieses e geração de resultados nocivos.
Suas conversas do ChatGPT são seguras?
Considerando as políticas de privacidade da OpenAI, você pode ter certeza de que seus dados permanecerão seguros. O ChatGPT usa apenas conversas para treinamento de dados. Seus desenvolvedores estudam os insights coletados para melhorar a precisão e a confiabilidade da saída, não para roubar dados pessoais.
Com isso dito, nenhum sistema de IA é perfeito. O ChatGPT não é inerentemente tendencioso, mas indivíduos mal-intencionados ainda podem explorar suas vulnerabilidades, por exemplo, erros de conjunto de dados, treinamento descuidado e brechas de segurança. Para sua proteção, aprenda a combater esses riscos.
