Embora softwares proprietários como GPT e PaLM dominem o mercado, muitos desenvolvedores veem valor em modelos de linguagem de código aberto. Tome Meta como exemplo. Ele ganhou as manchetes em fevereiro de 2023 por lançar oficialmente o modelo de linguagem grande LLaMA como um programa de código aberto. Sem surpresa, essa decisão gerou reações mistas.
Como os modelos de linguagem de código aberto têm muitos prós e contras e podem afetar positiva e negativamente o setor de IA, resumimos os pontos-chave que você deve conhecer e entender.
5 impactos positivos dos modelos de linguagem de código aberto
Os modelos de linguagem de código aberto promovem uma abordagem colaborativa. As contribuições, revisões e casos de uso de desenvolvedores em todo o mundo sem dúvida os ajudam a avançar mais rapidamente do que os projetos fechados.
1. Desenvolvedores de IA economizam recursos usando modelos de código aberto
O lançamento de modelos de linguagem proprietária custa milhões, senão bilhões, em recursos. Tome o OpenAI como exemplo.
Business Insider relata que a empresa teve que arrecadar cerca de US$ 30 bilhões para administrar o ChatGPT com eficiência. Adquirir tanto financiamento é impossível para a maioria das empresas. As startups de tecnologia em seus estágios iniciais teriam sorte se atingissem até sete dígitos.Considerando a alta sobrecarga, muitos desenvolvedores usam modelos de linguagem de código aberto. Eles economizam milhões utilizando a arquitetura, estrutura neural, dados de treinamento, algoritmo, implementação de código e conjuntos de dados de treinamento desses sistemas.
2. Modelos de código aberto indiscutivelmente avançam mais rápido
Muitos líderes de tecnologia argumentam que os modelos de linguagem de código aberto avançam mais rapidamente do que os equivalentes proprietários. Eles valorizam as contribuições e a colaboração da comunidade. Milhões de desenvolvedores habilidosos estão trabalhando em projetos abertos – eles poderiam, teoricamente, alcançar uma iteração sofisticada e livre de erros muito mais rapidamente.
Cobrir lacunas de conhecimento também é mais rápido com IA de código aberto. Em vez de treinar equipes para encontrar bugs, testar atualizações e explorar implementações, as empresas podem analisar as contribuições da comunidade. O compartilhamento de conhecimento permite que os usuários trabalhem com mais eficiência.
As contribuições da comunidade nem sempre são precisas. Os desenvolvedores ainda devem verificar os algoritmos e modelos antes de integrá-los em seus sistemas.
3. Os desenvolvedores detectarão vulnerabilidades mais rapidamente
Os modelos de linguagem de código aberto incentivam as revisões por pares e o envolvimento ativo em sua comunidade colaborativa. Os desenvolvedores podem acessar livremente as alterações da base de código. Com tantos usuários analisando projetos abertos, eles provavelmente detectarão problemas de segurança, vulnerabilidades e bugs do sistema mais rapidamente.
Da mesma forma, a resolução de bugs também é simplificada. Em vez de resolver manualmente os problemas do sistema, os desenvolvedores podem verificar o sistema de controle de versão do projeto para correções anteriores. Algumas entradas podem estar desatualizadas. No entanto, eles ainda fornecerão aos pesquisadores e treinadores de IA um ponto de partida útil.
4. Líderes de tecnologia de IA aprendem com modelos de código aberto
Os modelos de linguagem de código aberto se beneficiam do loop de feedback. O loop de feedback positivo compartilha algoritmos, conjuntos de dados e funções eficazes, incentivando os desenvolvedores a imitá-los. O processo economiza muito tempo. Apenas observe que erros podem surgir com feedback positivo que os usuários replicam aleatoriamente - os erros tendem a passar despercebidos.
Enquanto isso, o loop de feedback negativo se concentra em áreas de melhoria. O processo envolve compartilhar percepções pessoais enquanto resolve bugs, testa novas funções e corrige problemas do sistema.
5. Plataformas de IA de código aberto obtêm a preferência em novos sistemas
As empresas de tecnologia não estão compartilhando sistemas de linguagem de bilhões de dólares por bondade. Embora as licenças de código aberto concedam a terceiros a liberdade de modificar e vender sistemas, elas têm limitações.
Os distribuidores geralmente criam condições que garantem que eles mantenham alguma autoridade. Você encontrará essas regras nos contratos de licenciamento de programas de código aberto — os usuários finais raramente obtêm 100% de autoridade.
Digamos que a Meta queira controlar os produtos movidos a LLaMA. Sua equipe jurídica poderia especificar que a Meta se reserva o direito de investir em quaisquer novos sistemas construídos em seu modelo de linguagem.
Mas não entenda mal — desenvolvedores e distribuidores terceirizados ainda fazem acordos mutuamente benéficos. Este último fornece tecnologias e sistemas de bilhões de dólares. Enquanto isso, startups e desenvolvedores independentes exploram maneiras de implementá-los em diferentes aplicativos.
5 impactos negativos dos modelos de linguagem de código aberto
Os modelos de linguagem de código aberto são inerentemente imparciais, mas os humanos não. Consumidores, desenvolvedores e empresas com intenções maliciosas podem explorar a natureza aberta desses sistemas para ganho pessoal.
1. As empresas estão entrando aleatoriamente na corrida da IA
Atualmente, as empresas estão enfrentando muita pressão para ingressar na corrida da IA. Com a popularização dos sistemas de IA, muitas empresas temem que se tornem obsoletas se não adotarem a IA. Como resultado, as marcas entram na onda de forma aleatória. Eles integram modelos de linguagem de código aberto em seus produtos para vender o produto e acompanhar a concorrência, mesmo que não ofereçam nada valioso.
Sim, a IA é um mercado emergente rapidamente. Mas a liberação descuidada de sistemas sofisticados, mas inseguros, prejudica a indústria e compromete a segurança do consumidor. Os desenvolvedores devem usar IA para resolver problemas, não executar truques de marketing.
2. Os consumidores obtêm acesso à tecnologia que mal entendem
Você encontrará variações baseadas em IA de várias ferramentas tecnológicas, desde editores de imagem online para aplicativos de monitoramento de saúde. E as marcas continuarão introduzindo novos sistemas à medida que a IA evoluir. Os modelos de IA os ajudam a fornecer iterações mais personalizadas e focadas no usuário de suas plataformas existentes.
Enquanto a indústria de tecnologia recebe inovações, a rápida evolução da IA supera a educação do usuário. Os consumidores estão obtendo acesso a tecnologias que mal entendem. A falta de educação cria enormes lacunas de conhecimento, o que deixa o público sujeito a ameaças de segurança cibernética e práticas predatórias.
As marcas devem priorizar o treinamento tanto quanto o desenvolvimento de produtos. Eles devem ajudar os usuários a entender as maneiras seguras e responsáveis de utilizar ferramentas poderosas baseadas em IA.
3. Nem todos os desenvolvedores têm boas intenções
Nem todo mundo usa ferramentas de IA para o propósito pretendido. Por exemplo, a OpenAI desenvolveu o ChatGPT para responder a perguntas de conhecimento geral de segurança no trabalho e replicar a saída de linguagem natural, mas os criminosos o exploram para atividades ilícitas. houve vários Fraudes do ChatGPT desde o lançamento do chatbot de IA em novembro de 2022.
Mesmo que os laboratórios de IA imponham restrições rígidas, os criminosos ainda encontrarão maneiras de contorná-los. Tome o ChatGPT como exemplo novamente. Os usuários contornam as restrições e executam tarefas proibidas usando Prompts de jailbreak do ChatGPT.
As conversas abaixo demonstram essas vulnerabilidades. ChatGPT tem conjuntos de dados limitados; portanto, não pode fazer previsões sobre eventos instáveis e não garantidos.
Apesar de suas limitações, o ChatGPT executou nossa solicitação e forneceu previsões infundadas após o jailbreak.
4. Instituições podem ter problemas para regulamentar IA de código aberto
Os órgãos reguladores estão lutando para acompanhar a IA, e a proliferação de modelos de código aberto apenas dificulta o monitoramento. Os avanços da IA já superam as estruturas regulatórias. Mesmo líderes globais de tecnologia como Elon Musk, Bill Gates e Sam Altman está pedindo uma regulamentação de IA mais rígida.
Os setores privado e governamental devem controlar esses sistemas. Caso contrário, indivíduos mal-intencionados continuarão a explorá-los para violar as leis de privacidade de dados, executar roubo de identidade, e vítimas de golpes, entre outras atividades ilícitas.
5. Barreiras mais baixas à entrada dificultam a qualidade
A proliferação de modelos de linguagem de código aberto reduz as barreiras de entrada para ingressar na corrida da IA. Você encontrará milhares de ferramentas baseadas em IA online.
Ver empresas adotando aprendizado de máquina e profundo pode parecer impressionante, mas poucas fornecem qualquer valor real. A maioria simplesmente copia seus concorrentes. Com o tempo, a acessibilidade de modelos de linguagem sofisticados e conjuntos de dados de treinamento pode mercantilizar plataformas de IA inúteis.
O impacto geral dos modelos de linguagem de código aberto na indústria de IA
Embora os modelos de linguagem de código aberto tornem as tecnologias de IA mais acessíveis, eles também apresentam vários riscos de segurança. Os desenvolvedores devem definir restrições mais rígidas. Caso contrário, os criminosos continuarão explorando a arquitetura transparente desses sistemas.
Dito isso, os consumidores não estão totalmente indefesos contra golpes de IA. Familiarize-se com as maneiras comuns pelas quais os criminosos exploram ferramentas de IA generativas e estude os sinais de alerta de ataques. Você pode combater a maioria dos crimes cibernéticos mantendo-se vigilante.