Não demorará muito até que tenhamos ferramentas poderosas de IA em nossos bolsos que não dependam de conexão com a Internet.
Principais conclusões
- IA no dispositivo refere-se a recursos de inteligência artificial executados localmente em um dispositivo sem conexão com a Internet, proporcionando privacidade e processamento mais rápido.
- Com a IA no dispositivo, os smartphones podem realizar tarefas impressionantes, como gerar imagens rapidamente, fornecer assistentes de IA personalizados e melhorar os gráficos dos jogos e a qualidade do áudio.
- Empresas como a Qualcomm estão integrando hardware especializado em seus dispositivos para otimizar a IA no dispositivo desempenho, oferecendo recursos avançados como assistentes inteligentes, tradução em tempo real e automação edição de fotos.
De chatbots a carros autônomos, a IA está transformando o cenário tecnológico. Uma área onde a adoção da IA está a acelerar rapidamente é nos dispositivos de consumo, como os smartphones. Os gigantes da tecnologia estão correndo para integrar recursos de IA nos dispositivos em seu hardware e software mais recentes.
Mas o que exatamente é IA no dispositivo e como funciona?
O que é IA no dispositivo e como funciona
Hoje, a maior parte da IA do consumidor é alimentada por enormes conjuntos de dados armazenados na nuvem. No entanto, enviar dados pessoais para servidores de IA não é bom para a privacidade. É aí que entra a IA no dispositivo.
A IA no dispositivo refere-se a recursos de inteligência artificial executados localmente em um dispositivo, e não na nuvem. Isso significa que o processamento de IA ocorre diretamente no seu telefone, tablet ou outros dispositivos, sem conexão com a Internet.
Veja como funciona nos bastidores: modelos de IA como Difusão Estável, DALLE-E, Midjourney, etc., são treinados na nuvem usando muitos dados e poder de computação. Esses modelos são então otimizados para funcionar com eficiência nos dispositivos de destino. Os modelos de IA otimizados são incorporados aos aplicativos e baixados no dispositivo de cada usuário. Os dados do aplicativo permanecem isolados em um enclave seguro.
Quando o aplicativo precisa realizar uma tarefa como reconhecer um som ou identificar um objeto em uma foto, ele executa o modelo de IA localmente usando a CPU ou GPU integrada do dispositivo. O modelo de IA processa os dados de entrada e gera uma previsão ou resultado de saída sem enviar quaisquer dados externamente.
Tudo isso acontece inteiramente no seu dispositivo, mantendo a privacidade das suas interações.
Como a IA no dispositivo pode beneficiá-lo
A IA no dispositivo permite recursos impressionantes em seu dispositivo. Isso inclui a geração rápida de imagens usando modelos como Stable Diffusion, onde as imagens podem ser criadas em segundos, o que é extremamente rápido. Isso pode ser ótimo se você deseja criar imagens e planos de fundo para suas postagens nas redes sociais rapidamente. E como é processado localmente, os prompts de imagem permanecem privados.
Um assistente de IA também pode ser alimentado localmente, proporcionando uma experiência personalizada com base em seus dados e preferências, como atividades favoritas e níveis de condicionamento físico. Ele pode compreender a linguagem natural para tarefas como edição de fotos e vídeos. Por exemplo, você pode dizer “remover a pessoa à esquerda” para editar uma imagem instantaneamente.
Para fotografia, a IA no dispositivo pode ativar recursos como estender as bordas da imagem (semelhante a Recurso de preenchimento do Photoshop), usando câmeras frontal e traseira simultâneas para efeitos de vídeo e editando diferentes camadas de forma independente.
Os gráficos de jogos também podem se beneficiar da IA no dispositivo por meio do aumento da resolução para 8K, acelerando o traçado de raios para uma iluminação realista e duplicando com eficiência as taxas de quadros. Em relação ao áudio, a IA no dispositivo pode permitir a sincronização de áudio em tempo real para que o áudio de vídeos e jogos nunca fique fora de sincronia. Ele também permite chamadas e música nítidas, mesmo se você entrar em outra sala.
No geral, a IA no dispositivo se alinha com o que muitos usuários desejam – resultados rápidos e privacidade – pois mantém mais processamento local em vez de na nuvem.
IA no dispositivo traz experiências de IA mais rápidas e privadas
A IA no dispositivo é muito legal. Ele permite que nossos telefones e outros dispositivos executem algoritmos avançados de IA localmente, sem a necessidade de conexão com a nuvem e sem atrasos.
Empresas como a Qualcomm já estão empacotando seus chips mais recentes com hardware especializado para executar redes neurais com eficiência em nossos dispositivos. Por exemplo, o Snapdragon 8 Gen 3 da Qualcomm suporta até 24 GB (em um smartphone!), tem suporte integrado para Stable Diffusion e Llama 2, e usa o AI Stack da Qualcomm para oferecer o melhor desempenho de IA no dispositivo atualmente tempo.
Assim, com cada nova geração de smartphones, esperamos ver capacidades de IA ainda mais poderosas no dispositivo para coisas como assistentes inteligentes, tradução em tempo real, edição automatizada de fotos e imagem de IA generativa extremamente rápida geração.
