O problema com a IA é que, devido à sua complexidade, geralmente requer hardware pesado, como servidores dedicados, que fazem toda a trituração necessária. Isso também significa que, do ponto de vista do usuário final, precisaríamos de uma conexão com a Internet para acessar essas IAs, como ChatGPT, Bard e assim por diante.
Isso pode mudar no futuro, e a Qualcomm demonstrou que é totalmente possível que uma IA grande e complexa seja executada localmente, mesmo em um dispositivo Android de médio porte. Durante a conferência anual IEEE/CVF sobre visão computacional e reconhecimento de padrões, a Qualcomm apresentou uma demonstração que os viu executar o ControlNet, um modelo de linguagem de visão de imagem para imagem de parâmetro 1,5B, localmente em um dispositivo Android.
O que é surpreendente e impressionante sobre esta demonstração é que nenhuma conexão com a Internet é necessária para que funcione. A empresa demonstrou como eles alimentaram a IA com um prompt de imagem e, em 12 segundos, conseguiram criar uma imagem com base nesses prompts, o que é realmente muito rápido em comparação com os sistemas de IA concorrentes.
Lembre-se de que esta é apenas uma demonstração, portanto, obviamente, o uso no mundo real pode ser uma história diferente, mas, supondo que realmente funcione como anunciado, isso pode mudar a maneira como a IA é implementada, especialmente em nossos telefones ou até computadores. Ao processar todos os dados localmente, garante a privacidade porque nenhum deles vai para a nuvem, que pode ser hackeado ou interceptado.
Isso também significa que pode reduzir a necessidade de ter farms de servidores dedicados em execução 24 horas por dia, 7 dias por semana, para processar todas as solicitações de IA. No momento, o ControlNet não está disponível ao público, mas com base na demonstração da Qualcomm, é bastante empolgante e mal podemos esperar para ver como ele pode ser integrado aos nossos telefones e transformá-los em telefones verdadeiramente “inteligentes”.