Executar modelos de IA localmente num Samsung Galaxy: o que aprendemos
Smartphone Samsung Galaxy S23 FE num ambiente de trabalho
Fonte: Samsung Galaxy S23 FE

É possível correr modelos de linguagem locais num smartphone Android? Analisamos os desafios de performance e a gestão de recursos num Samsung Galaxy S23 FE.

A crescente dependência de ferramentas de IA baseadas na nuvem, como o ChatGPT ou o Claude, tem levado utilizadores a procurar alternativas locais que garantam privacidade e autonomia. Uma experiência recente, documentada pelo portal XDA Developers, testou a viabilidade de executar modelos de linguagem (LLM) diretamente num Samsung Galaxy S23 FE, revelando desafios técnicos significativos relacionados com a gestão de recursos do sistema operativo.

Desafios de performance e gestão de memória

O dispositivo utilizado, equipado com um processador Exynos 2200 e 8 GB de RAM, enfrentou dificuldades imediatas. A execução de modelos como o Gemma 4 E2B através de servidores locais (via Termux) resultou inicialmente num desempenho extremamente lento, com taxas de geração inferiores a 0,11 tokens por segundo. A investigação apurou que o Android, e especificamente a implementação da Samsung, limita drasticamente os núcleos de processamento disponíveis para aplicações que não se encontram em primeiro plano.

A solução encontrada para contornar esta limitação de agendamento de tarefas foi a utilização do modo de ecrã dividido (split screen). Ao manter o Termux e o navegador ativos simultaneamente, o sistema permitiu que o modelo operasse com uma performance utilizável, atingindo entre 5,4 e 6,6 tokens por segundo. Esta configuração permite realizar tarefas simples de resumo e reescrita de texto, embora com limitações claras:

  • Dependência de interface: É obrigatório manter as aplicações em modo de ecrã dividido para evitar que o sistema operativo restrinja os recursos do processador.
  • Fiabilidade dos resultados: Por se tratarem de modelos de pequena dimensão, a verificação manual dos factos gerados é indispensável, uma vez que a propensão para alucinações é elevada.

Embora esta configuração não substitua as capacidades de modelos baseados na nuvem para tarefas complexas, demonstra que hardware mais antigo pode ser reaproveitado para tarefas de IA local, desde que o utilizador esteja disposto a gerir as restrições de energia e memória do Android.

Relevância em Portugal

Não existe confirmação de que estas limitações de agendamento sejam exclusivas dos equipamentos Samsung ou uma característica geral do Android. A experiência sugere que a eficácia da IA local em telemóveis depende fortemente da gestão de recursos do fabricante. Para utilizadores em Portugal que pretendam explorar esta via, é recomendável verificar se o modelo de smartphone permite manter processos em segundo plano sem estrangulamento severo, sendo que o S23 FE demonstrou que a utilização de interfaces de chat como o PocketPal pode oferecer uma experiência mais estável do que a configuração manual via linha de comandos, embora com menor controlo sobre os parâmetros do modelo.

Fontes

Antes de comprares, compara no AHT Scan

Vê preços em várias lojas, promoções e histórico observado num único lugar.

Abrir AHT Scan →