Investigadores sugerem que otimizar software e algoritmos pode reduzir drasticamente o consumo de energia da IA, rivalizando com a eficiência do hardware.
O desafio energético da Inteligência Artificial
A procura por energia nos centros de dados tem registado um crescimento constante, impulsionada pela expansão da Inteligência Artificial. Segundo estimativas da Agência Internacional de Energia, o consumo poderá atingir os 945 TWh até 2030, um valor comparável ao consumo elétrico atual de todo o Japão. Até agora, a indústria tem focado a sua resposta na vertente física: o desenvolvimento de GPUs mais eficientes e a procura de mais capacidade na rede elétrica.
Contudo, investigadores sugerem que esta visão pode ser limitada. De acordo com o Uptime Institute, o PUE (Power Usage Effectiveness) dos centros de dados estagnou nos últimos seis anos. O PUE mede a eficiência de refrigeração e energia, mas falha em avaliar se o software que corre nos servidores está a realizar trabalho útil.
O papel do software na eficiência
Jae-Won Chung, investigador na Universidade de Michigan, defende que o software e os algoritmos podem ter um impacto significativo na poupança de energia. Ao contrário do hardware, que é dispendioso e lento de substituir, as camadas de software, sistemas e algoritmos são mais flexíveis.
- Otimização de modelos: Testes com o modelo Alibaba Qwen 3 235B demonstraram que a utilização de formatos de menor precisão, como o FP8, pode reduzir o consumo de energia em um terço em comparação com o bfloat16.
- Treino inteligente: Ferramentas como o otimizador Perseus conseguem identificar partes de um treino de modelo que exigem menos esforço, ajustando o ritmo para que terminem em sintonia com tarefas mais complexas, reduzindo o consumo energético em até 30%.
- Gestão de carga: A Nvidia, com os perfis de energia do Blackwell, consegue ajustar frequências de computação e memória, prometendo poupanças de até 15% mantendo 97% da performance.
Desafios e limitações
Apesar do potencial, a eficiência de software não é uma solução mágica. Sophie Hall, da ETH Zurich, destaca que a questão não é apenas o consumo, mas o "quando" e "onde" a energia é utilizada. A transferência de cargas de trabalho para regiões com energia mais limpa ou menor procura é uma estratégia viável, mas enfrenta obstáculos como as regras de soberania de dados e a complexidade logística de mover grandes conjuntos de dados.
Além disso, existe o risco do Paradoxo de Jevons: a eficiência pode levar a um aumento do uso total, à medida que cada watt poupado é reinvestido na geração de mais tokens. A otimização de software surge, assim, como uma camada de controlo essencial para maximizar a utilidade de cada watt consumido num setor onde a energia é o principal estrangulamento.
Fontes
Antes de comprares, compara no AHT Scan
Vê preços em várias lojas, promoções e histórico observado num único lugar.
NVIDIA Vera: O novo CPU focado na eficiência de agentes autónomos
Fujifilm investe 63 milhões de dólares para aumentar em cinco vezes a produção de fitas magnéticas de 100 TB
NVIDIA apresenta DSX POD: fábricas de IA modulares para acelerar infraestruturas