Agentes de IA podem consumir até 136 vezes mais energia do que a IA convencional

Os agentes de Inteligência Artificial (IA), capazes de “raciocinar e agir de forma autónoma”, podem consumir até 136,5 vezes mais energia por pedido do que os atuais sistemas de IA generativa, mostra um novo estudo da Universidade KAIST, na Coreia do Sul.

O mesmo estudo demonstra que a competitividade na IA está a expandir-se para além do desempenho dos modelos, passando também a depender da eficiência dos centros de dados e das infraestruturas energéticas associadas.

De acordo com o estudo, as aplicações de IA que recorrem a grandes modelos de linguagem (LLM na sigla em inglês), como o ChatGPT ou o Claude, evoluíram rapidamente para além da simples resposta a perguntas e estão agora a transformar-se em agentes de IA. 

• Técnico capta 27,2 milhões para criar laboratório de IA sustentável

Os chamados agentes de IA são sistemas inteligentes de nova geração capazes de planear, utilizar ferramentas externas e resolver tarefas complexas através da coordenação autónoma de múltiplas etapas.

Embora estes agentes estejam a ser cada vez mais adotados em áreas como o desenvolvimento de software, a investigação científica e a automatização do trabalho, os investigadores sublinham que, até agora, “sabia-se muito pouco sobre a quantidade de eletricidade e os custos operacionais necessários para os executar na prática”.

“À medida que os agentes de IA se generalizarem, será cada vez mais importante adotar uma abordagem integrada de co-design que otimize não apenas a infraestrutura dos centros de dados, mas também os próprios modelos de agentes de IA e as infraestruturas energéticas”, afirma Minsoo Rhu, responsável pela equipa de investigação e professor na KAIST. 

Neste sentido, a universidade analisou o consumo energético dos agentes de IA à escala dos centros de dados e concluiu que um agente de IA que utiliza um modelo de linguagem com 70 mil milhões de parâmetros, o habitual nos atuais serviços comerciais de IA, consumiu, em média, 348,41 watt-hora (Wh) por pedido.  

Além disso, os investigadores projetaram um cenário futuro em que são gerados 13,7 mil milhões de pedidos diários a agentes de IA, um volume equivalente ao tráfego atual do motor de pesquisa da Google. Neste cenário, a procura energética dos centros de dados pode vir a atingir aproximadamente 198,9 gigawatts (GW), um valor muito superior à capacidade dos centros de dados de IA atualmente em desenvolvimento e equivalente a cerca de metade do consumo médio de eletricidade atual dos Estados Unidos.

• Aumento das temperaturas ameaça arrefecimento eficiente dos centros de dados

De acordo com o estudo, a IA está a mudar o foco da competição de “mais inteligente para mais eficiente” e que, por isso, no futuro, “será essencial não apenas continuar a desenvolver os modelos de IA, mas também otimizar de forma integrada os semicondutores para IA, os centros de dados e as infraestruturas energéticas”. 

Para o professor Minsoo Rhu, é “essencial que esta mudança de estratégia seja suficiente para reduzir os custos operacionais dos serviços de IA e construir uma infraestrutura de IA sustentável”.