Em uma série de duas partes, Notícias do MIT examina as implicações ambientais da IA produtiva. Neste artigo, veremos por que essa tecnologia consome tantos recursos. A segunda parte investigará o que os especialistas estão fazendo para reduzir a pegada de carbono e outros impactos da genAI.
É difícil ignorar o entusiasmo em torno dos potenciais benefícios da IA produtiva, desde a melhoria da produtividade dos trabalhadores até ao avanço da investigação científica. Embora o crescimento explosivo desta nova tecnologia tenha levado à rápida implantação de modelos poderosos em muitas indústrias, as consequências ambientais desta produtiva “corrida do ouro” da IA continuam difíceis de definir, e muito menos de mitigar.
O poder computacional necessário para treinar modelos generativos de IA que muitas vezes têm milhares de milhões de parâmetros, como o GPT-4 da OpenAI, pode exigir uma quantidade impressionante de eletricidade, levando ao aumento das emissões de dióxido de carbono e às pressões sobre a rede elétrica.
Além disso, a aplicação destes modelos a aplicações do mundo real, permitindo que milhões de pessoas utilizem IA generativa nas suas vidas diárias e, em seguida, afinando os modelos para melhorar o seu desempenho, gera um enorme potencial muito depois de o modelo ser construído.
Além das necessidades de eletricidade, são necessárias grandes quantidades de água para arrefecer o hardware utilizado para treinar, implementar e afinar os modelos de IA que os produzem, o que pode sobrecarregar o abastecimento de água municipal e perturbar os ecossistemas locais. O número crescente de aplicações produtivas de IA também aumentou a procura de hardware de computação de alto desempenho, acrescentando impactos ambientais indiretos decorrentes do seu fabrico e transporte.
“Quando pensamos no impacto ambiental da IA produtiva, não se trata apenas da electricidade que utilizamos quando ligamos um computador. Existem efeitos muito mais amplos que resultam ao nível do sistema e persistem com base nas acções que tomamos”, afirmou. Elsa A. Olivetti, professora do Departamento de Ciência e Engenharia de Materiais e líder da Missão de Descarbonização do novo Projeto Climático do MIT.
Olivetti é o autor principal do artigo de 2024, “The Climate and Sustainability Implications of Generative AI”, de coautoria de colegas do MIT em resposta à ampla chamada do Instituto para artigos que examinem o potencial transformador da IA reprodutiva, tanto para o bem quanto para o mal. orientações públicas.
Data centers que precisam
As necessidades elétricas dos data centers são um dos principais contribuintes para os efeitos dos ambientes artificiais de IA, já que os data centers são usados para treinar e executar modelos de aprendizagem profunda por trás de ferramentas populares como ChatGPT e DALL-E.
Um data center é um edifício com temperatura controlada que abriga infraestrutura de computadores, como servidores, unidades de armazenamento e equipamentos de rede. Por exemplo, a Amazon tem mais de 100 centros de dados em todo o mundo, cada um com cerca de 50.000 servidores que a empresa utiliza para suportar serviços de computação em nuvem.
Embora os centros de dados existam desde a década de 1940 (o primeiro foi construído na Universidade da Pensilvânia em 1945 para suportar o primeiro computador digital de uso geral, o ENIAC), a ascensão da IA produtiva aumentou enormemente o ritmo de construção de centros de dados.
“O que há de diferente na IA generativa é a densidade de potência que ela requer. Basicamente, é apenas computação, mas um conjunto produtivo de treinamento em IA pode consumir sete ou oito vezes mais energia do que uma carga computacional típica”, disse Noman Bashir, autor principal do documento de impacto, que é Computing and Climate Impact Fellow no MIT Climate. e Consórcio de Sustentabilidade (MCSC) e pós-doutorado em Laboratório de Ciência da Computação e Inteligência Artificial (CSAIL).
Os cientistas estimaram que as necessidades energéticas dos centros de dados na América do Norte aumentarão de 2.688 megawatts até ao final de 2022 para 5.341 megawatts até ao final de 2023, em parte impulsionadas pelas exigências de IA produtiva. Globalmente, o consumo de eletricidade dos data centers aumentou para 460 terawatts até 2022. Isto tornaria os data centers o 11º maior consumidor de eletricidade do mundo, entre as nações da Arábia Saudita (371 terawatts) e França (463 terawatts), de acordo com a Organização para a Cooperação e Desenvolvimento Económico.
Até 2026, o consumo de eletricidade dos data centers deverá atingir 1.050 terawatts (o que tornará os data centers o quinto na lista mundial, entre o Japão e a Rússia).
Embora nem todos os cálculos dos data centers envolvam IA produtiva, a tecnologia tem sido um importante impulsionador do aumento das necessidades energéticas.
“A procura por novos centros de dados não pode ser satisfeita de forma sustentável. “A velocidade com que as empresas estão a construir novos centros de dados significa que a maior parte da electricidade para os gerar deve provir de centrais eléctricas baseadas em combustíveis fósseis”, disse Bashir.
A potência necessária para treinar e operar um modelo como o GPT-3 da OpenAI é difícil de justificar. Em um artigo de pesquisa de 2021, cientistas do Google e da Universidade da Califórnia em Berkeley estimaram que só o processo de treinamento usou 1.287 megawatts-hora de eletricidade (o suficiente para abastecer cerca de 120 residências médias nos EUA por um ano), que produziu cerca de toneladas de 552 carbono. dióxido.
Embora todos os modelos de aprendizado de máquina devam ser treinados, um problema exclusivo da IA generativa são as rápidas flutuações no consumo de energia que ocorrem em diferentes estágios do processo de treinamento, explicou Bashir.
Os operadores da rede elétrica devem ter uma forma de absorver essas flutuações para proteger a rede, e muitas vezes utilizam geradores a diesel para essa tarefa.
Maximize os efeitos do pensamento
Depois que um modelo produtivo de IA é treinado, as demandas de energia não desaparecem.
Cada vez que um modelo é usado, talvez por alguém pedindo ao ChatGPT para compactar um e-mail, o hardware do computador que executa essas tarefas consome energia. Os pesquisadores estimaram que uma consulta ChatGPT consome cinco vezes mais eletricidade do que uma simples pesquisa na web.
“Mas o usuário comum não pensa muito sobre isso”, disse Bashir. “A facilidade de utilização dos links de IA reprodutiva e a falta de conhecimento sobre o impacto ambiental das minhas ações significa que, como utilizador, não tenho muitos incentivos para limitar a minha utilização de IA reprodutiva.”
Com a IA tradicional, o consumo de energia é dividido igualmente entre processamento de dados, treinamento de modelo e previsão, que é o processo de usar um modelo treinado para fazer previsões sobre novos dados. No entanto, Bashir espera que as exigências de energia da inferência generativa de IA acabarão por dominar à medida que estes modelos se tornarem omnipresentes em muitas aplicações, e a potência necessária para a inferência aumentará à medida que as versões futuras dos modelos se tornarem maiores e mais complexas.
Além disso, os modelos produtivos de IA têm uma vida útil curta, impulsionada pela crescente procura de novas aplicações de IA. As empresas lançam novos modelos a cada poucas semanas, portanto a energia usada para treinar as versões anteriores é desperdiçada, acrescenta Bashir. Os modelos mais recentes tendem a utilizar mais poder de treinamento, pois muitas vezes possuem mais parâmetros do que seus antecessores.
Embora as exigências eléctricas dos centros de dados possam receber a maior atenção na literatura de investigação, a quantidade de água que estes centros utilizam também tem um impacto ambiental.
A água gelada é usada para resfriar o data center, absorvendo o calor do equipamento de computação. Estima-se que, para cada quilowatt-hora de energia utilizado por um data center, ele possa precisar de dois litros de água de resfriamento, disse Bashir.
“Só porque isso é chamado de ‘computação em nuvem’ não significa que o hardware vive na nuvem. Os data centers existem em nosso mundo físico e, devido ao uso da água, têm impactos diretos e indiretos na biodiversidade”, afirmou.
O hardware dentro dos data centers traz seus próprios impactos ambientais menos diretos.
Embora seja difícil estimar quanta energia é necessária para produzir uma GPU, o tipo de processador poderoso capaz de lidar com cargas de trabalho produtivas de IA, pode ser mais do que o necessário para produzir uma CPU simples porque o processo de fabricação é muito complexo. A pegada de carbono da GPU é composta por emissões relacionadas ao transporte de mercadorias e produtos.
Há também impactos ambientais decorrentes do fornecimento de matérias-primas usadas para construir GPUs, que podem incluir processos de mineração sujos e o uso de produtos químicos tóxicos para processamento.
A empresa de pesquisa de mercado TechInsights estima que os três principais fabricantes (NVIDIA, AMD e Intel) enviarão 3,85 milhões de GPUs para data centers em 2023, contra cerca de 2,67 milhões em 2022. Espera-se que esse número aumente em uma porcentagem ainda maior até 2024. .
A indústria está num caminho insustentável, mas existem formas de encorajar o desenvolvimento responsável de IA generativa que apoie objectivos ambientais, disse Bashir.
Ele, Olivetti e os seus colegas do MIT argumentam que isto exigirá uma consideração minuciosa de todos os custos ambientais e sociais da produção de IA, bem como uma avaliação detalhada do valor dos seus benefícios percebidos.
“Precisamos de uma abordagem mais holística para compreender de forma sistemática e abrangente as implicações dos novos desenvolvimentos neste espaço. “Devido à velocidade com que houve desenvolvimento, não tivemos a oportunidade de encontrar as nossas competências para medir e compreender o comércio”, disse Olivetti.
