Vijay Gadepallymembro sênior da equipe do Lincoln Laboratory do MIT, ele lidera uma série de projetos em Centro de Supercomputação do Laboratório Lincoln (LLSC) para tornar as plataformas de computação e os sistemas de inteligência artificial que nelas rodam mais eficientes. Aqui, Gadepally discute o uso crescente de inteligência artificial em ferramentas cotidianas, seu impacto oculto no meio ambiente e algumas das maneiras pelas quais o Lincoln Laboratory e a comunidade de IA em geral podem reduzir as emissões para um futuro mais verde.
Pergunta: Que tendências você vê na forma como a IA generativa está sendo usada na computação?
UM: A IA generativa usa aprendizado de máquina (ML) para criar novos conteúdos, como imagens e texto, com base nos dados alimentados no sistema de ML. Na LLSC projetamos e construímos algumas das maiores plataformas de computação do mundo e, nos últimos anos, vimos uma explosão no número de projetos que precisam de acesso à computação de IA generativa de alto desempenho. Também estamos vendo como a IA produtiva está mudando todos os tipos de campos e domínios – por exemplo, o ChatGPT já está impactando a sala de aula e o local de trabalho mais rápido do que as regras parecem conseguir acompanhar.
Podemos imaginar todos os tipos de utilizações produtivas da IA durante a próxima década, como capacitar assistentes virtuais qualificados, criar novos medicamentos e materiais e até melhorar a nossa compreensão da ciência básica. Não podemos prever tudo o que será utilizado pela IA produtiva, mas posso dizer com certeza que, com algoritmos cada vez mais complexos, o seu impacto na computação, na energia e no clima continuará a crescer muito rapidamente.
Pergunta: Que estratégias utiliza o LLSC para reduzir este impacto climático?
UM: Estamos sempre à procura de formas de tornar a computação mais eficiente, pois isso ajuda o nosso data center a aproveitar ao máximo os seus recursos e permite que os nossos parceiros científicos avancem nos seus campos da forma mais eficiente possível.
Por exemplo, temos vindo a reduzir a quantidade de energia que os nossos dispositivos informáticos utilizam através de alterações simples, como diminuir ou apagar as luzes quando saímos de uma sala. Num teste, reduzimos o consumo de energia de um grupo de unidades de processamento de imagem entre 20% e 30%, com pouco impacto no seu desempenho, através da aplicação de um limite de energia. Esse processo também reduz a temperatura operacional do hardware, tornando as GPUs mais fáceis de resfriar e durar mais.
Outra estratégia é mudar nosso comportamento para ficarmos mais atentos ao clima. Em casa, alguns de nós podem optar por utilizar fontes de energia renováveis ou planeamento inteligente. Usamos técnicas LLSC semelhantes – como o treinamento de modelos de IA quando as temperaturas são baixas ou quando a demanda de energia da rede local é baixa.
Percebemos também que muita energia gasta em computação muitas vezes é desperdiçada, como um vazamento de água aumentando sua conta mas sem benefícios para sua casa. Desenvolvemos alguns novos métodos que nos permitem monitorar cargas de trabalho enquanto elas estão em execução e encerrar aquelas que podem não estar funcionando bem. Surpreendentemente, em muitos casos descobrimos que muitos cálculos podem ser finalizados antecipadamente sem comprometer o resultado final.
Pergunta: Qual é um exemplo de projeto que você realizou que reduziu a produção de energia de um sistema de IA produtivo?
UM: Recentemente, construímos uma ferramenta computacional com detecção do clima. A visão computacional é um campo que se concentra na aplicação de IA a imagens; assim, distinguir entre cães e gatos em uma imagem, rotular corretamente os objetos em uma imagem ou procurar partes de interesse em uma imagem.
Em nossa ferramenta, incluímos telemetria de carbono em tempo real, que gera informações sobre quanto carbono nossa rede local está emitindo à medida que o modelo é executado. Dependendo dessas informações, nosso sistema mudará automaticamente para uma versão do modelo com maior eficiência energética, geralmente com menos parâmetros, durante períodos de alta intensidade de carbono, ou uma versão mais confiável do modelo durante períodos de baixa intensidade de carbono. .
Ao fazer isto, assistimos a uma redução nas emissões de carbono de cerca de 80% num período de um a dois dias. Recentemente, estendemos essa ideia a outras tarefas generativas de IA, como resumo de texto, e encontramos resultados semelhantes. Curiosamente, o desempenho às vezes melhora depois de usar a nossa estratégia!
Pergunta: O que podemos fazer como consumidores de IA produtiva para ajudar a reduzir o seu impacto climático?
UM: Como consumidores, podemos pedir aos nossos fornecedores de IA que esclareçam mais. Por exemplo, no Google Flights, posso ver uma variedade de opções que mostram a pegada de carbono de um voo específico. Deveríamos encontrar os mesmos tipos de métricas nas ferramentas de produtividade de IA para que possamos tomar uma decisão informada sobre qual produto ou plataforma usar com base em nossas prioridades.
Também podemos fazer um esforço para aprender mais sobre o lançamento de IA produtiva em geral. Muitos de nós estamos familiarizados com as emissões automotivas e pode ser útil falar sobre as emissões de produtividade da IA em termos comparativos. As pessoas podem ficar surpresas ao saber, por exemplo, que uma operação de produção de uma imagem é aproximadamente equivalente a dirigir seis quilômetros em um carro a gasolina, ou que é necessária a mesma quantidade de energia para carregar um carro elétrico e para produzir cerca de 1.500 páginas de texto. resumos.
Existem muitas situações em que os clientes ficariam felizes em fazer uma negociação se conhecessem o impacto da negociação.
Pergunta: O que você vê para o futuro?
UM: Reduzir o impacto climático da IA artificial é um daqueles problemas em que pessoas de todo o mundo estão a trabalhar e têm um objetivo comum. Fazemos muito trabalho aqui no Laboratório Lincoln, mas apenas arranhamos a superfície. Com o tempo, os data centers, os desenvolvedores de IA e as redes elétricas precisarão trabalhar juntos para fornecer “auditorias energéticas” para desbloquear novas maneiras de melhorar o desempenho da computação. Precisamos de mais cooperação e colaboração para avançar.
Se você estiver interessado em saber mais ou em fazer parceria com o Lincoln Laboratory nesses esforços, entre em contato Vijay Gadepally.
