AMD lança AMD ROCm 6.3: uma plataforma de código aberto com ferramentas e aprimoramentos aprimorados para otimizar cargas de trabalho de IA, ML e HPC

À medida que a inteligência artificial (IA), a aprendizagem automática (ML) e a computação de alto desempenho (HPC) se tornam fundamentais para a inovação em todos os setores, também trazem desafios que não podem ser ignorados. Essas tarefas exigem recursos computacionais poderosos, gerenciamento eficiente de memória e software otimizado para aproveitar ao máximo o hardware. Para os desenvolvedores, a migração de código legado para estruturas baseadas em GPU pode parecer como navegar em águas desconhecidas, e a expansão para sistemas de vários nós geralmente adiciona outra camada de complexidade. As plataformas proprietárias podem limitar a flexibilidade, dificultando a adoção de novas tecnologias pelas organizações. Plataformas de código aberto com desenvolvimento avançado parecem ser uma solução importante para liberar o poder da aceleração da GPU.

AMD ROCm 6.3: a plataforma completa de código aberto

Para enfrentar esses desafios, a AMD lançou o ROCm 6.3, uma plataforma de código aberto projetada especificamente para cargas de trabalho de IA, ML e HPC em aceleradores de GPU AMD Instinct. Esta versão inclui ferramentas avançadas e otimizações para oferecer alto desempenho e, ao mesmo tempo, manter a plataforma acessível e amigável ao desenvolvedor.

Os principais recursos incluem:

• Suporte SGlang: permite a regressão acelerada de IA com recursos de linguagem eficientes, possibilitando a otimização de modelos complexos.
• FlashAttention-2 retrabalhado: oferece treinamento de IA aprimorado e velocidade de previsão, abordando as restrições de desempenho nos mecanismos de atenção.
• Suporte FFT de vários nós: melhora a robustez dos fluxos de trabalho de HPC otimizando as rápidas transformações de Fourier em sistemas distribuídos.
• Bibliotecas de informática avançadas: Inclui algoritmos sofisticados que melhoram o desempenho de tarefas de IA baseadas em visão, como detecção de objetos e processamento de imagens.
• Compilador AMD Fortran: ajuda a integrar bases de código herdadas na aceleração de GPU, fornecendo uma maneira eficiente para aplicativos de computação científica.

Esses recursos refletem o foco da AMD em apoiar desenvolvedores e organizações com ferramentas funcionais e interoperabilidade aberta, tornando a plataforma atraente para uma variedade de casos de uso.

Destaques técnicos e benefícios

O ROCm 6.3 foi projetado com um foco claro em atender às necessidades da força de trabalho moderna. Algumas características técnicas importantes incluem:

1. Melhorando o desempenho: FlashAttention-2 melhora o uso de memória e a eficiência computacional, o que é especialmente importante para modelos baseados em transformadores que exigem recursos significativos.
2. Escalabilidade: O suporte FFT de vários nós permite que os fluxos de trabalho de HPC sejam dimensionados com eficiência em clusters de GPU, possibilitando tarefas como simulações em grande escala e análises de dados complexos.
3. Acessibilidade do desenvolvedor: O compilador AMD Fortran permite que os usuários levem código legado para ambientes acelerados por GPU, o que é particularmente útil em domínios como pesquisa científica.
4. Ferramentas Especiais: Bibliotecas de computadores avançadas fornecem uma maneira sistemática de desenvolver aplicações de IA em áreas como sistemas autônomos e imagens médicas, fornecendo algoritmos pré-configurados.

Essas melhorias tornam o ROCm 6.3 uma plataforma flexível adequada tanto para projetos de teste quanto para cargas de trabalho de nível de produção, atendendo às necessidades tanto de start-ups quanto de empresas estabelecidas.

Resultados e detalhes

O feedback dos primeiros usuários do ROCm 6.3 aponta para melhorias significativas no desempenho e na facilidade de uso. Por exemplo, o FlashAttention-2 demonstrou melhorar a eficiência de treinamento de modelos de transformadores em até 30% em comparação com iterações anteriores. O suporte FFT de vários nós demonstrou escalabilidade excepcional, permitindo aos pesquisadores processar grandes conjuntos de dados com eficiência, mantendo baixa sobrecarga computacional.

Bibliotecas de computadores avançadas também provaram seu valor, permitindo tempos de decisão mais rápidos em tarefas de reconhecimento de imagens. Essas vantagens se traduzem em ciclos de desenvolvimento mais curtos e resultados mais precisos para aplicações do mundo real. A natureza de código aberto da plataforma significa que ela está em constante evolução, com contribuições da comunidade ajudando a acompanhar as novas tecnologias e casos de uso.

A conclusão

O AMD ROCm 6.3 aborda os principais desafios em cargas de trabalho de IA, ML e HPC com um conjunto bem integrado de recursos e otimizações. Com foco na escalabilidade, integração de código legado e desempenho, fornece aos desenvolvedores e organizações um conjunto de ferramentas confiável e flexível para atender às necessidades da computação moderna. Recursos como suporte SGlang, FlashAttention-2 e bibliotecas de computador avançadas fornecem benefícios práticos sem complexidade desnecessária.

À medida que a aceleração da GPU continua a desempenhar um papel fundamental no desenvolvimento tecnológico, o ROCm 6.3 se destaca como uma plataforma inteligente e capaz. Seu design de código aberto e seu compromisso com a interoperabilidade garantem que ele continue sendo um recurso essencial para enfrentar os desafios computacionais de hoje e de amanhã.

Confira eu Detalhes. Todo o crédito deste estudo vai para os pesquisadores deste projeto. Além disso, não se esqueça de nos seguir Twitter e junte-se ao nosso Estação telefônica de novo LinkedIn Gracima. Não se esqueça de participar do nosso SubReddit de 60k + ML.

🚨 Tendências: LG AI Research Release EXAONE 3.5: Modelos de três níveis de IA bilíngue de código aberto oferecem seguimento de comando incomparável e insights profundos de conteúdo Liderança global em excelência em IA generativa….