Lançado Transformers.js v3: trazendo poder e flexibilidade ao aprendizado de máquina baseado em navegador

No cenário em constante mudança do aprendizado de máquina e da inteligência artificial, os desenvolvedores procuram cada vez mais ferramentas que possam se integrar perfeitamente em uma variedade de ambientes. Um grande desafio enfrentado pelos desenvolvedores é a capacidade de implementar com sucesso modelos de aprendizado de máquina diretamente no navegador, sem depender muito de recursos do servidor ou de amplo suporte de back-end. Embora soluções baseadas em JavaScript tenham surgido para permitir tais capacidades, elas muitas vezes sofrem de funcionalidade limitada, problemas de compatibilidade e limitações nos tipos de modelos que podem ser implementados de forma eficaz. Transformers.js v3 visa resolver essas deficiências, trazendo maior velocidade, compatibilidade e amplo suporte de modelo, tornando-o um lançamento importante para a comunidade de desenvolvedores.

Transformers.js v3, o lançamento mais recente do Hugging Face, é um grande passo em frente para tornar o aprendizado de máquina acessível diretamente nos navegadores. Ao aproveitar o poder do WebGPU – uma API gráfica de última geração que oferece melhorias significativas de desempenho em relação ao amplamente utilizado WebAssembly (WASM) – o Transformers.js v3 oferece um aumento significativo de velocidade, tornando-o até 100 vezes mais rápido em comparação com implementações anteriores. . Essa melhoria é importante para melhorar o desempenho dos modelos baseados em transformadores no navegador, que são muito populares entre as concessionárias. O lançamento da versão 3 também estende a interoperabilidade entre diferentes tempos de execução de JavaScript, incluindo Node.js (ESM e CJS), Deno e Bun, fornecendo aos desenvolvedores a flexibilidade de usar esses modelos em muitos ambientes.

A nova versão do Transformers.js não só inclui suporte para WebGPU, mas também introduz novos formatos de medição, permitindo que modelos sejam carregados e executados de forma mais eficiente usando tipos de dados reduzidos (dtypes). A quantização é uma técnica sensível que ajuda a reduzir o tamanho do modelo e melhorar a velocidade de processamento, especialmente em plataformas de hardware como navegadores da web. Transformers.js v3 oferece suporte a 120 modelos de arquitetura, incluindo modelos populares como BERT, GPT-2 e os novos modelos LLaMA, destacando a natureza completa de seu suporte. Além disso, com mais de 1.200 modelos pré-convertidos disponíveis, os desenvolvedores podem acessar facilmente uma ampla gama de ferramentas sem se preocupar com a complexidade da conversão. A disponibilidade de 25 novos projetos e modelos ajuda ainda mais os desenvolvedores a começar rapidamente, demonstrando casos de uso desde implementações de chatbot até análise de texto, ajudando a demonstrar o poder e a versatilidade do Transformers.js em aplicações do mundo real.

A importância do Transformers.js v3 reside em sua capacidade de permitir que os desenvolvedores criem aplicativos complexos de IA diretamente no navegador com eficiência sem precedentes. A inclusão do suporte WebGPU aborda as limitações de desempenho de longo prazo das soluções anteriores baseadas em navegador. Com desempenho até 100 vezes mais rápido em comparação ao WASM, tarefas como inferência em tempo real, processamento de linguagem natural e até mesmo aprendizado de máquina no dispositivo estão se tornando mais viáveis, eliminando a necessidade de cálculos caros no lado do servidor e permitindo soluções mais focadas na privacidade. . Aplicações de IA. Além disso, a ampla compatibilidade com vários ambientes JavaScript — incluindo Node.js (ESM e CJS), Deno e Bun — significa que os desenvolvedores não estão limitados a plataformas específicas, permitindo uma integração perfeita entre vários projetos. Uma coleção crescente de mais de 1.200 modelos pré-modificados e 25 novos projetos de exemplo reforçam esta versão como uma ferramenta essencial para iniciantes e especialistas na área. Resultados de testes anteriores mostram que os tempos de computação dos modelos de transformadores padrão são significativamente reduzidos ao usar WebGPU, tornando a experiência do usuário mais fluida e responsiva.

Com o lançamento do Transformers.js v3, Hugging Face continua a liderar a democratização de modelos baseados em aprendizado de máquina. Ao aproveitar o WebGPU para um desempenho até 100 vezes mais rápido e aumentar a compatibilidade em áreas-chave do JavaScript, esta versão representa um avanço significativo na IA baseada em navegador. A inclusão de novos formatos de medição, uma biblioteca expandida de mais de 1.200 modelos pré-transformados e 25 exemplos de projetos facilmente acessíveis contribuem para reduzir as barreiras de entrada para engenheiros que desejam usar a energia do transformador. À medida que o aprendizado de máquina baseado em navegador cresce em popularidade, o Transformers.js v3 está pronto para mudar o jogo, tornando a IA complexa não apenas acessível, mas também mais utilizável para uma ampla gama de aplicações.

Instalação

Você pode começar instalando Transformers.js v3 do NPM usando:

npm i @huggingface/transformers

Em seguida, importe a biblioteca com

import { pipeline } from "@huggingface/transformers";

ou, com um CDN

import { pipeline } from "

Confira Detalhes e GitHub. Todo o crédito deste estudo vai para os pesquisadores deste projeto. Além disso, não se esqueça de nos seguir Twitter e junte-se ao nosso Estação telefônica de novo LinkedIn Gracima. Se você gosta do nosso trabalho, você vai gostar do nosso jornal.. Não se esqueça de participar do nosso SubReddit de 55k + ML.

[Upcoming Live Webinar- Oct 29, 2024] A melhor plataforma para modelos ajustados: mecanismo de inferência Predibase (atualizado)