No ambiente acelerado de hoje, os chatbots empresariais estão a tornar-se ferramentas essenciais para melhorar a produtividade dos funcionários, fornecendo acesso instantâneo a informações organizacionais. No entanto, a jornada para construir sistemas de geração aumentada de recuperação (RAG) eficientes, escaláveis e seguros está repleta de desafios. A pesquisa mais recente da NVIDIA oferece uma solução abrangente por meio da estrutura FACTS, abordando questões como inovação de conteúdo, arquitetura, custo-benefício, testes e segurança.
Desafios no desenvolvimento de negociações comerciais
O desenvolvimento de sistemas de conversação de IA para empresas apresenta desafios únicos. Os chatbots existentes muitas vezes têm dificuldade em fornecer respostas precisas e contextuais, especialmente quando lidam com informações comerciais dinâmicas e proprietárias. Os sistemas de geração aumentada de recuperação (RAG) combinam a capacidade de gerar modelos de linguagem em larga escala (LLMs), como GPT-4, e métodos de recuperação que garantem que as respostas sejam informativas e oportunas. No entanto, a implementação destes sistemas requer engenharia e otimização cuidadosas em muitos aspectos.
A Estrutura FACTS
Para enfrentar os desafios da construção de chatbots de nível empresarial bem-sucedidos, a NVIDIA está introduzindo a estrutura FACTS, com foco em Queimando, Arquitetura, Custos, Testede novo Segurança. Esta abordagem abrangente visa orientar os desenvolvedores no design, implementação e desenvolvimento de pipelines RAG em ambientes corporativos.
- Queimando: é importante garantir que as respostas do chatbot reflitam os dados comerciais atuais. Ao integrar bancos de dados vetoriais que suportam recuperação de conteúdo em tempo real, os chatbots podem manter informações atualizadas do usuário, abordando pontos fracos comuns aos modelos estáticos.
- Arquitetura: Construir plataformas de chatbot flexíveis e personalizáveis é essencial para atender diversas necessidades de negócios. A estrutura suporta a integração de vários LLMs, bancos de dados vetoriais e outros componentes, permitindo personalização e escalabilidade.
- Custos: A implantação de soluções produtivas de IA pode ser cara, especialmente ao usar modelos grandes. O quadro FACTS enfatiza o equilíbrio entre a utilização de LLM grandes e pequenos para melhorar a viabilidade económica sem comprometer o desempenho.
- Teste: Testes rigorosos, incluindo testes automatizados e verificação humana, são essenciais para garantir a precisão, confiabilidade e segurança das respostas do chatbot.
- Segurança: Proteger dados comerciais confidenciais é uma prioridade máxima. Esta estrutura aborda a conformidade com políticas de controle de acesso e implementa diretrizes para proteção contra divulgação não autorizada de dados.
Exemplos: Chatbots NVIDIA
A pesquisa da NVIDIA inclui estudos de caso de três chatbots empresariais desenvolvidos usando a estrutura FACTS: Bot ninfo, Bot de ajuda NVde novo O bot escoteiro. Cada chatbot oferece um histórico diferente, como conteúdo de negócios, ajuda de TI, benefícios de RH ou compensação financeira, o que mostra a flexibilidade da estrutura.
- Bot ninfo gerencia aproximadamente 500 milhões de documentos, garantindo que o conteúdo comercial esteja acessível e ao mesmo tempo aplicando controles de acesso a documentos.
- Bot de ajuda NV concentra-se no suporte de TI e nos benefícios de RH, usando fontes de dados multidimensionais para responder com eficácia às perguntas dos funcionários.
- O bot escoteiro fornece informações sobre as finanças da empresa, gerenciando dados estruturados e não estruturados de fontes públicas.
Os resultados mostram que a conformidade com os princípios FACTS melhora significativamente a confiabilidade e a experiência do usuário dos chatbots baseados em RAG. Por exemplo, a combinação de um método de pesquisa híbrido – combinando pesquisa vetorial e léxica – melhorou a consistência de recuperação, enquanto o uso de arquiteturas multiagentes permitiu o gerenciamento de consultas complexas.
A conclusão
A estrutura FACTS da NVIDIA oferece uma abordagem abrangente para a criação de chatbots eficientes, seguros e de nível empresarial. Com foco na inovação, design, custo, testes e segurança, esta pesquisa oferece soluções práticas para os desafios da implantação de IA conversacional em ambientes empresariais. Em última análise, a estrutura melhora o desempenho, a confiabilidade e a satisfação do usuário do chatbot, tornando-o um recurso valioso para organizações que buscam desenvolver sistemas baseados em RAG para suas operações internas.
Confira Papel. Todo o crédito deste estudo vai para os pesquisadores deste projeto. Além disso, não se esqueça de nos seguir Twitter e junte-se ao nosso Estação telefônica de novo LinkedIn Gracima. Se você gosta do nosso trabalho, você vai gostar do nosso jornal.. Não se esqueça de participar do nosso Mais de 50k ML SubReddit
Interessado em promover sua empresa, produto, serviço ou evento para mais de 1 milhão de desenvolvedores e pesquisadores de IA? Vamos trabalhar juntos!
Asif Razzaq é o CEO da Marktechpost Media Inc. Como empresário e engenheiro visionário, Asif está empenhado em aproveitar o poder da Inteligência Artificial em benefício da sociedade. Seu mais recente empreendimento é o lançamento da Plataforma de Mídia de Inteligência Artificial, Marktechpost, que se destaca por sua ampla cobertura de histórias de aprendizado de máquina e aprendizado profundo que parecem tecnicamente sólidas e facilmente compreendidas por um amplo público. A plataforma possui mais de 2 milhões de visualizações mensais, o que mostra sua popularidade entre os telespectadores.
