Os agentes de IA estão prontos para transformar a produtividade do bilhão de trabalhadores do conhecimento do mundo com “robôs do conhecimento” que podem realizar uma variedade de tarefas. Para desenvolver agentes de IA, as empresas precisam abordar questões críticas como confiança, segurança, proteção e conformidade.
Os novos microsserviços NVIDIA NIM para guardrails de IA – parte da coleção de ferramentas de software NVIDIA NeMo Guardrails – são microsserviços de inferência portáteis e otimizados que ajudam as empresas a melhorar a segurança, a precisão e a escalabilidade de suas aplicações de IA generativa.
No centro da orquestração dos microsserviços está o NeMo Guardrails, parte da plataforma NVIDIA NeMo para curadoria, personalização e proteção de IA. O NeMo Guardrails ajuda os desenvolvedores a integrar e gerenciar guardrails de IA em aplicações de modelo de linguagem grande (LLM). Os líderes do setor Amdocs, Cerence AI e Lowe’s estão entre os que usam o NeMo Guardrails para proteger as aplicações de IA.
Os desenvolvedores podem usar os microsserviços NIM para criar agentes de IA mais seguros e confiáveis, que fornecem respostas seguras e apropriadas dentro de diretrizes específicas do contexto e são reforçados contra tentativas de jailbreak. Implantados no atendimento ao cliente em setores como automotivo, financeiro, saúde, manufatura e varejo, os agentes podem aumentar a satisfação e a confiança do cliente.
Um dos novos microsserviços, criado para moderar a segurança do conteúdo, foi treinado usando o Aegis Content Safety Dataset – uma das fontes de dados de mais alta qualidade e com anotações humanas em sua categoria. Com curadoria e propriedade da NVIDIA, o conjunto de dados está disponível publicamente no Hugging Face e inclui mais de 35.000 amostras de dados com anotações humanas sinalizadas para segurança de IA e tentativas de jailbreak para contornar as restrições do sistema.
NVIDIA NeMo Guardrails mantém os agentes de IA no caminho certo
A IA está aumentando rapidamente a produtividade em uma ampla gama de processos de negócios. No atendimento ao cliente, ela está ajudando a resolver os problemas dos clientes até 40% mais rápido. No entanto, o dimensionamento da IA para atendimento ao cliente e outros agentes de IA exige modelos seguros que evitem resultados prejudiciais ou inadequados e garantam que a aplicação de IA se comporte dentro dos parâmetros definidos.
A NVIDIA apresentou três novos microsserviços NIM para o NeMo Guardrails que ajudam os agentes de IA a operar em escala, mantendo o comportamento controlado:
Segurança de conteúdo Microsserviço de NIM que protege a IA contra a geração de resultados tendenciosos ou prejudiciais, garantindo que as respostas estejam alinhadas com os padrões éticos;
Controle de tópicos Microsserviço de NIM que mantém as conversas focadas em tópicos aprovados, evitando desvios ou conteúdo inadequado;
Detecção de jailbreak Microsserviço de NIM que adiciona proteção contra tentativas de jailbreak, ajudando a manter a integridade da IA em cenários adversários.
Ao aplicar vários modelos leves e especializados como guardrails, os desenvolvedores podem cobrir as lacunas que podem ocorrer quando existem apenas políticas e proteções globais mais gerais, pois uma abordagem de tamanho único não protege e controla adequadamente os complexos fluxos de trabalho de agentes de IA.
Modelos de linguagem pequenos, como os da coleção NeMo Guardrails, oferecem menor latência e são projetados para serem executados com eficiência, mesmo em ambientes distribuídos ou com recursos limitados. Isso os torna ideais para dimensionar aplicações de IA em setores como saúde, automotivo e manufatura, em locais como hospitais ou armazéns.
Líderes do setor e parceiros protegem a IA com o NeMo Guardrails
O NeMo Guardrails, disponível para a comunidade de código aberto, ajuda os desenvolvedores a orquestrar várias políticas de software de AI – chamadas rails – para aprimorar a segurança e o controle de aplicações LLM. Ele funciona com os microsserviços NVIDIA NIM para oferecer uma estrutura robusta para a criação de sistemas de IA que podem ser implantados em escala sem comprometer a segurança ou o desempenho.
A Amdocs, fornecedora líder global de software e serviços para empresas de comunicação e mídia, está aproveitando o NeMo Guardrails para aprimorar as interações com clientes orientadas por IA, fornecendo respostas mais seguras, precisas e contextualmente apropriadas.
“Tecnologias como o NeMo Guardrails são essenciais para proteger aplicações de IA generativa, ajudando a garantir que eles operem de forma segura e ética”, afirma Anthony Goonetilleke, presidente do grupo de tecnologia e chefe de estratégia da Amdocs. Ao integrar o NVIDIA NeMo Guardrails em nossa plataforma amAIz, estamos aprimorando os recursos de “IA confiável” da plataforma para oferecer experiências de agente que são seguras, confiáveis e escaláveis. Isso permite que os provedores de serviços implementem soluções de IA com segurança e confiança, estabelecendo novos padrões para inovação em IA e excelência operacional.”
A Cerence AI, uma empresa especializada em soluções de IA para o setor automotivo, está usando o NVIDIA NeMo Guardrails para ajudar a garantir que seus assistentes de carro ofereçam interações contextualmente apropriadas e seguras, com a tecnologia da família CaLLM de modelos de linguagem grandes e pequenos.
“A Cerence AI conta com as soluções seguras e de alto desempenho da NVIDIA para potencializar nossas tecnologias de assistente automotivo”, pontua Nils Schanz, vice-presidente executivo de produtos e tecnologia da Cerence AI.“O uso do NeMo Guardrails nos ajuda a oferecer soluções confiáveis e com reconhecimento de contexto para nossos clientes de montadoras e a fornecer respostas sensatas, conscientes e sem alucinações. Além disso, o NeMo Guardrails é personalizável para nossos clientes de montadoras e nos ajuda a filtrar solicitações prejudiciais ou desagradáveis, protegendo nossa família CaLLM de modelos de linguagem contra a entrega de conteúdo não intencional ou inadequado aos usuários finais.”
A Lowe’s, uma das principais varejistas de produtos para reforma de residências, está aproveitando a IA generativa para desenvolver o profundo conhecimento dos funcionários de suas lojas. Ao fornecer acesso aprimorado a um conhecimento abrangente do produto, essas ferramentas capacitam os funcionários a responderem às perguntas dos clientes, ajudando-os a encontrar os produtos certos para concluir seus projetos e estabelecendo um novo padrão de inovação no varejo e satisfação do cliente.
“Estamos sempre procurando maneiras de ajudar os funcionários a ir além de nossos clientes”, ressalta Chandhu Nair, vice-presidente sênior de dados, IA e inovação da Lowe’s. “Com nossas recentes implementações do NVIDIA NeMo Guardrails, garantimos que as respostas geradas por IA sejam seguras, protegidas e confiáveis, impondo limites de conversação para fornecer apenas conteúdo relevante e apropriado.”
Para acelerar ainda mais a adoção de proteções de IA no desenvolvimento e implantação de aplicações de IA no varejo, a NVIDIA anunciou recentemente na feira NRF que seu NVIDIA AI Blueprint para assistentes de compras no varejo incorpora os microsserviços NeMo Guardrails para criar interações mais confiáveis e controladas com os clientes durante as experiências de compras digitais.
Os líderes de consultoria Taskus, Tech Mahindra e Wipro também estão integrando o NeMo Guardrails em suas soluções para fornecer aos seus clientes corporativos aplicações de IA geradoras mais seguras, confiáveis e controladas.
O NeMo Guardrails é aberto e extensível, oferecendo integração com um ecossistema robusto de fornecedores líderes de modelos de segurança de IA e guardrails, bem como ferramentas de observabilidade e desenvolvimento de IA. Ele oferece suporte à integração com o ActiveScore da ActiveFence, que filtra conteúdo prejudicial ou inadequado em aplicações de IA de conversação e fornece visibilidade, análise e monitoramento.
O Hive, que fornece seus modelos de detecção de conteúdo gerados por IA para imagens, vídeo e conteúdo de áudio como microsserviços NIM, pode ser facilmente integrado e orquestrado em aplicações de IA usando o NeMo Guardrails.
A plataforma Fiddler AI Observability integra-se facilmente ao NeMo Guardrails para aprimorar os recursos de monitoramento de guardrails de IA.E a Weights & Biases, uma plataforma de desenvolvimento de IA de ponta a ponta, está expandindo os recursos do W&B Weave ao adicionar integrações com os microsserviços do NeMo Guardrails. Esse aprimoramento se baseia no portfólio existente de integrações de NIM da Weights & Biases para otimizar a inferência de IA na produção.
“A NVIDIA está trabalhando para fornecer aos parceiros corporativos maneiras de acelerar a aplicação da IA e tornar o serviço ainda mais rápido. Com menos tempo, estamos reduzindo os custos de produção e aumentando a eficiência para nossos clientes”, afirma Marcio Aguiar, diretor da divisão Enterprise da NVIDIA para América Latina.
NeMo Guardrails oferece ferramentas de código aberto para testes de segurança de IA
Os desenvolvedores prontos para testar a eficácia da aplicação de modelos de proteção e outros rails podem usar o NVIDIA Garak, um kit de ferramentas de código aberto para LLM e verificação de vulnerabilidades de aplicações desenvolvido pela equipe de pesquisa da NVIDIA.
Com o Garak, os desenvolvedores podem identificar vulnerabilidades em sistemas que usam LLMs, avaliando-os quanto a problemas como vazamentos de dados, injeções rápidas, alucinação de código e cenários de jailbreak. Ao gerar casos de teste que envolvem resultados inadequados ou incorretos, o Garak ajuda os desenvolvedores a detectar e solucionar possíveis pontos fracos nos modelos de IA para aumentar sua robustez e segurança.
Disponibilidade
Os microsserviços NVIDIA NeMo Guardrails, bem como o NeMo Guardrails para orquestração de trilhos e o kit de ferramentas NVIDIA Garak, já estão disponíveis para desenvolvedores e empresas. Os desenvolvedores podem começar a criar proteções de IA em agentes de IA para atendimento ao cliente usando o NeMo Guardrails com este tutorial.
Veja o aviso sobre as informações do produto de software.
Sobre a NVIDIA
Desde sua fundação em 1993, a NVIDIA (NASDAQ: NVDA) tem sido pioneira em computação acelerada. A invenção da GPU pela empresa em 1999 estimulou o crescimento do mercado de games para PC, redefiniu a computação gráfica, iniciou a era da IA moderna e tem ajudado a digitalização industrial em todos os mercados. A NVIDIA agora é uma empresa de infraestrutura de computação full-stack com soluções em escala de data center que estão revolucionando o setor. Mais informações em: https://www.nvidia.com/pt-br/.
Acesse também:
Facebook: @NVIDIABrasil
Twitter: @NVIDIABrasil
YouTube: NVIDIA Latinoamérica
Instagram: @NVIDIABrasil
LinkedIn: @ NVIDIA Brasil
Notícia distribuída pela saladanoticia.com.br. A Plataforma e Veículo não são responsáveis pelo conteúdo publicado, estes são assumidos pelo Autor(a):
LUIZ FERNANDO VALLOTO
lvalloto@singcomunica.com.br
