Nvidia lança software que torna IAs mais seguras

Nvidia lança software que torna IAs mais seguras
(Imagem: jejim / Shutterstock.com)

A Nvidia lançou na terça-feira (25) o NeMo Guardrails, software que ajudará empresas a treinar seus grandes modelos de linguagem (LLMs) para torná-los mais precisos e seguros.

De acordo com a companhia, a tecnologia foi projetada para auxiliar desenvolvedores a manter a segurança de aplicativos baseados em IA. O software funcionará com LLMs populares como o ChatGPT da OpenAI.

O NeMo Guardrails é um kit de ferramentas de código aberto para desenvolver facilmente sistemas de conversação LLM seguros e confiáveis. Como a segurança na IA generativa é uma preocupação de todo o setor, a NVIDIA projetou o NeMo Guardrails para funcionar com todos os LLMs, incluindo o ChatGPT da OpenAI.

Nvidia em comunicado

O NeMo Guardians permite que os desenvolvedores definam alguns limites para as IAs:

Proteção específica: impede que aplicativos deem respostas fora da área desejada;
Projeções de segurança: garante que as ferramentas respondam precisamente, filtrando linguagem indesejada e selecionando fonts confiáveis;
Proteções de segurança: limita a conexão de IAs apenas com aplicativos terceiros considerados seguros.
O aplicativo foi disponibilizado em código aberto e funciona com as mesmas ferramentas que desenvolvedores de aplicativos utilizam. A Nvidia observou que ele pode ser executado usando — por exemplo — o LangChain, um kit de ferramentas de código aberto que os desenvolvedores usam para conectar aplicativos terceiros às LLMs.

Os usuários podem facilmente adicionar NeMo Guardrails aos fluxos de trabalho do LangChain para colocar rapidamente limites seguros em torno de seus aplicativos baseados em IA.

Harrison Chase, CEO da LangChain.
O NeMo Guardrails faz parte do selo Nvidia Foundations, anunciado pela empresa em seu evento anual com três ferramentas capazes de gerar textos e imagens com IA generativa.

Inicialmente a Nvidia divulgou três ferramentas para o selo Foundations:
 

  • Nvidia NeMo (textos);
  • Nvidia Picasso (imagens);
  • NvidiaBioNemo (biologia e medicina).
  • Para conferir detalhes sobre as ferramentas acesse a matéria completa.

Fonte: Olhar Digital