Nvidia lança plataforma aberta de segurança para agentes

A Nvidia anunciou uma plataforma aberta de segurança para agentes de software aberta reunindo indústria, pesquisadores e organizações do setor público para definir limites mais seguros para agentes de inteligência artificial, compartilhar melhores práticas e fomentar a cooperação internacional com objetivo de elevar o padrão de implantação de agentes de IA mais seguros. Por meio dela, serão feitos a governança e o controle completos em todo o software e nos sistemas de hardware, computação e robótica que executam agentes.

A companhia explicou que o OpenShell fornece um limite de tempo de execução seguro que rastreia as ações e aplica políticas à medida que os agentes são executados em CPUs Nvidia Vera. Também pode ser estendido para funcionar com plataformas de computação de terceiros, incluindo as da Arm e da Intel.

Já o Sentry adiciona vigilância executada em DPUs Nvidia BlueField-4 para monitorar continuamente o comportamento do agente, podendo isolar agentes que tentam se mover para fora de seus limites em milissegundos.

Chamada de Nvidia Open Agent Safety Platform e baseada em software aberto com design de sistema de referência, a plataforma visa a fortalecer a segurança da IA ​​desde o teste do agente até a implantação, com governança e controle de pilha completa em software e nos sistemas de hardware, computação e robótica que executam os agentes. De acordo com a Nvidia, nos incidentes, o padrão é o mesmo: o agente contornou os controles de segurança na camada de aplicação para concluir a tarefa atribuída.

Em nota à imprensa, Jensen Huang, fundador e CEO da Nvidia, afirmou que “à medida que continuamos a explorar as fronteiras das capacidades da IA, devemos acelerar a descoberta na fronteira da segurança da IA”. E frisou: “Segurança e proteção exigem engenharia de pilha completa”.

A plataforma aberta de segurança de agentes reúne indústria, pesquisadores e organizações do setor público para compartilhar as melhores práticas, alinhar métodos de avaliação e fomentar a cooperação internacional. Ela adiciona controle em toda a pilha de agentes e inclui o software de tempo de execução seguro Nvidia OpenShell, que define limites para agentes em execução em CPUs. Também fornece um limite de tempo de execução seguro para controlar como os agentes de IA autônomos executam tarefas em modelos abertos e fechados.

Além disso, o design do sistema de referência da plataforma apresenta o Sentry, um monitor externo que é executado em DPUs BlueField-4 para monitorar continuamente o comportamento do agente. O Sentry fornece aplicação de segurança em silício, o que significa que, se um agente de IA tentar se mover para fora de seu limite de software, o Sentry o coloca em quarentena e o impede em milissegundos.

Executado em DPUs BlueField-4, o Sentry monitora continuamente a atividade do agente e aplica políticas de segurança de forma independente no silício. Ele combina detecção de ameaças, governança e aplicação de políticas de agentes baseadas em hardware e proteção de acesso a dados a partir de um domínio de confiança isolado e fora da banda, que responde em tempo real e é invisível para agentes e invasores.

Colaboração
A empresa anunciou colaboração com a Anthropic para trazer camadas adicionais de segurança e controle para a pilha de agentes. O Claude Managed Agents estabelece um limite de segurança ao executar o loop do agente em um servidor separado dos ambientes isolados (sandboxes) onde o trabalho é realizado. Integrações com OpenShell e BlueField permitem que as empresas imponham um controle rigoroso sobre o acesso dos agentes por meio desses ambientes isolados.

Outros exemplos incluem a SpaceXAI utilizando a Nvidia Open Agent Safety Platform para agentes de codificação do Cursor e modelos Grok; a Scale AI trabalhando com a Nvidia para incorporar as tecnologias da Nvidia Open Agent Safety Platform à camada de infraestrutura de agentes do Scale GenAI Portfolio; e a Salesforce integrando o OpenShell ao Slack, permitindo que as equipes gerenciem a atividade dos agentes OpenShell diretamente pelo Slack — visualizando atividades dos agentes e eventos de auditoria, além de aprovar ou rejeitar solicitações de permissões adicionais —, o que proporciona às equipes maior visibilidade e supervisão humana durante a atuação dos agentes.

A SAP está integrando o OpenShell ao ambiente de execução (runtime) da Joule Studio, parte da plataforma SAP Business AI, para combinar a supervisão de negócios com a segurança em tempo de execução. A empresa também está contribuindo com trabalho de engenharia para o OpenShell e colaborando com a NVIDIA para promover padrões de interoperabilidade por meio da Open Secure AI Alliance.

Accenture, Armadin, Cadence, Cognition, CrowdStrike, Cisco, Dassault Systèmes, Deloitte, EY, Hugging Face, IBM, Irregular, Perplexity, Microsoft, SAP, Scale AI, ServiceNow, Siemens, Synopsys, OpenClaw, Palantir e Palo Alto Networks também estão entre as mais de 100 organizações que trabalham com as tecnologias da NVIDIA Open Agent Safety Platform.