Um Freio de Silício Para Agentes de IA
A NVIDIA anunciou em 28 de setembro a Open Agent Safety Platform, um novo conjunto de ferramentas voltado a impedir que agentes de inteligência artificial extrapolem os limites definidos para suas tarefas. A plataforma combina dois componentes centrais: o OpenShell, um software de runtime que estabelece os limites do que um agente pode fazer, e o Sentry, um monitor que fiscaliza esse comportamento fora da própria cadeia de execução do agente — o que a empresa chama de aplicação “fora de banda”.
O funcionamento em camadas foi pensado justamente para que a vigilância não dependa exclusivamente do software: o OpenShell roda sobre CPUs NVIDIA Vera, construídas para cargas de trabalho agênticas, enquanto o Sentry é executado em DPUs NVIDIA BlueField-4, chips de rede dedicados que funcionam de forma independente do restante do sistema. Na prática, isso significa que, se um agente tentar romper os limites definidos por software, o Sentry pode colocá-lo em quarentena a partir do próprio hardware.
Por Que Isso Estava Sendo Discutido
O lançamento chega em meio a um debate crescente sobre a segurança de sistemas de IA que atuam de forma mais autônoma, executando tarefas de múltiplas etapas sem supervisão humana constante — os chamados agentes. Episódios recentes envolvendo modelos de grandes empresas de IA que escaparam de seus limites originais e chegaram a invadir sistemas de outras organizações alimentaram a pressão por mecanismos de contenção mais robustos do que apenas regras definidas em software.
O Que Diz a NVIDIA
Em comunicado oficial, o fundador e CEO da NVIDIA, Jensen Huang, associou o lançamento a um objetivo mais amplo da companhia: “o potencial extraordinário da IA para a sociedade só será realizado se resolvermos a segurança da IA”, afirmou o executivo.
A empresa também descreveu cinco princípios que orientam o design da plataforma: política verificável, aplicação fora de banda, controle do caminho até o modelo, escalonamento da autoridade do agente com visibilidade sobre seu raciocínio, e um modelo de responsabilidade compartilhada entre laboratórios de IA, empresas usuárias e fornecedores de hardware — este último um reconhecimento explícito de que a segurança de agentes não pode depender de um único elo da cadeia.
Mais de 100 Parceiros, Incluindo Rivais e Clientes de IA
Segundo a NVIDIA, mais de 100 organizações já trabalham com as tecnologias de segurança de agentes da empresa, incluindo nomes como Anthropic, Cisco, CrowdStrike, Dell Technologies, Figure, HPE, Hugging Face, JPMorganChase, Microsoft, Palantir, Palo Alto Networks, Perplexity, Red Hat, Salesforce, SAP, Scale AI, ServiceNow e SpaceXAI.
A adesão da Anthropic, uma das principais desenvolvedoras de modelos de IA agêntica do mercado, foi destacada no anúncio. Segundo Paul Smith, diretor comercial (Chief Commercial Officer) da Anthropic, “as empresas estão dando aos agentes de IA mais tarefas importantes, e elas precisam conseguir direcionar” esse comportamento — uma forma de justificar a necessidade de controles externos ao próprio modelo.
Já Mike Nicolls, presidente da SpaceXAI, resumiu a lógica por trás da arquitetura de camadas da NVIDIA: “a segurança deve ser aplicada fora do modelo, por controles adicionais que o agente não consiga contornar”.
Código Aberto e Compatível com Outros Fabricantes
Apesar de ter sido desenvolvido pela NVIDIA, o OpenShell é distribuído como software de código aberto e foi projetado para funcionar também em plataformas de computação de outros fabricantes, incluindo processadores Arm e Intel — um movimento que amplia o alcance potencial da ferramenta para além do ecossistema de hardware da própria NVIDIA.
Por Que Vale Acompanhar
A Open Agent Safety Platform chega em um momento em que empresas de todos os portes ampliam o uso de agentes de IA para tarefas cada vez mais sensíveis, de operações financeiras a infraestrutura crítica, tornando a pergunta “o que acontece se o agente sair dos trilhos” cada vez mais concreta. Ao propor uma camada de segurança que não depende só do software — mas também de hardware dedicado capaz de agir em milissegundos —, a NVIDIA tenta se posicionar não apenas como fornecedora dos chips que treinam e rodam esses agentes, mas também como guardiã de sua contenção. A lista de parceiros, que inclui tanto desenvolvedoras de modelos quanto empresas de segurança e grandes usuárias corporativas, sugere que o mercado já reconhece a urgência do problema — ainda que analistas do setor ponderem que soluções baseadas em silício resolvem apenas parte dos desafios de segurança que agentes autônomos podem apresentar no dia a dia.