--- title: "NVIDIA reúne 37 organizações para criar aliança de segurança de agentes de IA" author: "Ignácio Afonso" date: "2026-07-30 10:00:00-03" category: "Segurança & Privacidade" url: "http://desbugados.scale.press/portal/desbugados/post/2026/07/30/nvidia-reune-37-organizacoes-para-criar-alianca-de-seguranca-de-agentes-de-ia/md" --- ## Resumo - A NVIDIA anunciou a Open Secure AI Alliance em 27 de julho de 2026 com 37 organizações focadas em segurança de agentes de IA. - O incidente na Hugging Face com mais de 17 mil ações expôs riscos de modelos fechados em investigações de brechas. - O NOOA é o framework open source da NVIDIA que usa classes Python para teste e auditoria de agentes alcançando 86.8% em benchmark. - Parceiros como Microsoft com MDASH Hugging Face com Safetensors e HPE com SPIFFE/SPIRE oferecem contribuições específicas. - A aliança defende modelos abertos para permitir defesas mais transparentes e eficazes contra ataques a sistemas autônomos. - O esforço complementa iniciativas anteriores de padronização de agentes de IA mediadas pela Linux Foundation. - Profissionais podem começar explorando o repositório do NOOA e testando ferramentas de parceiros em ambientes controlados. --- Em 27 de julho de 2026 a **NVIDIA** anunciou a formação da Open Secure AI Alliance, uma aliança que reúne 37 organizações para desenvolver ferramentas abertas de segurança destinadas a proteger agentes de inteligência artificial em um momento em que esses sistemas autônomos começam a assumir tarefas complexas em ambientes corporativos e de pesquisa mas trazem consigo riscos significativos de segurança que precisam ser endereçados de forma colaborativa. ## A história da segurança em infraestruturas críticas e a chegada dos agentes de IA Durante décadas sistemas legados como mainframes que executam código em COBOL têm sido a espinha dorsal de operações críticas em bancos e órgãos públicos processando milhões de transações diariamente com protocolos de segurança rigorosos que garantem estabilidade e confiabilidade desde a folha de pagamento até a compensação de cartões de crédito e agora a indústria da tecnologia enfrenta um desafio similar com a ascensão dos agentes de IA que são programas capazes de agir de forma autônoma acessando arquivos consultando bancos de dados e utilizando APIs sem intervenção humana constante o que exige uma abordagem de segurança que aprenda com o passado para proteger o futuro. Esses agentes de IA representam uma evolução natural das automações antigas mas introduzem complexidades novas porque diferentemente dos sistemas legados que eram projetados com controles rígidos desde o início os modelos de IA podem ser influenciados por prompts maliciosos ou explorações que alteram seu comportamento de maneiras imprevisíveis e é por isso que a aliança busca estabelecer práticas comuns para gerenciamento de identidade controle de permissões isolamento de processos monitoramento de atividades e auditoria das ações realizadas pelos modelos garantindo que a confiabilidade dos serviços essenciais não seja comprometida. ## O incidente na Hugging Face que impulsionou a iniciativa Um evento recente na **Hugging Face** serviu como catalisador para a formação da aliança quando um sistema de agentes autônomos comprometeu partes da infraestrutura de produção da empresa levando a mais de 17.000 ações registradas que precisaram ser analisadas e o fato de que modelos fechados de IA impediram uma investigação completa da violação destacou a necessidade de abordagens abertas que permitam maior transparência e capacidade de resposta por parte dos defensores da segurança. A **NVIDIA** e seus parceiros argumentam que modelos abertos permitem que os defensores tenham mais ferramentas para investigar e mitigar incidentes ao contrário de sistemas fechados que podem obstruir o acesso às informações necessárias durante uma brecha e essa lição do passado recente reforça a importância de construir defesas compartilhadas que possam evoluir mais rápido do que ameaças isoladas em empresas individuais. ## Os participantes da Open Secure AI Alliance e suas contribuições específicas A **Microsoft** contribui com o MDASH um harness de varredura agentic multi-modelo que ajuda a escanear e identificar vulnerabilidades em sistemas de agentes proporcionando uma ferramenta prática que pode ser usada por organizações para testar seus próprios deployments de IA e garantir que comportamentos indesejados sejam detectados precocemente. Outra parceira importante é a **Hugging Face** que ofereceu o Safetensors uma tecnologia para armazenamento seguro de modelos que previne riscos durante o compartilhamento e carregamento de pesos de modelos o que é essencial em um ecossistema onde modelos abertos são cada vez mais utilizados e precisam de proteções contra manipulações maliciosas. ## Outras contribuições que fortalecem o ecossistema de segurança A **HPE** traz sua expertise em frameworks de identidade zero-trust como SPIFFE/SPIRE que ajudam a garantir que os agentes de IA operem com identidades verificáveis e permissões mínimas necessárias reduzindo a superfície de ataque em ambientes complexos onde múltiplos sistemas interagem. A **CrowdStrike** está desenvolvendo técnicas que utilizam modelos abertos para detectar ataques contra sistemas e agentes de IA o que representa uma aplicação direta da filosofia da aliança de usar a transparência dos modelos abertos para melhorar as defesas cibernéticas de forma colaborativa. ## O NOOA framework como primeira ferramenta concreta disponibilizada A **NVIDIA** contribuiu com o NOOA ou NVIDIA Labs Object-Oriented Agent um framework de pesquisa open source disponível no GitHub sob licença Apache 2.0 que organiza os componentes dos agentes como classes em Python facilitando a criação teste e acompanhamento do comportamento durante a execução e em avaliações internas da empresa o framework alcançou 86.8 por cento no benchmark CyberGym L1 para redescoberta de vulnerabilidades usando GPT-5.5 demonstrando sua utilidade prática para desenvolvedores que precisam auditar o funcionamento de seus agentes. Esse framework constrói sobre iniciativas existentes como o Akrites da Linux Foundation e o trabalho da comunidade OpenSSF e permite que os usuários analisem o comportamento dos agentes em tempo real o que é essencial para identificar anomalias antes que elas causem danos em ambientes de produção traduzindo conceitos complexos de segurança em ferramentas acessíveis que qualquer desenvolvedor pode experimentar e adaptar. ## Por que a aliança defende o uso de modelos abertos na segurança A defesa de modelos abertos pela aliança não é apenas uma preferência filosófica mas uma resposta prática a situações onde o acesso ao código e aos pesos dos modelos é necessário para uma resposta efetiva a incidentes como visto no caso da Hugging Face onde a empresa optou por usar um modelo open-weight GLM 5.2 em sua própria infraestrutura para conduzir análises enquanto modelos fechados de outras empresas dificultaram a investigação completa. Com isso a iniciativa também visa fortalecer o desenvolvimento seguro de código gerado por IA estabelecendo práticas que integrem segurança desde o início do ciclo de vida dos agentes e isso inclui o isolamento de processos para que um agente comprometido não afete todo o sistema além de auditorias detalhadas que registrem todas as ações para posterior revisão. ## Contexto mais amplo de colaborações na área de agentes de IA Enquanto a Open Secure AI Alliance foca especificamente na segurança outras iniciativas recentes têm buscado padronizar a comunicação e a infraestrutura entre agentes de IA para evitar fragmentação do mercado e uma dessas é a Agentic AI Foundation mediada pela Linux Foundation que você pode conhecer melhor em [nosso artigo sobre a 'ONU das IAs'](https://desbugados.com.br/post/2025/12/19/onu-das-ias-openai-google-e-microsoft-se-unem-para-padronizar-agentes-de-ia) mostrando como diferentes alianças complementam-se para construir um ecossistema mais seguro e interoperável. ## A Caixa de Ferramentas: próximos passos para profissionais e empresas Para quem trabalha com desenvolvimento de IA ou segurança o primeiro passo é explorar o repositório do NOOA no GitHub para entender como organizar e testar agentes de forma mais segura aplicando os princípios de identidade zero-trust e monitoramento contínuo em seus próprios projetos além disso é recomendável acompanhar as contribuições das empresas parceiras como a Microsoft e a Hugging Face testando ferramentas como o MDASH e o Safetensors em ambientes controlados para avaliar sua eficácia contra ameaças reais empresas devem considerar a adoção de modelos abertos em operações de segurança sempre que possível pois isso permite maior controle e capacidade de auditoria e finalmente participar de discussões na comunidade OpenSSF pode ajudar a influenciar o desenvolvimento futuro dessas tecnologias para que atendam às necessidades práticas de operações críticas.