--- title: "Agentes de IA ganham caixas, testes e métricas de comportamento" author: "Lígia Lemos Maia" date: "2026-10-17 06:19:35.079-03" category: "Inteligência Artificial & Dados" url: "http://desbugados.scale.press/portal/desbugados/post/2026/10/17/agentes-de-ia-ganham-caixas-testes-e-metricas-de-comportamento/md" --- ## Resumo - Chainguard Workspaces e Checks chegaram em beta para isolar ambientes e validar código escrito por agentes de IA. - O Checks executa testes em microVMs isoladas e gera atestados assinados para evitar novas execuções desnecessárias. - A AWS apresentou o Strands Decider 2B, modelo de 2 bilhões de parâmetros para roteamento, seleção de ferramentas e guardrails. - O Strands Box usa isolamento em nível de kernel e a linguagem Dogwood para controlar ações como acesso à rede e chamadas de shell. - A Grafana propôs aplicar SLOs e orçamentos de erro a comportamentos como alucinação, toxicidade e cumprimento de tarefas. - As iniciativas são separadas, mas convergem na tentativa de controlar agentes em diferentes etapas da operação. - O debate passa a incluir quem define os erros aceitáveis e quanta autonomia um agente deve receber. --- Anúncios recentes de empresas de tecnologia começaram a cercar os agentes de inteligência artificial com ambientes isolados, testes automáticos e métricas para comportamentos indesejados. A proposta parece técnica, mas toca numa questão simples para quem trabalha com software: quando uma ferramenta recebe permissão para escrever código, escolher recursos e agir sobre sistemas, onde termina a autonomia útil e começa o risco que alguém precisará reparar? O ponto comum entre as iniciativas não é a criação de uma plataforma conjunta. São tentativas separadas de colocar limites em momentos diferentes, da execução à tomada de decisão e à medição do resultado. ## A execução recebe limites antes de chegar ao repositório É na etapa de execução que a **Chainguard** concentrou seus dois produtos em beta. O [Chainguard Workspaces](https://www.chainguard.dev/unchained/introducing-chainguard-workspaces) oferece ambientes remotos de desenvolvimento isolados por microVMs, máquinas virtuais pequenas desenhadas para separar o trabalho do agente do computador local. O Chainguard Checks funciona como uma porta de entrada para testes de integração contínua, o conjunto de verificações que antecede o envio de uma alteração. A escolha desloca a pergunta de uma confiança abstrata no agente para uma condição verificável: o código produzido consegue passar pelos testes dentro de um espaço controlado? Dentro dessa mesma proposta, o Checks permite que cada etapa seja executada em **microVMs isoladas** baseadas em pacotes da Chainguard descritos como livres de CVEs, identificadores de vulnerabilidades conhecidas. Ao final, o serviço gera um **atestado assinado**, que permite aos fluxos de merge no GitHub verificar se aquele resultado é válido sem executar novamente toda a suíte de testes. A integração entre Workspaces e Checks também permite que o agente tente corrigir o código usando os registros de falha antes de submeter um pull request. Há uma mudança silenciosa nessa sequência: o agente continua produzindo e corrigindo, mas a passagem para o repositório depende de uma evidência que pode ser conferida por outros sistemas. ## A decisão também ganha um freio próprio Em outra frente, a **AWS** apresentou o [Strands Decider 2B e Strands Box](https://www.infoq.com/news/2026/10/aws-strands-agents), dois projetos de código aberto voltados a partes diferentes do comportamento de agentes. O Decider 2B é um modelo com **2 bilhões de parâmetros** otimizado para roteamento, seleção de ferramentas e regras de segurança, chamadas de guardrails. A AWS informa latência de aproximadamente **115 milissegundos** em uma RTX 3090. O interesse desse desenho está em separar a escolha do próximo passo da execução desse passo: um componente decide qual ferramenta usar, enquanto outro espaço precisa controlar o que essa decisão poderá fazer. Se o Decider 2B tenta tornar a escolha rápida e previsível, o Strands Box restringe a ação por meio de **isolamento em nível de kernel**, uma barreira aplicada abaixo do modelo de linguagem. A linguagem Dogwood permite controlar ações como chamadas de shell e acesso à rede, enquanto as políticas de segurança são impostas fora do modelo. Isso responde a um problema conhecido apenas no sentido mais concreto da palavra: uma instrução bem-formada ainda pode pedir algo que o ambiente não deveria permitir. A decisão continua sendo do agente, mas o espaço de ação deixa de depender exclusivamente daquilo que ele escreveu ou interpretou. ## O que a caixa não consegue medir Mas uma sala isolada não informa, por si só, se o agente fez um bom trabalho. É nesse ponto que a **Grafana Labs** propõe aplicar práticas de SRE, ou engenharia de confiabilidade de sites, ao comportamento da inteligência artificial. A empresa sugere transformar critérios como **alucinação, toxicidade e cumprimento de tarefas** em indicadores observáveis e estabelecer SLOs, objetivos de nível de serviço, para eles. O conceito de orçamento de erro funciona como uma margem explícita para falhas indesejadas. Em vez de perguntar apenas se o sistema ficou disponível, a equipe passa a perguntar quantas respostas falsas ou ações inadequadas ainda consegue aceitar. Essa mudança de régua importa porque um agente pode continuar acessível enquanto sua qualidade se deteriora aos poucos. As métricas tradicionais de infraestrutura capturam se um serviço responde, mas não necessariamente se a resposta atende ao objetivo para o qual o agente foi colocado em operação. Ao tratar o comportamento como algo mensurável, a proposta da **Grafana** tenta equilibrar experimentação e velocidade de desenvolvimento com confiabilidade operacional. A pergunta ética permanece aberta: quem escolhe o que conta como erro e qual quantidade de erro pode ser tolerada? Uma equipe que mede toxicidade e cumprimento de tarefas já está fazendo escolhas sobre o tipo de interação que considera aceitável, mesmo quando apresenta essas escolhas em uma tabela de indicadores. ## A caixa muda a pergunta, não encerra o dilema Vistos como anúncios independentes, os produtos apontam para uma divisão mais precisa do problema. A Chainguard trabalha para que código escrito por agentes seja executado e verificado em espaços separados. A AWS trabalha para limitar decisões e ações dentro de componentes de execução. A Grafana desloca a observação para a qualidade do comportamento depois que o agente está funcionando. Nenhuma dessas propostas, segundo as informações disponíveis, transforma controle em garantia absoluta. Elas criam pontos nos quais alguém pode interromper, testar, medir ou contestar o resultado, e essa possibilidade já altera a responsabilidade de quem coloca um agente para trabalhar. Talvez a imagem mais adequada não seja a de uma inteligência presa numa caixa, mas a de uma oficina com portas sucessivas. Em cada uma, há uma pergunta diferente: o código pode sair daqui, a ação pode acontecer, a resposta foi aceitável? Quanto mais portas existem, mais lenta pode ficar a passagem; sem elas, um erro pode avançar sem deixar um registro claro de onde começou. O próximo passo do setor será observar como essas barreiras convivem com a promessa de autonomia. Por enquanto, a tecnologia oferece caixas, testes e métricas. Ainda cabe às pessoas decidir quais comportamentos devem permanecer do lado de dentro.