---
title: "Anthropic pede poder judicial para bloquear IAs de alto risco"
author: "Lígia Lemos Maia"
date: "2026-10-30 06:25:20.178-03"
category: "Inteligência Artificial & Dados"
url: "http://desbugados.scale.press/portal/desbugados/post/2026/10/30/anthropic-pede-poder-judicial-para-bloquear-ias-de-alto-risco/md"
---

## Resumo
- A Anthropic propôs que tribunais da Califórnia possam bloquear modelos de IA com risco sério à segurança pública.
- A medida foi apresentada ao governador Gavin Newsom em outubro de 2026 e ainda não foi adotada.
- A empresa defendeu auditores independentes dentro das companhias de IA, com comunicação direta ao procurador-geral estadual.
- O pagamento dos auditores seria feito por um fundo administrado pelo estado, e não diretamente pelas empresas avaliadas.
- A Anthropic prefere intervenções específicas, como desativar agentes ou acessos, a um kill switch total.
- A OpenAI apoiou auditores e controles de desligamento, mas não endossou explicitamente o bloqueio judicial estadual.
- A proposta ocorre em meio a debates federais nos Estados Unidos sobre o bloqueio de modelos considerados inseguros.

---

Em outubro de 2026, a **Anthropic** enviou ao governador da Califórnia, Gavin Newsom, uma carta defendendo que o sistema jurídico estadual possa bloquear o lançamento de modelos de IA que apresentem **"risco sério"** à segurança pública. A ideia ainda é uma proposta da empresa, não uma regra adotada. Se avançar, o debate muda de lugar: além de avaliar um modelo antes da estreia, autoridades passariam a discutir quem pode impedir que ele chegue ao público. A [carta enviada ao governador](https://www.politico.com/news/2026/10/27/anthropic-ai-letter-newsom-01135648) transforma essa pergunta em uma disputa concreta sobre limites e responsabilidade.

## O tribunal como último freio

A sugestão da Anthropic atribui aos tribunais um papel que normalmente aparece apenas depois de um dano: interromper o lançamento de um sistema considerado perigoso. Na formulação apresentada, autoridades poderiam pedir uma ordem judicial contra modelos que representassem ameaça grave à segurança pública. O verbo bloquear carrega uma consequência prática: a empresa teria de interromper ou adiar a chegada do produto enquanto a Justiça examinasse o risco. Quem deveria tomar essa decisão, e com quais provas, permanece no centro do problema.

Esse poder viria acompanhado de uma tentativa de afastar a avaliação das próprias empresas. A **Anthropic** propôs que auditores independentes de segurança, profissionais encarregados de examinar riscos dos sistemas, fossem incorporados às companhias de IA e pudessem comunicar suas conclusões diretamente ao procurador-geral do estado. O pagamento não sairia diretamente das empresas avaliadas, mas de um **fundo administrado pelo estado**. A arquitetura sugerida tenta reduzir o conflito entre quem desenvolve o modelo e quem decide se ele está pronto para ser lançado.

## Desligar tudo ou intervir por partes

Há também uma escolha técnica escondida nessa proposta. Em vez de depender de um **kill switch**, ou botão de desligamento total do modelo, a Anthropic defendeu intervenções mais específicas, como desativar agentes ou limitar acessos. Na prática, isso significaria interromper uma função ou uma parte do sistema sem necessariamente apagar toda a operação. A diferença parece pequena, mas muda o tipo de controle imaginado: de uma chave geral para uma série de freios localizados, aplicados conforme o risco identificado.

A posição da empresa encontrou pontos de contato com as recomendações da **OpenAI**, que também apoiou controles de desligamento e auditores independentes, mas não endossou explicitamente o poder de bloqueio judicial estadual. A disputa ocorre enquanto senadores dos Estados Unidos debateram, em **setembro de 2026**, uma proposta que daria ao governo federal autoridade para bloquear modelos inseguros, com possibilidade de recurso à Justiça federal. O Congresso entrou em recesso pré-eleitoral sem avançar nessa proposta, enquanto o [debate regulatório](https://www.usnews.com/news/top-news/articles/2026-10-28/anthropic-tells-california-governor-courts-should-be-able-to-block-risky-ai-models) também inclui o AI Kill Switch Act, apresentado na Câmara em julho. As fontes não informam se Newsom aceitará a recomendação nem quando uma eventual regra seria discutida, deixando em aberto quem segurará a próxima chave.