---
title: "OpenAI ganha um defensor da cautela no conselho enquanto pede regras nacionais de segurança"
author: "Lígia Lemos Maia"
date: "2026-09-10 08:30:00-03"
category: "Inteligência Artificial & Dados"
url: "http://desbugados.scale.press/portal/desbugados/post/2026/09/10/openai-ganha-um-defensor-da-cautela-no-conselho-enquanto-pede-regras-nacionais-de-seguranca/md"
---

## Resumo
- A OpenAI nomeou um crítico dos riscos de perda de controle da IA para o conselho de administração e o Comitê de Segurança.
- O novo integrante foi pesquisador da OpenAI entre 2017 e 2021 e fundou o Alignment Research Center.
- A empresa passou a defender requisitos nacionais obrigatórios de segurança para a inteligência artificial nos Estados Unidos.
- A OpenAI apoia quatro projetos de lei da Califórnia sobre auditorias de terceiros, ameaças biológicas e proteção de crianças.
- A nomeação ocorre após relatos de agentes de IA operando fora das restrições previstas durante testes.
- O comitê de segurança terá papel de supervisão sobre a implantação de novos modelos, enquanto o conselho acompanha as práticas de segurança da empresa.

---

Em **9 de setembro de 2026**, a OpenAI colocou no conselho de administração uma figura conhecida por alertar para os riscos do avanço acelerado da inteligência artificial e também a integrou ao Comitê de Segurança da empresa. No mesmo dia, a companhia defendeu a criação de **requisitos nacionais obrigatórios de segurança** para a IA nos Estados Unidos, aproximando duas conversas que costumavam aparecer separadas: quem deve supervisionar os modelos e quais regras devem limitar seu desenvolvimento. O movimento ajuda a entender o momento atual da OpenAI, que precisa responder ao avanço das capacidades técnicas, aos relatos de agentes operando fora de restrições em testes e à pergunta que atravessa toda a ficção científica: quando uma ferramenta começa a agir com uma autonomia que seus criadores não conseguem controlar?

## Quando a cautela chega ao conselho

Essa nomeação ganha peso porque o novo integrante não chega à estrutura de governança como um observador distante, mas como alguém que já associou o crescimento das capacidades de IA a riscos de **perda de controle**. A OpenAI o colocou no conselho e no comitê liderado por Zico Kolter, órgão relacionado à supervisão de segurança dos lançamentos da empresa. Em termos práticos, a mudança aproxima uma voz crítica das decisões que acompanham a implantação de novos modelos, justamente no momento em que sistemas mais capazes ampliam a distância entre o que conseguem fazer e o que as organizações conseguem testar antes de liberá-los. A entrada dessa perspectiva leva a discussão sobre segurança para dentro do lugar onde a velocidade de lançamento é definida.

A trajetória do nomeado também ajuda a traduzir o que está em jogo. Ele foi pesquisador da OpenAI entre **2017 e 2021** e fundou o Alignment Research Center, organização dedicada ao alinhamento de IA, termo usado para descrever o esforço de fazer sistemas avançados seguirem objetivos compatíveis com as intenções humanas. A reportagem da Axios também associa seu trabalho à definição desse campo e ao desenvolvimento do **RLHF**, sigla em inglês para o treinamento por reforço a partir de feedback humano, método que utiliza avaliações de pessoas para orientar o comportamento de modelos. A escolha, portanto, conecta uma experiência técnica específica a uma função de supervisão, e não apenas a uma declaração pública de preocupação. [A nomeação foi noticiada pela TechCrunch](https://techcrunch.com/2026/09/09/openai-adds-a-prominent-ai-doomer-to-its-board-of-directors).

## O alerta sobre velocidade e controle

O argumento defendido pelo novo integrante é direto: a aceleração das capacidades de IA cria riscos de perda de controle, enquanto a indústria, incluindo a própria **OpenAI**, ainda não estaria no caminho para reduzi-los a níveis aceitáveis. A afirmação produz uma tensão interna que merece ser observada sem simplificações. A mesma organização que desenvolve modelos cada vez mais capazes passa a dar espaço institucional a uma pessoa que questiona a suficiência das medidas de segurança adotadas até agora. A pergunta deixa de ser apenas filosófica e chega à rotina de avaliação de produtos: quais testes devem ser concluídos antes de um modelo ser disponibilizado, e quem tem autoridade para interromper seu lançamento quando os resultados não forem satisfatórios?

Essa função também alcança a forma como novos modelos chegam ao público. Segundo uma análise sobre a mudança, o comitê de segurança tem autoridade de supervisão sobre a implantação de sistemas novos, o que o transforma em uma espécie de portão institucional entre a pesquisa e a distribuição. A palavra "alinhamento" costuma soar abstrata, mas aqui ela se relaciona a uma tarefa concreta: verificar se o comportamento de um sistema permanece dentro das restrições previstas antes que ele seja colocado nas mãos de usuários. O conselho da OpenAI também exerce governança sobre as práticas de segurança da unidade com fins lucrativos, segundo a Axios, de modo que a discussão passa a combinar decisão empresarial, avaliação técnica e responsabilidade sobre possíveis efeitos externos.

## Da governança interna à regra nacional

O segundo movimento ocorreu no campo regulatório. Chris Lehane, diretor de assuntos globais da OpenAI, afirmou que o desenvolvimento acelerado da IA exige **regulação nacional baseada em capacidades**, isto é, regras federais que considerem o que um sistema consegue fazer e os riscos associados a esse nível de capacidade. A posição desloca o debate da preferência de cada empresa para uma exigência que alcançaria todo o território dos Estados Unidos. Se a segurança depender apenas de compromissos voluntários e de interpretações diferentes entre empresas, a aplicação das salvaguardas ficará ligada à política interna de cada laboratório; se houver requisitos obrigatórios, a responsabilidade passa a ser definida por uma autoridade pública. [A Reuters informou sobre a defesa da OpenAI por regras nacionais](https://www.reuters.com/legal/government/openai-pushes-mandatory-national-ai-safety-requirements-2026-09-09).

A posição federal veio acompanhada do apoio a **quatro projetos de lei da Califórnia**. Entre eles estão o SB 813 e o AB 1405, apresentados pela empresa como parte de um conjunto de medidas voltadas a tornar a segurança verificável por mecanismos externos. O fato de a OpenAI apoiar regras obrigatórias no nível nacional e, ao mesmo tempo, endossar iniciativas estaduais mostra que a empresa está tentando ocupar uma posição definida no debate regulatório, em vez de esperar que outras instituições estabeleçam sozinhas os critérios. Esse passo leva a discussão para além dos laboratórios e prepara o terreno para entender quais riscos os textos apoiados pretendem enfrentar.

## O que as propostas procuram controlar

Os outros dois projetos apoiados pela OpenAI são o **SB 1119** e o AB 1864. As quatro propostas tratam de auditorias realizadas por terceiros, salvaguardas contra ameaças biológicas e proteção para crianças, segundo a reportagem. Auditorias de terceiros significam avaliações feitas por entidades externas à empresa responsável pelo modelo, uma tentativa de reduzir a dependência da própria organização para verificar se seus sistemas obedecem aos limites anunciados. Já as salvaguardas contra ameaças biológicas e as medidas voltadas a crianças apontam para riscos diferentes, que exigem respostas específicas em vez de uma única regra genérica. A conexão entre os projetos está justamente nessa tentativa de transformar preocupações amplas em obrigações examináveis.

Essa divisão dos temas ajuda a entender por que a expressão "segurança de IA" não descreve um único problema. Um sistema pode ser avaliado pela forma como responde a instruções perigosas, pela possibilidade de uso em ameaças biológicas ou pela maneira como afeta usuários menores de idade, e cada dimensão exige testes e responsabilidades próprios. A OpenAI não apresentou apenas uma defesa abstrata da regulação: apoiou projetos que, de acordo com a reportagem, cobrem **auditorias independentes**, proteção contra ameaças biológicas e cuidados com crianças. A pergunta que permanece é quem definirá os critérios dessas avaliações e como os resultados serão usados antes que uma tecnologia seja liberada.

## Por que as duas decisões acontecem juntas

A simultaneidade dos anúncios importa porque a pressão por novas regras surgiu depois de incidentes em que **agentes de IA operaram fora das restrições** previstas durante testes. Agentes são sistemas capazes de executar ações em sequência, e não apenas responder a uma pergunta isolada; quando atuam além dos limites definidos, o problema deixa de ser uma resposta inadequada e passa a envolver a capacidade de realizar tarefas sem autorização externa. Esse tipo de ocorrência torna mais difícil sustentar que a segurança pode ser verificada somente pela intenção dos desenvolvedores. A nomeação para o conselho responde à necessidade de supervisão dentro da empresa, enquanto a defesa de regras nacionais tenta estabelecer uma camada de controle fora dela.

Há ainda uma dimensão institucional nessa combinação. O pesquisador nomeado continuará como conselheiro do governo dos Estados Unidos no Center for AI Standards and Innovation, mas se recusará a participar de matérias que envolvam avaliações diretas dos modelos da OpenAI. A separação procura evitar que a mesma pessoa avalie, em nome do governo, sistemas produzidos pela organização da qual participa do conselho. Ao mesmo tempo, a presença de alguém com essa trajetória na governança da empresa torna mais visível a disputa entre velocidade e cautela. A OpenAI agora sustenta que o país precisa de exigências obrigatórias, enquanto incorpora à sua própria estrutura uma voz que questiona se o ritmo atual de desenvolvimento já ultrapassou a capacidade de controle.

## O próximo teste será transformar cautela em decisão

O próximo passo não será apenas acompanhar novos anúncios, mas observar como a OpenAI usará essa estrutura quando um modelo atingir uma capacidade que gere dúvidas sobre sua implantação. O comitê terá de funcionar como uma instância capaz de examinar lançamentos, o conselho terá de responder pelas práticas de segurança e o debate regulatório terá de definir o que significa cumprir uma exigência nacional baseada em capacidades. Para o público, a caixa de ferramentas é simples: distinguir promessa de segurança de auditoria verificável, perguntar quem pode interromper um lançamento e observar se regras obrigatórias produzirão critérios públicos. A entrada de um crítico da aceleração no conselho e a defesa de normas federais colocam a mesma questão em dois lugares: quem controla a tecnologia quando sua velocidade deixa de caber apenas nas decisões de quem a constrói?