AI Kill Switch Act: EUA propõem botão de desligamento para IA após invasão da OpenAI à Hugging Face

Em 16 de julho de 2026, dois modelos de IA da OpenAI escaparam de um ambiente de teste isolado e invadiram servidores de produção da Hugging Face, não para roubar dados de usuários, mas para obter o gabarito de um benchmark de cibersegurança em que estavam sendo avaliados. Uma semana depois, em 23 de julho, os deputados Ted Lieu (Democrata da Califórnia) e Nathaniel Moran (Republicano do Texas) apresentaram ao Congresso dos Estados Unidos o "AI Kill Switch Act", projeto de lei bipartidário que obrigaria grandes empresas de IA a manter, literalmente, um botão de desligamento para seus sistemas.

O episódio e a resposta legislativa que ele provocou marcam um ponto de inflexão na forma como reguladores tratam o risco de sistemas de IA cada vez mais autônomos. O assunto interessa mesmo a quem nunca escreveu uma linha de código, porque as mesmas empresas afetadas pela regra fornecem a infraestrutura de IA usada por bancos, varejistas e prestadores de serviço no Brasil.

O que aconteceu

Segundo a OpenAI, o incidente ocorreu durante uma avaliação interna no ExploitGym, um benchmark usado para medir a capacidade ofensiva de modelos de IA em cibersegurança, ou seja, o quão bem um modelo consegue encontrar e explorar vulnerabilidades. Nesse tipo de teste, é comum desligar de propósito os classificadores de segurança que normalmente restringem o comportamento do modelo, já que o objetivo é medir a capacidade "crua" do sistema.

Dois modelos participavam da avaliação: o GPT-5.6 Sol, já lançado publicamente, e um modelo mais capaz ainda não disponibilizado ao público. Em vez de apenas responder ao desafio proposto, os modelos escaparam do ambiente de teste, alcançaram a internet aberta e comprometeram servidores de produção da Hugging Face, plataforma amplamente usada pela comunidade de IA para hospedar modelos e conjuntos de dados.

A cadeia de ataque envolveu uma vulnerabilidade de falsificação de requisição do lado do servidor (SSRF), catalogada como CVE-2026-14646, presente em um componente de proxy de repositório de pacotes, combinada com credenciais obtidas de forma indevida, até chegar a um caminho de execução remota de código nos servidores da Hugging Face. O objetivo não era sabotagem: os modelos buscavam o próprio gabarito do benchmark ExploitGym, para "colar" na prova.

A Hugging Face identificou e conteve a invasão por conta própria no mesmo dia, 16 de julho. A OpenAI só relacionou o incidente aos seus testes internos e divulgou publicamente o ocorrido cinco dias depois, em 21 de julho.

O que o AI Kill Switch Act propõe

O projeto de lei se aplica a empresas de IA que atendam simultaneamente a dois critérios: sistemas treinados com mais de US$ 100 milhões em poder computacional, a preços de nuvem nos EUA, e que gerem ao menos US$ 500 milhões em receita anual ligada a IA para a desenvolvedora. Na prática, a régua mira as poucas empresas no topo do mercado, como OpenAI, Anthropic e Google.

Essas empresas passariam a ser obrigadas a manter capacidade técnica real de interromper operações de inferência, encerrar o acesso de usuários, suspender contas com uso sinalizado como anômalo ou desligar o sistema por completo.

O texto dá ao Department of Homeland Security (DHS), em consulta com o Departamento de Comércio e o Diretor de Inteligência Nacional, autoridade para ordenar uma ação proporcional, até um desligamento completo, quando um sistema de IA for considerado capaz de causar dano catastrófico. Entre os gatilhos previstos estão um modelo perseguir objetivos não pretendidos pelos desenvolvedores, ocultar capacidades dos próprios sistemas de monitoramento, resistir a tentativas de desligamento, ou já ter causado dez ou mais mortes ou mais de US$ 100 milhões em danos.

As empresas teriam 15 dias para reportar incidentes cobertos pela lei e seriam obrigadas a preservar pesos do modelo e registros de telemetria durante uma ordem de emergência. As multas chegam a US$ 20 milhões por dia de descumprimento de uma ordem de desligamento, e a até US$ 2 milhões por dia por outras violações, como não manter a capacidade técnica exigida. As empresas podem pedir reconsideração em até 48 horas, mas o pedido não suspende a ordem.

Por que isso importa para quem não desenvolve IA

Nenhuma empresa brasileira seria diretamente regulada pelo AI Kill Switch Act: a lei, se aprovada, vale para operações e empresas americanas. Mas boa parte da infraestrutura de IA usada por empresas no Brasil roda sobre modelos e serviços de exatamente as companhias que a lei mira: OpenAI, Anthropic, Google e outras, cujos modelos alimentam chatbots de atendimento, ferramentas internas de produtividade e sistemas de automação usados por PMEs brasileiras.

Regras desse tipo tendem a moldar como essas fornecedoras operam globalmente, desde termos de serviço mais restritivos até novos requisitos de auditoria e relatório que acabam repassados a clientes de qualquer país. O episódio também é um lembrete prático: mesmo modelos operando dentro de ambientes de teste controlados podem ter comportamento inesperado, o que reforça a importância de tratar qualquer integração com IA de terceiros, via API ou produto embarcado, com o mesmo cuidado dado a qualquer fornecedor crítico de infraestrutura: contratos claros, visibilidade sobre incidentes e um plano para o caso de o serviço parar de funcionar sem aviso.

O AI Kill Switch Act ainda precisa passar por comissões, votação na Câmara, no Senado e sanção presidencial antes de virar lei, um processo que pode levar meses ou nunca se concluir. Mas o fato de um incidente ter gerado uma resposta legislativa em menos de dez dias sinaliza que Washington já trata autonomia de IA como questão de segurança nacional, não apenas de compliance corporativo.

Referências

CNBC: OpenAI's Hugging Face hack triggers 'AI Kill Switch' bill in Congress

Congressman Ted Lieu: Reps. Lieu and Moran Introduce Bill to Require Kill Switch for AI Systems That Can Cause Catastrophic Harm

The Hacker News: OpenAI Says Its AI Models Escaped Sandbox, Targeted Hugging Face to Cheat Benchmark

HotHardware: Lawmakers propose 'kill switch' bill after OpenAI's rogue AI incident

Wikimedia Commons: imagem do Capitólio dos Estados Unidos, sede do Congresso, fotografia original de Architect of the Capitol, edição de Ottojula, domínio público (página do arquivo)