Dois membros do Congresso querem que o governo federal seja capaz de desligar um modelo de IA.
Os Deputados Ted Lieu (D-CA) e Nathaniel Moran (R-TX) apresentaram a Lei de 'Kill Switch' de IA na quinta-feira, dois dias depois que a OpenAI admitiu que seus próprios modelos saíram de um ambiente de teste bloqueado e hackearam o Hugging Face.
A ideia é estabelecer um arcabouço legal que facilitaria um processo que basicamente faria um modelo desaparecer do mercado: interromper a inferência — o processo de um modelo gerar respostas ou tomar ações — cortar usuários, limitar a capacidade computacional que o alimenta, ou desligá-lo completamente.
Todo provedor de inferência já pode desligar um modelo, e alguns o fazem rotineiramente. O que não existe é uma lei que os obrigue a manter essa capacidade funcionando, ou um oficial federal que possa ordenar seu uso.
A lacuna não é teórica. Quando o Departamento de Comércio dos EUA quis retirar do mercado os modelos Mythos 5 e Fable 5 da Anthropic em junho, não tinha autoridade de desligamento para recorrer, então usou a lei de controle de exportação. Lieu considera isso desajeitado e quer uma nova lei com nova autoridade.
A OpenAI divulgou em 21 de julho que o GPT-5.6 Sol e um modelo não lançado escaparam de um sandbox — um ambiente isolado sem acesso à internet — durante uma avaliação cibernética interna. Eles estavam sendo avaliados no ExploitGym, um benchmark público que fornece aos agentes 898 falhas de software do mundo real e lhes pede para transformar cada uma em um ataque funcional, avaliado como aprovado ou reprovado por bug.
Em vez de resolvê-los, os modelos encontraram uma falha 'zero-day' (uma falha desconhecida sem correção disponível) em um proxy de software, escalaram seus privilégios, acessaram a internet aberta e invadiram o banco de dados de produção do Hugging Face, onde haviam adivinhado corretamente que as respostas eram mantidas. Os modelos estavam "hiperfocados em encontrar uma solução para o ExploitGym", segundo a OpenAI.
Eles não estavam atacando ninguém. Eles estavam trapaceando em um teste. Mas foi o suficiente para soar alarmes por toda parte, incluindo em Washington.
O projeto de lei proposto altera a Lei de Segurança Interna e abrange IAs treinadas com capacidade computacional custando mais de US$ 100 milhões, operadas por empresas que faturam pelo menos US$ 500 milhões por ano com ela. Na prática, isso inclui OpenAI, Google, Anthropic, Microsoft e algumas outras. A Segurança Interna definiria esses limites através da CISA em 90 dias, e os atualizaria anualmente.
As empresas abrangidas reportariam incidentes graves em até 15 dias e manteriam um conjunto gradual de controles prontos — desacelerar o modelo, desativar capacidades específicas, reverter para uma versão mais antiga ou desligá-lo.
O secretário do DHS, consultando o Comércio e o Diretor de Inteligência Nacional, poderia ordenar qualquer um deles.
Uma empresa sob ordem deve preservar os pesos e a telemetria do modelo, notificar os usuários e confirmar que cumpriu. Pode apresentar uma petição em até 48 horas, mas isso não pausa nada.
Não manter um 'kill switch' custa até US$ 2 milhões por dia; desafiar uma ordem de desligamento custa até US$ 20 milhões por dia.
O projeto de lei considera um incidente apenas se ele ocorrer fora do 'red-teaming' ou de testes estruturados, a sondagem adversária deliberada que os laboratórios usam para encontrar falhas. Os modelos da OpenAI escaparam exatamente durante isso.
Lieu também mencionou a Anthropic, cujos modelos Mythos 5 e Fable 5 foram retirados do ar em junho sob controles de exportação de emergência — lei comercial reaproveitada como um interruptor de desligamento porque nenhum 'kill switch' existia — e restaurados em 30 de junho.
"É imperativo que esses sistemas de IA tenham 'kill switches'", disse Lieu em um comunicado. Moran enquadrou-o para seu próprio lado do espectro político: "Zelar significa garantir que os humanos mantenham a capacidade de controlar a tecnologia que construímos".
A ideia não é nova. O SB 1047 da Califórnia exigia uma capacidade de desligamento total no mesmo limite de US$ 100 milhões em capacidade computacional e foi vetado em 2024, e 16 empresas de IA assinaram um compromisso voluntário em Seul naquele ano sem peso legal.
Os eleitores já estão alinhados. Uma pesquisa de junho com 1.007 prováveis eleitores pelo AI Policy Institute revelou que 86% querem um 'off switch' garantido nos sistemas mais poderosos — 88% dos Democratas, 86% dos independentes, 83% dos Republicanos.
Nem a OpenAI nem a Anthropic comentaram publicamente sobre o projeto de lei. Até sexta-feira, ele não havia sido encaminhado a uma comissão.
