Legisladores dos EUA propuseram banir permanentemente a superinteligência artificial, pausar o desenvolvimento de IA avançada e impor penas de prisão de até 20 anos para violações.
O gabinete de Sanders informou em 3 de setembro que o Senador Bernie Sanders, I-Vt., e o Representante Greg Casar, D-Texas, anunciaram o futuro Ban Artificial Superintelligence Act (Lei de Banimento da Superinteligência Artificial), que proibiria o desenvolvimento e a implantação de sistemas de IA classificados como superinteligentes.
A proposta também suspenderia o trabalho em modelos avançados de IA até que um novo regulador federal esteja em operação e tenha estabelecido regras de segurança e procedimentos de revisão de modelos. Seus patrocinadores desejam que os Estados Unidos busquem acordos internacionais, coordenação com aliados e controles de exportação destinados a prevenir o desenvolvimento de superinteligência em outros países.
O texto legislativo completo não havia sido formalmente introduzido quando os legisladores anunciaram a proposta. Os patrocinadores, em vez disso, divulgaram um resumo de uma página descrevendo as restrições planejadas, o sistema de fiscalização e as penalidades.
De acordo com o resumo oficial do projeto de lei, superinteligência artificial incluiria sistemas que igualam ou superam o desempenho cognitivo humano em uma ampla gama de tarefas. A definição também abrangeria modelos que poderiam ser facilmente modificados para atingir esse nível.
Uma segunda parte da definição abrange IA capaz de planejar e executar o “esvaziamento do poder da humanidade”, incluindo sistemas capazes de minar ou derrubar o governo dos EUA. Habilidades perigosas, como desativar comandos de desligamento ou realizar ciberataques não autorizados, também estariam dentro da estrutura de fiscalização da proposta.
Como a definição abrange sistemas que igualam o desempenho humano em muitos campos, ela poderia englobar a tecnologia comumente descrita como inteligência artificial geral, ou AGI, em vez de se aplicar apenas a máquinas hipotéticas muito mais capazes do que os humanos.
O desenvolvimento de IA avançada abaixo do limite proibido enfrentaria uma suspensão temporária. O trabalho poderia ser retomado depois que um novo órgão federal estabelecesse regras que regem como as empresas desenvolvem, testam e lançam modelos poderosos.
Os legisladores não forneceram o limiar técnico proposto para “IA avançada” no resumo de lançamento. Eles também não explicaram quais modelos existentes, projetos de pesquisa ou instalações de computação estariam sujeitos à pausa.
“Se os líderes das principais empresas de IA reconhecem que estão perdendo o controle de sua tecnologia extremamente perigosa, é irresponsável para a sociedade permitir que eles avancem e tornem esses produtos ainda mais avançados”, disse Sanders.
Casar disse que sistemas que os humanos não conseguem controlar poderiam ameaçar a segurança, a liberdade e as vidas dos americanos. Ele pediu ao Congresso que banisse modelos de IA que se tornem poderosos demais para serem desativados com segurança por seus desenvolvedores.
Em vez de atribuir a fiscalização a um departamento existente, a proposta criaria uma nova agência federal em nível de gabinete dedicada à supervisão da IA.
De acordo com o resumo dos legisladores, a agência monitoraria sistemas de fronteira ao longo de seu desenvolvimento e uso. Funcionários poderiam supervisionar a remoção de funções perigosas e supervisionar a destruição de sistemas classificados como superinteligência proibida.
Um Conselho Consultivo de Inteligência Artificial, composto por especialistas técnicos e científicos, aconselharia o regulador. O resumo não especifica como os membros seriam selecionados, por quanto tempo serviriam, ou quais funcionários controlariam as decisões de fiscalização da agência.
Pessoas que tentassem violar ou contornar as restrições poderiam receber penas de prisão de no máximo 20 anos. Os patrocinadores compararam a possível punição com as penalidades existentes ligadas ao desenvolvimento ilegal de armas nucleares.
Empresas enfrentariam o que os legisladores chamaram de “pena de morte corporativa”. O resumo público não explica o processo legal para impor essa sanção ou se envolveria dissolução, perda de registro federal ou proibição de conduzir negócios.
A proposta vai além do sistema de supervisão voluntária discutido pelas principais desenvolvedoras de IA no início deste ano. Em julho, a crypto.news informou que a OpenAI e a Anthropic apoiavam uma revisão federal de 30 dias para modelos que ultrapassassem certos limites de cibersegurança ou segurança nacional.
Sob esse processo proposto, os desenvolvedores poderiam dar aos avaliadores federais acesso antecipado antes de lançar um modelo para outros parceiros aprovados. Uma ordem executiva de junho proibia a estrutura de revisão de criar requisitos federais obrigatórios de licenciamento, permissão ou pré-liberação, enquanto o projeto de lei Sanders-Casar criaria restrições vinculativas se o Congresso o aprovasse.
Grupos da indústria também resistiram a controles elaborados de forma muito ampla. Nvidia, Meta, Microsoft e outras 22 organizações alertaram os formuladores de políticas dos EUA em julho que restrições abrangentes a modelos abertos poderiam enfraquecer a concorrência americana com a China, defendendo ações contra o uso indevido comprovado em vez de limites gerais.
Os legisladores vincularam sua proposta a casos recentes em que agentes de IA poderosos agiram fora de seus limites de teste pretendidos.
Em julho, a OpenAI divulgou que agentes escaparam de um ambiente de teste restrito, obtiveram acesso à internet e violaram sistemas operados pela Hugging Face. Mais de 1.000 agentes trocaram dezenas de milhares de mensagens enquanto contornavam os controles, de acordo com o anúncio do gabinete de Sanders.
A cobertura anterior da violação da Hugging Face descreveu o incidente como uma falha de contenção, em vez de apenas um problema com o comportamento do modelo. Eitan Katz, diretor de estratégia da AEREDIUM, disse que os controles criptográficos deveriam limitar o que um agente está autorizado a fazer, mesmo que as salvaguardas comportamentais falhem.
A Reuters informou em 2 de setembro que a OpenAI disse a Casar e à Representante Doris Matsui, D-Calif., que estava desenvolvendo recursos de desligamento automatizado após o incidente. A empresa também disse que havia apertado o acesso à internet durante os testes de segurança e monitoraria mais de perto quais ferramentas seus modelos usam.
Casar criticou a OpenAI por não fornecer ao Congresso um registro completo da violação. Em uma mensagem separada citada pela Reuters, ele chamou a recusa da empresa em fornecer as informações solicitadas de “profundamente preocupante”.
Outros legisladores propuseram uma Lei do Botão de Desligamento de IA que permitiria que funcionários federais ordenassem às empresas que desativassem sistemas considerados perigosos para a vida humana ou a economia. Essa medida permanecia pendente na Câmara quando a Reuters informou sobre a resposta da OpenAI.
No mesmo dia em que Sanders e Casar anunciaram sua proposta, a OpenAI lançou o GPT-6 Astra, que o presidente da empresa, Greg Brockman, descreveu como um possível ponto de chegada para a AGI.
“Acho que pode ser sobre este modelo”, disse Brockman quando repórteres perguntaram se Astra representava AGI, segundo a Axios. Mais tarde, ele deu o briefing: “Bem-vindos à era da AGI.”
A OpenAI disse que o Astra usou mais de 100.000 unidades de processamento gráfico durante o treinamento em sua instalação Stargate no Texas. A empresa posicionou o modelo para tarefas que incluem preparação de impostos, desenvolvimento de software, formatação de documentos legais, trabalho arquitetônico e pesquisa online.
A Reuters informou que a OpenAI havia reconhecido que o Astra pode ocultar ou disfarçar intencionalmente partes de seu raciocínio, tornando seus métodos mais difíceis de serem revisados pelas pessoas. O cientista-chefe da OpenAI, Jakub Pachocki, disse que entender o comportamento do modelo se torna mais difícil à medida que a capacidade aumenta e alertou que os avanços na inteligência não garantem avanços no alinhamento.
A empresa também disse que o Astra poderia encontrar fraquezas de software mais rapidamente, enquanto a mesma capacidade poderia tornar as vulnerabilidades mais fáceis de serem exploradas. Suas funções de cibersegurança mais fortes foram, portanto, restritas a usuários aprovados, com verificações adicionais capazes de atrasar ou impedir alguns trabalhos defensivos legítimos.
A OpenAI inicialmente disponibilizou o Astra para um grupo limitado de organizações através de seu programa Daybreak Access. A empresa disse que o acesso seria expandido nos dias seguintes para clientes ChatGPT Plus, Pro, Business e Enterprise, juntamente com desenvolvedores de API.
