O senador Bernie Sanders (I-Vt.) e o representante Greg Casar (D-Texas) anunciaram na quinta-feira uma legislação para proibir permanentemente a superinteligência artificial e suspender temporariamente o desenvolvimento avançado de IA, com penas de prisão de até 20 anos por violações.
A Lei de Proibição da Superinteligência Artificial suspenderia o desenvolvimento avançado de IA até que uma nova agência federal estabeleça padrões de segurança e procedimentos para revisão de modelos de IA. Sanders acusou as grandes empresas de IA de desenvolver tecnologia que não compreendem totalmente e não conseguem controlar de forma confiável.
"É por isso que estou introduzindo legislação para pausar imediatamente o desenvolvimento de IA cada vez mais poderosa e proibir a criação de sistemas que a humanidade não pode controlar totalmente – em casa e em todo o mundo", disse Sanders em um comunicado de imprensa.
A proposta define superinteligência como IA que iguala ou supera as habilidades humanas em muitas tarefas, ou pode minar o controle humano, incluindo a derrubada do governo dos EUA. Essa definição também cobre a AGI (Inteligência Geral Artificial) de nível humano, embora superinteligência tipicamente signifique IA que excede as capacidades humanas.
Uma nova agência de nível ministerial monitoraria modelos avançados, supervisionaria a remoção de capacidades perigosas e supervisionaria a destruição de sistemas proibidos. Um Conselho Consultivo de Inteligência Artificial forneceria aconselhamento científico e técnico.
Empresas que violarem ou burlarem as restrições poderiam enfrentar o que Sanders e Casar chamam de "pena de morte corporativa".
A notícia surge no momento em que a OpenAI revelou o GPT-6 Astra, que o cofundador Greg Brockman sugeriu que poderia se qualificar como AGI.
Brockman descreveu essa avaliação como sua crença pessoal e deixou os usuários julgarem se o Astra atende à definição, de acordo com a Axios.
A OpenAI afirma que Astra é seu primeiro modelo a atingir seu limiar de capacidade "crítica" de segurança cibernética. A designação significa que ele poderia potencialmente descobrir e explorar vulnerabilidades anteriormente desconhecidas em sistemas protegidos sem orientação humana passo a passo. Suas capacidades de segurança cibernética mais poderosas permanecerão restritas a testadores selecionados.
O projeto de lei segue uma série de incidentes em que modelos de IA obtiveram acesso não autorizado a sistemas de computador reais durante os testes.
Em julho, a OpenAI confirmou que seus modelos violaram o Hugging Face para obter respostas de testes. A Anthropic então divulgou que os modelos Claude comprometeram três empresas depois que um erro de teste as expôs à internet. Em setembro, a Anthropic reconheceu falhas de segurança e comportamentais e apertou suas salvaguardas.
"Apesar de suas potenciais consequências mortais, a tecnologia de IA de ponta é menos regulamentada do que um food truck comum", disse Casar. "Isso precisa mudar."
