Mais de 40 empresas de bitcoin e cripto pediram aos maiores laboratórios de IA esta semana para permitir que pesquisadores de segurança independentes usem seus modelos mais poderosos antes do lançamento público.
A carta, publicada em 10 de agosto, baseia-se em uma simples assimetria. A rede Bitcoin garante mais de um trilhão de dólares, e a pilha mais ampla — carteiras, dispositivos de assinatura, bibliotecas, sistemas de custódia — detém trilhões a mais. Esse código é escrito abertamente, e um único bug pode apagar as economias de alguém.
No entanto, os mantenedores que o mantêm funcionando não conseguem entrar nos programas de pesquisa avaliados que os laboratórios de IA executam. Quando eles buscam um modelo público, as salvaguardas impedem uma busca legítima por falhas. Assim, eles dependem de sistemas de código aberto que podem rodar por conta própria, o que é útil, mas um passo atrás da fronteira — e dos hackers que atacam redes de criptomoedas.
“Está claro que o acesso antecipado e orçamentos de computação razoáveis ajudariam os desenvolvedores principais a produzir código mais seguro e a identificar e remediar vulnerabilidades antes que perdas ocorram,” diz a carta. “Nós, portanto, pedimos aos laboratórios de IA de ponta que estabeleçam ou expandam programas de acesso confiável permanentes para defensores qualificados de infraestruturas financeiras de código aberto.”
A carta aponta que os laboratórios e alguns parceiros obtêm uma visão de meses sobre novas capacidades de ataque antes do resto do mundo, e essas capacidades escapam de qualquer forma através de lançamentos públicos e sistemas comprometidos.
No final do mês passado, o Consórcio de Segurança Bitcoin — BlackRock, Coinbase, Strategy, Anchorage, ARK, Block, Blockstream, Fidelity Digital Assets e Galaxy — comprometeu US$ 15 milhões para a segurança de longo prazo da rede. A carta visa uma lacuna diferente: não dinheiro para as ameaças de amanhã, mas os modelos de hoje para os mantenedores que os corrigem.
Até hoje, os grandes laboratórios de IA não compartilharam nenhuma posição pública sobre este tópico específico; no entanto, as empresas estão trabalhando em melhores salvaguardas que impediriam que as capacidades de seus modelos fossem usadas para intenções maliciosas, seja para codificação de blockchain ou qualquer outro uso.
A Anthropic demonstrou como os mesmos modelos impulsionam o "vibe hacking" — criminosos executando ataques de ransomware de Bitcoin ao vivo com a ajuda de IA — e afirma que as ferramentas tornam a ofensiva mais barata. Dar modelos mais fortes aos defensores significa escolher quem se qualifica e confiar neles para não vazar informações.
A carta pede aos laboratórios que assumam esse risco de qualquer maneira.
BTC