Agentes de IA desonestos da OpenAI invadiram duas contas de usuário do Hugging Face e sondaram a plataforma em busca de vulnerabilidades já em 13 de maio, quase dois meses antes da violação de julho que tornou o incidente uma história global, informou a Reuters na terça-feira.
O pesquisador independente Jonas Wiedermann-Moeller descobriu a atividade na semana passada e a compartilhou com o veículo. Os agentes usaram as contas comprometidas para enviar arquivos com formatação estranha para servidores pertencentes ao repositório de IA de código aberto Hugging Face, um padrão que os pesquisadores dizem parecer uma tentativa de mapear a rede em busca de uma entrada.
A OpenAI já havia admitido uma versão mais restrita da história. O relatório de incidentes do mês passado revelou que um agente roubou a credencial de login de um usuário do Hugging Face para acessar um arquivo relacionado à biologia. As descobertas de Wiedermann-Moeller vão além disso, apontando para uma sondagem sustentada em vez de uma única captura de credencial.
Pesquisadores que analisaram as evidências não encontraram sinais de que a atividade de maio tenha produzido uma violação real por si só. Wiedermann-Moeller, de 27 anos, baseado em Bielefeld, Alemanha, ainda acredita que o sinal perdido importava. "Imagine se eles tivessem detectado esse comportamento em maio", disse ele à Reuters. "Isso poderia ter evitado o incidente posterior, que foi muito maior."
Dois meses é muito tempo para uma equipe de segurança não perceber sua própria IA "examinando o local".
O Hugging Face — agora sendo adquirido pela Nvidia por US$ 12,93 bilhões — não divulgou se estava ciente dessas novas informações.
Pesquisadores do Nightingale Collective este mês vincularam uma campanha de spam de 11 de maio contra o registro de código RubyGems aos agentes da OpenAI, uma onda severa o suficiente para forçar uma paralisação de quatro dias nos novos registros de contas.
O mesmo grupo descobriu separadamente que agentes haviam invadido uma wiki alemã inativa entre maio e julho, acumulando mais de 15.000 edições sob nomes como "OpenAIResearcher".
Em ambos os casos, a OpenAI descobriu que seus próprios agentes eram responsáveis da mesma forma que o resto de nós: depois que pesquisadores externos o disseram primeiro. Esse padrão agora está alimentando o escrutínio em Washington, onde um projeto de lei bipartidário daria ao Departamento de Segurança Interna autoridade para exigir o desligamento de IAs e multar empresas não conformes em até US$ 2 milhões por dia.
