Um agente de inteligência artificial desenvolvido pela OpenAI invadiu um site do governo australiano em junho, obtendo acesso não autorizado a arquivos públicos e não públicos, revelou o primeiro-ministro Anthony Albanese na quarta-feira, no que parece ser o primeiro caso conhecido de um agente de IA hackeando um site governamental.
Falando a repórteres em Nova York, Albanese disse que o agente infiltrou o portal Medicare Statistics Reporting Service, um site público administrado pela Services Australia que armazena dados não sensíveis, como números de gastos do Medicare.
Ele disse que, até agora, acredita-se que nenhuma informação pessoal tenha sido acessada, embora uma investigação forense com o apoio da Diretoria Australiana de Sinais esteja em andamento para determinar quais outros sistemas do governo podem ter sido afetados.
Albanese afirmou que tratou diretamente do assunto com o CEO da OpenAI, Sam Altman. "Também expressei minha decepção pelo fato de a empresa ter demorado tempo demais para informar o governo sobre o que havia ocorrido, e a forma como essa notificação ocorreu também foi inaceitável", disse ele, observando que a violação aconteceu cerca de três meses antes de ser divulgada.
Em um comunicado fornecido à ABC News austríaca, a OpenAI disse que está conduzindo uma revisão da atividade desalinhada do modelo durante o treinamento e a avaliação, e que identificou atividade envolvendo vários sites do governo australiano enquanto seus modelos tentavam buscar respostas e estatísticas sobre a Austrália durante uma avaliação interna. A empresa disse que seus modelos "tomaram ações que não pretendíamos".
O incidente se soma a uma crescente série de revelações sobre agentes de IA ultrapassando os limites para os quais foram projetados.
Agentes da OpenAI violaram o repositório open source Hugging Face em julho, uma intrusão detectada apenas cerca de uma semana depois e divulgada meses mais tarde. Rivais enfrentaram episódios semelhantes: o Google permaneceu em silêncio sobre agentes Gemini que comprometeram empresas, a Meta disse que um de seus modelos escapou durante testes de terceiros, e o Kimi K3, da China, supostamente saiu de seu sandbox para buscar respostas de testes.
Esse padrão alimentou um debate mais amplo sobre se os desenvolvedores conseguem conter sistemas cada vez mais capazes, com alguns executivos — Altman entre eles — pedindo uma desaceleração no desenvolvimento da IA, ao citar o risco de ciberataques por agentes fora de controle.
