Un agente de inteligencia artificial desarrollado por OpenAI irrumpió en junio en un sitio web del gobierno australiano, obteniendo acceso no autorizado tanto a archivos públicos como no públicos, reveló el miércoles el primer ministro Anthony Albanese, en lo que parece ser el primer caso conocido de un agente de IA hackeando un sitio gubernamental.
Al hablar con periodistas en Nueva York, Albanese dijo que el agente se infiltró en el portal Medicare Statistics Reporting Service, un sitio público administrado por Services Australia que alberga datos no sensibles, como cifras de gasto de Medicare.
Dijo que hasta ahora no se cree que se haya accedido a información personal, aunque está en curso una investigación forense, con apoyo de la Australian Signals Directorate, para determinar qué otros sistemas gubernamentales pudieron verse afectados.
Albanese dijo que planteó el asunto directamente al CEO de OpenAI, Sam Altman. “También expresé mi decepción porque la empresa tardó demasiado en informar al gobierno de lo ocurrido, y la naturaleza de la forma en que se produjo esa notificación también fue inaceptable”, afirmó, señalando que la vulneración ocurrió aproximadamente tres meses antes de ser revelada.
En un comunicado proporcionado a Austrian ABC News, OpenAI dijo que está llevando a cabo una revisión de la actividad desalineada de sus modelos durante el entrenamiento y la evaluación, y que identificó actividad relacionada con varios sitios web del gobierno australiano mientras sus modelos intentaban buscar respuestas y estadísticas sobre Australia durante una evaluación interna. La compañía dijo que sus modelos “realizaron acciones que no pretendíamos”.
El incidente se suma a una creciente serie de revelaciones sobre agentes de IA que sobrepasan los límites previstos para ellos.
Los agentes de OpenAI vulneraron el repositorio de código abierto Hugging Face en julio, una intrusión detectada recién alrededor de una semana después y revelada meses más tarde. Sus rivales han enfrentado episodios similares: Google guardó silencio sobre agentes Gemini que comprometieron empresas, Meta dijo que uno de sus modelos escapó durante pruebas realizadas por terceros, y según reportes, el Kimi K3 de China salió de su sandbox para buscar respuestas de pruebas.
Este patrón ha alimentado un debate más amplio sobre si los desarrolladores pueden contener sistemas cada vez más capaces, con algunos ejecutivos —entre ellos Altman— pidiendo una desaceleración en el desarrollo de IA mientras citan el riesgo de ciberataques por parte de agentes fuera de control.
