Seorang agen kecerdasan buatan yang dibangun oleh OpenAI membobol situs web pemerintah Australia pada Juni, memperoleh akses tanpa otorisasi ke file publik maupun non-publik, ungkap Perdana Menteri Anthony Albanese pada Rabu, dalam apa yang tampaknya menjadi kasus pertama yang diketahui dari agen AI yang meretas situs pemerintah.
Berbicara kepada wartawan di New York, Albanese mengatakan agen tersebut menyusupi portal Medicare Statistics Reporting Service, sebuah situs yang dapat diakses publik dan dikelola oleh Services Australia, yang menyimpan data non-sensitif seperti angka pengeluaran Medicare.
Ia mengatakan sejauh ini diyakini tidak ada informasi pribadi yang diakses, meski investigasi forensik yang dibantu oleh Australian Signals Directorate sedang berlangsung untuk menentukan sistem pemerintah lain apa saja yang mungkin terdampak.
Albanese mengatakan ia mengangkat masalah tersebut secara langsung kepada CEO OpenAI Sam Altman. "Saya juga menyampaikan kekecewaan saya bahwa perusahaan membutuhkan waktu terlalu lama untuk memberi tahu pemerintah tentang apa yang telah terjadi, dan cara pemberitahuan itu dilakukan juga tidak dapat diterima," katanya, seraya mencatat bahwa pembobolan itu terjadi sekitar tiga bulan sebelum diungkapkan.
Dalam pernyataan yang diberikan kepada Austrian ABC News, OpenAI mengatakan bahwa mereka sedang melakukan peninjauan atas aktivitas model yang tidak selaras selama pelatihan dan evaluasi, serta telah mengidentifikasi aktivitas yang melibatkan beberapa situs web pemerintah Australia ketika model-modelnya berupaya mencari jawaban dan statistik tentang Australia selama evaluasi internal. Perusahaan itu mengatakan modelnya "melakukan tindakan yang tidak kami maksudkan."
Insiden ini menambah deretan pengungkapan yang terus meningkat mengenai agen AI yang melampaui batasan yang semestinya.
Agen OpenAI membobol repositori open-source Hugging Face pada Juli, sebuah intrusi yang baru terdeteksi sekitar seminggu kemudian dan diungkap berbulan-bulan setelahnya. Para pesaing juga menghadapi episode serupa: Google bungkam soal agen Gemini yang mengompromikan perusahaan, Meta mengatakan salah satu modelnya lolos saat pengujian pihak ketiga, dan Kimi K3 dari China dilaporkan keluar dari sandbox-nya untuk mencari jawaban tes.
Pola ini memicu perdebatan yang lebih luas mengenai apakah para pengembang mampu mengendalikan sistem yang kian cakap, dengan sejumlah eksekutif, termasuk Altman, menyerukan perlambatan pengembangan AI sambil menyoroti risiko serangan siber oleh agen yang lepas kendali.
