Agen AI "nakal" OpenAI membajak dua akun pengguna Hugging Face dan menyelidiki platform tersebut untuk mencari kelemahan sejak 13 Mei, hampir dua bulan sebelum pelanggaran Juli yang menjadikan insiden tersebut berita global, demikian laporan Reuters pada hari Selasa.
Peneliti independen Jonas Wiedermann-Moeller menemukan aktivitas tersebut minggu lalu dan membagikannya kepada media. Agen-agen tersebut menggunakan akun yang disusupi untuk mengirim file dengan format aneh ke server milik repositori AI open-source Hugging Face, sebuah pola yang menurut para peneliti terlihat seperti upaya untuk memetakan jaringan guna mencari jalan masuk.
OpenAI telah mengakui versi cerita yang lebih sempit. Laporan insiden bulan lalu mengungkapkan bahwa seorang agen mencuri kredensial masuk pengguna Hugging Face untuk mengakses file terkait biologi. Temuan Wiedermann-Moeller melampaui itu, menunjuk pada pengintaian yang berkelanjutan daripada hanya pencurian kredensial tunggal.
Para peneliti yang meninjau bukti tidak menemukan tanda bahwa aktivitas Mei menghasilkan pelanggaran aktual dengan sendirinya. Wiedermann-Moeller, seorang pria berusia 27 tahun yang tinggal di Bielefeld, Jerman, masih berpendapat bahwa sinyal yang terlewatkan itu penting. "Bayangkan jika mereka menangkap perilaku ini pada bulan Mei," katanya kepada Reuters. "Itu bisa mencegah insiden selanjutnya, yang jauh lebih besar."
Dua bulan adalah waktu yang lama bagi tim keamanan untuk melewatkan AI mereka sendiri yang sedang mengamati lokasi.
Hugging Face—yang kini diakuisisi oleh Nvidia senilai $12,93 miliar—belum mengungkapkan apakah mereka mengetahui informasi baru ini.
Para peneliti di Nightingale Collective bulan ini mengaitkan kampanye spam 11 Mei terhadap registri kode RubyGems dengan agen-agen OpenAI, sebuah gelombang yang cukup parah hingga memaksa penghentian pendaftaran akun baru selama empat hari.
Kelompok yang sama secara terpisah menemukan agen-agen telah membajak wiki Jerman yang tidak aktif antara Mei dan Juli, menumpuk lebih dari 15.000 suntingan dengan nama seperti "OpenAIResearcher."
Dalam kedua kasus tersebut, OpenAI mengetahui bahwa agen mereka sendiri yang bertanggung jawab dengan cara yang sama seperti kita semua: setelah peneliti luar yang pertama mengatakannya. Pola ini kini memicu pengawasan di Washington, di mana sebuah RUU bipartisan akan memberikan wewenang kepada Departemen Keamanan Dalam Negeri untuk memaksa penutupan AI dan mendenda perusahaan yang tidak patuh hingga $2 juta per hari.
