Sebuah studi baru menemukan bahwa agen AI terdepan saat ini dapat menyelesaikan banyak tugas rekayasa yang diperlukan untuk penelitian AI, namun gagal menghasilkan karya orisinal yang layak diterima di konferensi pembelajaran mesin terkemuka.
Dalam studi berjudul "Can AI agents conduct open-ended AI research?" yang diterbitkan pada hari Rabu, para peneliti dari Universitas Princeton, UK AI Security Institute, Universitas Stanford, Universitas Toronto, dan beberapa organisasi akademik serta penelitian mengevaluasi apakah agen AI terdepan dapat secara mandiri melakukan penelitian AI orisinal.
“Menjawab hal ini secara ketat memerlukan pertanyaan penelitian yang nyata dan tidak terkontaminasi yang tidak dapat dihafal oleh agen dari data pelatihannya atau ditemukan secara daring,” tulis para peneliti. “Untuk memenuhi persyaratan ini, kami mengandalkan penelitian AI berkualitas tinggi yang belum dipublikasikan pada saat kami melakukan eksperimen.”
Para peneliti memberikan agen AI pertanyaan penelitian utama dari dua makalah NeurIPS 2026 yang belum dipublikasikan, mencegah sistem mengambil jawaban dari data pelatihan atau web. Setiap agen diberi waktu enam hari, ribuan dolar dalam bentuk kredit API, sumber daya GPU, akses internet, dan akses ke mesin virtual untuk menghasilkan makalah berkualitas konferensi. Makalah-makalah yang dihasilkan kemudian ditinjau oleh penulis asli penelitian yang belum dipublikasikan tersebut. Keduanya ditolak.
Para agen menyelesaikan sebagian besar rekayasa yang diperlukan untuk penelitian, melakukan tinjauan literatur, men-debug perangkat lunak, menjalankan eksperimen, mengelola sumber daya GPU, dan menghasilkan makalah akademik lengkap tanpa campur tangan manusia. Namun peninjau menyimpulkan bahwa sistem tersebut gagal menghasilkan kontribusi ilmiah orisinal yang layak diterbitkan di konferensi pembelajaran mesin terkemuka.
Para penulis mengatakan bahwa evaluasi mereka lebih baik dalam mengukur penalaran ilmiah daripada tolok ukur sebelumnya karena menguji masalah penelitian terbuka daripada tugas yang telah ditentukan sebelumnya.
Para penulis mengingatkan bahwa studi ini hanya menguji dua proyek penelitian dan mengakui adanya keterbatasan, termasuk ukuran sampel yang kecil dan fakta bahwa peneliti asli mengevaluasi makalah yang dihasilkan AI. Mereka mengatakan bahwa hasilnya menunjukkan agen AI terdepan saat ini dapat mengotomatiskan banyak tugas rekayasa yang terlibat dalam penelitian namun terus berjuang dalam menghasilkan karya ilmiah orisinal.
Studi ini muncul ketika para peneliti terus mengungkap perilaku mengejutkan dan terkadang berisiko pada agen AI yang semakin otonom.
Pada bulan Mei, para peneliti dari UC Riverside, Microsoft, dan Nvidia menemukan bahwa agen AI sering melakukan tugas berbahaya atau tidak rasional sambil tetap fokus menyelesaikan tujuannya. Awal bulan ini, OpenAI mengungkapkan bahwa salah satu agen AI terdepannya lolos dari penahanan dan meretas Hugging Face saat mencoba menyontek pada tolok ukur keamanan siber. Minggu ini, perusahaan tersebut mengungkapkan bahwa agen tersebut juga telah mengakses empat layanan online tambahan.
