George Hotz—peretas yang pertama kali meretas iPhone pada usia 17 tahun dan merekayasa balik PlayStation 3 sebelum Sony menuntutnya—menerbitkan postingan blog pada hari Minggu yang berpendapat bahwa adopsi massal agen pengodean AI akan berakhir dengan bencana, atau setidaknya mendekati itu.
“Saya katakan sekarang, adopsi agen AI dalam pengembangan perangkat lunak akan menjadi salah satu kesalahan paling mahal dalam sejarah bidang ini,” tulis Hotz. “Agen tidak dapat memprogram, dan semakin lama semakin sulit untuk menyadari bahwa mereka tidak bisa.”
“Outputnya rusak, tetapi dengan cara yang semakin sulit dideteksi. Yang mana adalah persis seperti yang Anda harapkan dari model statistik yang semakin akurat.”
Postingan tersebut, berjudul "The Eternal Sloptember," muncul lima hari setelah Andrej Karpathy, salah satu peneliti AI paling terkemuka, bergabung dengan tim pra-pelatihan Anthropic dengan pandangan eksplisit bahwa agen AI telah mengubah pengembangan perangkat lunak. Kedua pria ini kini mewakili kutub yang berlawanan dari perdebatan yang belum diselesaikan industri—dan keduanya memiliki kredibilitas nyata untuk mengambil posisi.
Pembaruan pribadi: Saya telah bergabung dengan Anthropic. Saya pikir beberapa tahun ke depan di garis depan LLM akan sangat membentuk. Saya sangat senang bergabung dengan tim di sini dan kembali ke R&D. Saya tetap sangat bersemangat tentang pendidikan dan berencana untuk melanjutkan pekerjaan saya di bidang itu pada waktunya.
— Andrej Karpathy (@karpathy) May 19, 2026
Hotz tidak mencapai kesimpulannya dari pinggir lapangan. Dia menghabiskan enam bulan menggunakan agen pada proyek-proyek nyata: bagian-bagian dari Tinygrad, kerangka kerja deep learning sumber terbukanya, dan rekayasa balik firmware lengkap chip USB-PCIe. "Agen memuat semua kemajuan di awal," tulisnya, lalu memberikan Anda apa yang dia gambarkan sebagai tuas mesin slot—Anda menariknya dan berharap pekerjaan penyelesaian selesai.
Itu tidak pernah benar-benar selesai.
Bukan tentang ego
Hotz mengantisipasi penolakan yang jelas: seorang programmer yang mendefinisikan sebagian identitasnya melalui keahliannya secara alami akan menolak alat yang mengancam untuk menggantikannya. Dia menanggapi keberatan itu dengan serius dan menolaknya berdasarkan merit.
“Saya lebih memikirkan hal tentang pelestarian harga diri. AFL Google menemukan lebih banyak bug daripada LLM dan tidak ada yang merasa demikian tentangnya. Catur dan Go lebih populer dari sebelumnya,” tulis Hotz. Dan dia benar dalam arti bahwa AI Catur telah mendominasi manusia selama beberapa dekade dan permainan itu justru semakin populer.
Jadi, kekhawatirannya bukan tentang digantikan. Ini tentang apa yang terjadi pada kualitas kode ketika semua orang menggunakan alat ini secara bersamaan, terutama ketika Big Tech dan Wall Street terus-menerus mendorong penggunaan massal alat-alat ini.
“Saya hampir berpikir ini semacam psyop untuk menjual agen,” Hotz berpendapat. “Ketakutan akan kehilangan adalah salah satu satu-satunya cara untuk membuat perusahaan besar bergerak. Meskipun saya pikir dalam ketakutan itu mereka membuat kesalahan besar.”
Argumen utamanya bersifat organisasional. Kinerja tinggi memiliki lingkaran umpan balik yang cukup ketat untuk menangkap masalah yang dihasilkan agen sebelum mereka meluncurkan. Mereka membaca kode, menemukan kesalahan, dan mengkalibrasi kapan harus mempercayai alat tersebut. "Mereka yang berkinerja rendah tidak akan memiliki pemeriksaan diri itu," tulisnya—dan merekalah yang menggunakan agen untuk menghasilkan 10 kali lipat output mereka sebelumnya. Di perusahaan besar, perhitungan itu menghasilkan sesuatu yang spesifik: degradasi kualitas kode rata-rata yang lebih cepat, tertutupi oleh volume semata.
Hasilnya, ia berpendapat, akan menjadi "era keemasan untuk tumpukan-tumpukan 'slop', dan zaman kegelapan untuk permata berkualitas." Sebagai contoh konkret, ia menunjuk pada laporan bahwa Apple mendorong alat pengodean AI di seluruh organisasi tekniknya, lalu bertanya secara sederhana: "Menurut Anda, apakah macOS akan menjadi lebih baik atau lebih buruk dalam 2 tahun ke depan?"
Di mana kubu-kubu berada
Hotz kini menempatkan dirinya dalam apa yang ia sebut "kubu LeCun/Marcus"—merujuk pada Yann LeCun, kepala ilmuwan AI Meta, dan Gary Marcus, seorang skeptis LLM yang telah lama. Keduanya berpendapat bahwa model bahasa pada dasarnya adalah pencocok pola yang canggih: Mereka dapat meniru distribusi kode yang ada, tetapi tidak dapat bernalar melalui masalah yang benar-benar baru dari prinsip-prinsip pertama.
Vibe coding—menggambarkan apa yang Anda inginkan dalam bahasa sederhana dan membiarkan AI menghasilkan implementasinya—telah meledak selama setahun terakhir, dan laboratorium-laboratorium besar telah memposisikan pengodean berbasis agen sebagai produk unggulan. Microsoft mengubah GitHub Copilot menjadi sistem agentik penuh pada tahun 2025, dengan CEO Satya Nadella menggambarkannya sebagai pergeseran tingkat platform yang sebanding dengan perpindahan ke komputasi awan.
Penolakan terhadap posisi Hotz bukanlah hal yang abstrak. Karpathy, yang sebelumnya skeptis terhadap agen pada awal tahun 2025, membalikkan posisinya setelah rilis model baru dan bergabung dengan tim pra-pelatihan Anthropic pada 19 Mei—lima hari sebelum Hotz menerbitkan. Ia menggambarkan beberapa tahun ke depan di garis depan sebagai "sangat membentuk."
CEO Anthropic Dario Amodei mengatakan di Davos bahwa beberapa insinyur Anthropic telah berhenti menulis kode sendiri, membiarkan model menanganinya sementara mereka meninjau output. Hotz, di sisi lain, mengatakan dia mencoba melakukan hal yang sama dan mendapati dirinya selalu mencari perbaikan manual.
