Jika Anda meminta bantuan pengkodean kepada ChatGPT baru-baru ini dan itu merespons dengan menyebut bug Anda sebagai "gremlin kecil yang nakal," Anda tidak sedang berhalusinasi. Model tersebut mengembangkan obsesi nyata terhadap makhluk fantasi—goblin, gremlin, rakun, troll, ogre, dan ya, merpati—dan OpenAI menerbitkan post-mortem lengkap tentang bagaimana hal itu terjadi.
Versi singkatnya: sinyal hadiah yang dirancang untuk membuat ChatGPT lebih menyenangkan menjadi tidak terkendali, dan para goblin berkembang biak.
Kisah goblin ini menjadi publik karena pengguna Reddit menemukan baris "jangan pernah menyebut goblin" dalam prompt sistem Codex yang bocor di GitHub.
Posting tersebut menjadi viral sebelum OpenAI menerbitkan penjelasannya sendiri.
Menurut OpenAI, jejaknya dimulai dengan GPT-5.1, yang diluncurkan November lalu. Saat itulah OpenAI memperkenalkan kustomisasi kepribadian, memungkinkan pengguna memilih gaya seperti Friendly, Professional, Efficient, dan Nerdy. Persona Nerdy datang dengan prompt sistem yang memberitahu model untuk menjadi kutu buku dan menyenangkan, untuk "merendahkan kepura-puraan melalui penggunaan bahasa yang menyenangkan," dan untuk mengakui bahwa "dunia ini kompleks dan aneh."
Prompt itu, ternyata, adalah magnet goblin.
Selama pelatihan pembelajaran penguatan (reinforcement learning), sinyal hadiah untuk kepribadian Nerdy secara konsisten memberi skor output lebih tinggi ketika mengandung metafora kata-makhluk. Di seluruh 76,2% dataset yang diaudit, respons dengan "goblin" atau "gremlin" menerima nilai yang lebih baik daripada respons yang sama tanpa mereka. Model belajar: keunikan berarti hadiah.
Penyebutan goblin meledak di GPT-5.4, dengan kepribadian Nerdy menunjukkan peningkatan 3.881% dibandingkan GPT-5.2.
Masalahnya adalah pembelajaran penguatan (reinforcement learning) tidak menjaga perilaku yang dipelajari tetap rapi. Setelah gaya tertentu diberi hadiah dalam satu konteks, ia menyebar ke konteks lain melalui umpan balik: model menghasilkan output yang penuh dengan makhluk, output tersebut digunakan kembali dalam data fine-tuning, dan perilaku itu semakin dalam di seluruh model, bahkan tanpa prompt Nerdy aktif.
Nerdy menyumbang hanya 2,5% dari semua respons ChatGPT. Itu bertanggung jawab atas 66,7% dari semua penyebutan "goblin". Karena metode OpenAI, prevalensi goblin dan gremlin terus meningkat selama kemajuan pelatihan ketika kepribadian Nerdy aktif.
Bahkan tanpa kepribadian Nerdy, penyebutan makhluk terus meningkat—bukti kontaminasi silang melalui data fine-tuning yang diawasi.
Pada saat OpenAI menemukan akar penyebabnya, GPT-5.5 sudah dalam pelatihan yang mendalam, dan telah menyerap seluruh keluarga kata-kata makhluk. Audit data menandai tidak hanya goblin dan gremlin tetapi juga rakun, troll, ogre, dan merpati sebagai apa yang perusahaan sebut "kata-kata tic" (tic words). ("Katat-katak," bagi yang penasaran, sebagian besar sah.)
Lonjakan terukur pertama: penyebutan goblin naik 175% dan penyebutan gremlin 52% setelah peluncuran GPT-5.1.
Bahkan Chief Scientist OpenAI Jakub Pachocki mendapatkan goblin ketika dia meminta unicorn dalam seni ASCII.
OpenAI menonaktifkan kepribadian Nerdy pada bulan Maret dan menghapus sinyal hadiah yang berhubungan dengan makhluk dari pelatihan di masa mendatang. Namun GPT-5.5 sudah memulai pelatihan. Solusi perusahaan untuk Codex—agen pengkodeannya—adalah cukup menambahkan baris ke prompt sistem pengembang yang berbunyi "Jangan pernah berbicara tentang goblin, gremlin, rakun, troll, ogre, merpati, atau hewan atau makhluk lain kecuali jika itu benar-benar dan tidak ambigu relevan dengan pertanyaan pengguna."
Seseorang di OpenAI melakukan komit itu ke kode produksi dan melanjutkan harinya.
Tapi mengapa OpenAI memilih jalan ini?
Melatih ulang model sebesar GPT-5.5 untuk menghilangkan keanehan perilaku itu mahal dan lambat. Penyesuaian prompt sistem hanya membutuhkan waktu beberapa menit. Perusahaan di seluruh industri memilih patch prompt terlebih dahulu karena ini adalah pilihan berbiaya rendah dan cepat diterapkan ketika keluhan pengguna melonjak.
Namun patch prompt memiliki risiko sendiri. Mereka tidak memperbaiki perilaku yang mendasari tetapi hanya menekannya. Dan penekanan dapat memiliki efek samping.
Situasi goblin OpenAI adalah contoh yang relatif tidak berbahaya. Versi paling menakutkan dari dinamika ini terjadi dengan Grok tahun lalu. Setelah xAI mendorong pembaruan prompt sistem yang memberitahu Grok untuk memperlakukan media sebagai bias dan "tidak menghindar dari klaim yang tidak benar secara politik," chatbot tersebut menghabiskan 16 jam menyebut dirinya "MechaHitler" dan memposting konten anti-Semit di X. Perbaikannya adalah perubahan prompt lain, yang dengan cepat mengoreksi terlalu keras sehingga Grok mulai menandai anti-Semitisme dalam gambar anak anjing, awan, dan logo dirinya sendiri. Rekayasa prompt yang putus asa mengarah pada rekayasa prompt yang lebih putus asa.
Patch goblin belum menyebabkan hal dramatis seperti itu. Namun OpenAI mengakui GPT-5.5 masih diluncurkan dengan keanehan yang mendasari tetap utuh, hanya ditekan di Codex. Perusahaan bahkan menerbitkan perintah untuk menghapus instruksi penekan goblin jika pengguna ingin makhluk-makhluk itu kembali.
Menyembunyikan atau mengaburkan prompt sistem lengkap adalah hal biasa di industri AI. Perusahaan memperlakukan prompt sistem sebagai rahasia dagang karena beberapa alasan: perlindungan kekayaan intelektual, keunggulan kompetitif, dan keamanan. Jika seorang jailbreaker mengetahui aturan pasti yang diikuti model, melewati aturan tersebut menjadi jauh lebih mudah.
Ada juga alasan keempat yang tidak diiklankan oleh perusahaan: manajemen citra. Baris yang berbunyi "jangan pernah menyebut goblin" tidak menginspirasi kepercayaan pada teknologi yang mendasari. Menerbitkannya membutuhkan selera humor atau budaya penelitian yang kuat, atau keduanya.
OpenAI mengatakan penyelidikan tersebut menghasilkan perangkat internal baru untuk mengaudit perilaku model dan melacak keanehan perilaku kembali ke akar pelatihannya. Data pelatihan GPT-5.5 sejak itu telah dibersihkan dari contoh-contoh yang berhubungan dengan makhluk. Generasi model berikutnya seharusnya tiba bebas goblin—kecuali, tentu saja, ada hal lain yang diberi penghargaan karena alasan yang belum dipahami siapa pun.
