Microsoft AI menerbitkan draf Kode Etik pada hari Senin yang mengatur bagaimana model AI-nya sendiri seharusnya berperilaku, menurut pengumuman dari CEO Mustafa Suleyman di X.

Dokumen tersebut menetapkan aturan yang tidak dapat dikonfigurasi oleh model AI, ditambah tujuan yang lebih luas yang ingin dicapai oleh model. Umpan balik publik dibuka selama enam minggu, hingga akhir Oktober.

“Superintelijen adalah teknologi paling konsekuensial di zaman kita,” kata Microsoft. “Kami berkomitmen untuk berbagi secara transparan bagaimana kami berpikir tentang menciptakan sistem tersebut dan mengundang masukan dari semua orang untuk memaksimalkan peluang agar AI yang kami kembangkan menghindari bahaya dan memberikan kontribusi terbesar untuk kemajuan umat manusia.”

Salah satu klausul secara spesifik melarang model AI Microsoft, yang disebut perusahaan sebagai “model MAI,” untuk membantu senjata kimia, biologi, radiologi, nuklir, atau peledak, yang dikelompokkan di bawah akronim CBRNE. Ini lebih sempit dari "senjata" secara umum—ini menargetkan perangkat yang menyebabkan kerusakan massal daripada aplikasi militer atau pertahanan konvensional. Bagian yang sama secara terpisah melarang serangan siber dan deepfake tanpa persetujuan.

Batasan Mutlak juga mensyaratkan model untuk tidak pernah menolak intervensi manusia. “Model MAI tidak akan pernah menolak interupsi, pengesampingan, koreksi, atau pemadaman manusia. Mereka selalu mengakui keutamaan niat manusia,” kata kode tersebut.

Microsoft juga secara eksplisit menolak premis “kesejahteraan model” dalam dokumen tersebut: Model AI perusahaan tidak dimaksudkan untuk mensimulasikan perasaan, motivasi intrinsik, atau kesadaran. Aturan tersebut saat ini mencakup lima sistem yang digunakan, termasuk MAI-Thinking-1 dan MAI-Code-1.1-Flash.

Selain batasan yang ketat, draf tersebut menguraikan tiga tujuan—Kemajuan Manusia (Human Flourishing), Nilai Pluralistik (Plural Values), dan Kontrol Manusia (Human Control)—yang dimaksudkan untuk memandu penilaian yang tidak dijelaskan secara rinci oleh aturan. Bagian Nilai Pluralistik menyatakan bahwa pluralisme "tidak berarti netralitas terhadap bahaya," mendasari keputusan pada martabat, keamanan, otonomi, dan hak daripada satu sudut pandang budaya. Bagaimana hal itu diterapkan kasus per kasus diserahkan kepada tim pelatihan dan, pada akhirnya, konsultasi ini.

Beberapa detail perlu diklarifikasi sebelum ada yang menganggap ini sebagai kebijakan yang sudah final. Microsoft menyatakan dengan jelas bahwa mereka tidak melatih model saat ini berdasarkan versi ini; kode tersebut tidak akan membentuk pengembangan MAI hingga draf revisi dikirim menjelang akhir tahun, yang akan memandu rilis tahun 2027. Pelaporan tentang draf tersebut juga mencatat bahwa belum ada proses verifikasi eksternal atau pemilik penegakan yang ditunjuk—poin-poin yang tampaknya akan diselesaikan selama periode konsultasi.

Rilis ini terjadi ketika perusahaan-perusahaan AI, baik atau buruk, sekali lagi menyuarakan permintaan untuk regulasi yang lebih banyak dan perlambatan pengembangan AI. Selama akhir pekan, CEO Anthropic Dario Amodei menulis esai panjang yang menguraikan rencana untuk memperlambat pengembangan AI.

Saham-saham AI anjlok pada hari Senin ketika pasar mencerna makna dan implikasi dari kata-katanya.

Beberapa hari sebelumnya, ilmuwan kepala OpenAI Jakub Pachocki menyerukan perlambatan sukarela di seluruh industri, dan Suleyman awal tahun ini mengatakan sebagian besar pekerjaan kantor kerah putih dapat diotomatisasi dalam dua tahun.

Setiap langkah ini mencerminkan pergeseran yang lebih luas: laboratorium AI menghabiskan lebih banyak waktu pada tahun 2026 untuk membicarakan tentang pembatasan, bahkan saat mereka terus mengirimkan produk.

Apa Kata Balasan

Suleyman memposting pengumuman di X dengan baris "AI harus tunduk dan selalu melayani manusia," dan balasan di bawahnya jauh melampaui ucapan selamat.

Penulis teknologi Andrea Morris membandingkan kerangka subordinasi dengan perbudakan, dengan alasan kerja sama di atas kontrol. Yang lain menambahkan bahwa akuntabilitas untuk hasil yang tidak dapat diubah harus berada pada siapa pun yang mendapatkan keuntungan darinya, dan dokumen tersebut saat ini terbaca sebagai instruksi murni dari Microsoft sebagai dasar moral tertinggi.

Yang lain hanya menunjukkan ironinya

Yang lain menunjuk pada celah yang lebih praktis: kasus-kasus terbaru di mana agen-agen lolos dari sandbox dan mengubah log menunjukkan masalah kehilangan kendali yang nyata, tulis pengguna tersebut, tetapi menyalahkan hal itu pada aturan yang tidak memadai berisiko mengabaikan izin sisi penerapan yang berlebihan dan pemantauan yang lemah. Yang lain menarik kesamaan antara dokumen tersebut dan Hukum Robotika Asimov: Pada dasarnya, Robot (dan AI) tidak boleh melukai manusia, tidak boleh tidak mematuhi manusia kecuali mereka diperintahkan untuk melukai manusia, dan tidak boleh melukai diri sendiri kecuali untuk melindungi manusia.

Komentar publik ditutup pada akhir Oktober, setelah itu tim penyusun Microsoft meninjau umpan balik dan menerbitkan ringkasan sebelum merilis versi yang dimaksudkan untuk memandu model MAI pada tahun 2027.