Anthropic telah menempatkan sekitar enam insinyur di dalam National Security Agency (NSA) untuk membantu menerapkan Mythos—model AI-nya yang paling canggih—untuk operasi siber ofensif, demikian dilaporkan Financial Times pada Kamis.
Para insinyur adalah staf yang ditempatkan di depan, menyesuaikan model untuk aplikasi spesifik. Sebuah sumber mengatakan kepada FT bahwa hal itu bisa berguna untuk menyusup ke jaringan di negara-negara seperti Tiongkok dan Iran.
Apakah para insinyur tersebut terlibat dalam operasi aktif tidak dikonfirmasi. Yang jelas: Mythos adalah model yang sama yang ditolak oleh Anthropic untuk dirilis secara publik, dengan alasan risiko penyalahgunaan. Perusahaan membatasinya hanya untuk mitra yang telah disaring melalui Project Glasswing—sebuah koalisi terbatas yang mencakup Microsoft, Apple, dan Amazon.
Anthropic juga menggugat Pentagon. Pada akhir Februari, Menteri Pertahanan Pete Hegseth menetapkan perusahaan tersebut sebagai risiko rantai pasokan—sebuah label yang secara historis diperuntukkan bagi musuh asing seperti Huawei—setelah kontrak senilai $200 juta batal. Pokok permasalahannya: Anthropic menolak mengizinkan DoD menggunakan Claude untuk senjata otonom penuh atau pengawasan massal domestik. Kontrak NSA dikecualikan dari larangan tersebut.
Seorang hakim California memblokir daftar hitam tersebut sebagai pembalasan Amendemen Pertama yang jelas. Pengadilan banding D.C. menolak tawaran Anthropic untuk menghentikannya sementara litigasi berjalan. NSA terus menggunakan Mythos sepanjang waktu, menurut laporan FT.
Cara Menghentikan AI yang Membangun AI
Pada hari yang sama berita NSA tersiar, lembaga penelitian internal Anthropic menerbitkan "When AI Builds Itself," sebuah tinjauan tentang seberapa jauh Claude telah berkembang dalam mengotomatisasi pengembangannya sendiri. Di dalamnya, perusahaan tersebut menganjurkan moratorium global dalam perlombaan senjata AI—dan bahkan menyamakannya dengan perjanjian nuklir era Perang Dingin yang dibuat antara Amerika Serikat dan Rusia.
Untuk memahami alasannya, perusahaan memberikan sedikit konteks ini:
Claude kini menulis lebih dari 80% kode yang digabungkan ke dalam basis kode produksi Anthropic—meningkat dari angka rendah satu digit sebelum Claude Code diluncurkan pada awal 2025. Para insinyur mengirimkan sekitar delapan kali lebih banyak kode per hari dibandingkan tahun 2024.
Para penulis laporan—pemimpin Anthropic Institute Marina Favaro dan salah satu pendiri Jack Clark—berpendapat bahwa lintasan ini mengarah pada apa yang mereka sebut peningkatan diri rekursif (recursive self-improvement): sistem AI yang secara otonom merancang, membangun, dan melatih penerusnya sendiri, dengan manusia memainkan peran yang semakin berkurang di setiap langkah.
Dalam representasi visual, para peneliti menunjukkan garis waktu di mana cara pertama menggunakan AI dalam pekerjaan adalah manusia yang memberikan perintah kepada komputer untuk mendapatkan hasil, dengan otomatisasi yang semakin meningkat berakhir pada Agen AI yang memberikan perintah kepada subagen hingga hasilnya tercapai, tanpa melibatkan manusia.
Poin data paling tajam yang mereka kutip: Pada bulan April, agen Claude diberikan masalah keamanan AI terbuka—apakah model yang lebih lemah dapat mengawasi model yang lebih kuat secara andal—dan dibiarkan berjalan. Dua peneliti manusia selama sekitar seminggu memulihkan 23% dari kesenjangan kinerja antara model-model tersebut. Agen-agen memulihkan 97%, selama lebih dari 800 jam komputasi kumulatif. Manusia menetapkan pertanyaan. Agen-agen merancang setiap eksperimen. Ini adalah kasus pertama yang diterbitkan di mana Claude menggunakan penilaian penelitian, bukan hanya menjalankan tugas yang ditentukan orang lain.
Itulah batas yang dikhawatirkan Anthropic akan dilewati. Begitu AI memilih eksperimen mana yang layak dijalankan—bukan hanya menjalankannya—manusia kehilangan peran berarti terakhir dalam lingkaran pengembangan. Ketidakselarasan kecil yang terlihat pada model saat ini dapat berakumulasi di seluruh generasi yang melakukan peningkatan diri hingga tidak ada yang bisa memperbaikinya.
Solusi yang mereka usulkan adalah jeda global yang dapat diverifikasi—beberapa laboratorium perintis berhenti secara bersamaan, dengan verifikasi independen bahwa semua orang benar-benar berhenti. Anthropic mengatakan akan bergabung. Perlambatan unilateral, mereka akui, hanya akan menyerahkan kepemimpinan kepada siapa pun yang terus melaju.
Kita pernah melihat skenario ini sebelumnya. Laboratorium yang membangun AI adalah yang sama yang memperingatkan betapa berbahayanya AI. Namun, AI adalah bisnis paling menguntungkan dekade ini, jadi tidak ada yang ingin berhenti—bahkan mereka yang memperingatkan tentang AI sekalipun.
Pada tahun 2023, lebih dari seratus nama besar di komunitas peneliti AI menandatangani surat terbuka yang menyerukan upaya global untuk mengurangi risiko kepunahan yang secara inheren dimiliki oleh pengembangan AI. Beberapa bulan sebelumnya, surat terbuka lain menuntut OpenAI menghentikan kemajuan pada ChatGPT karena sifat berbahayanya.
Tidak ada yang berhenti setelah surat terbuka 2023. OpenAI tidak. Anthropic tidak. Tenggat waktu Pentagon untuk menghapus Claude dari sistemnya jatuh pada bulan Agustus, sekitar waktu yang sama IPO Anthropic diperkirakan akan memindahkan keuangannya ke pandangan publik.
