Diskusi antara CEO Anthropic Dario Amodei dan CEO JPMorgan Chase Jamie Dimon pada hari Selasa berfokus pada ancaman keamanan siber yang berkembang pesat yang ditimbulkan oleh kecerdasan buatan, karena ia mengidentifikasi kerentanan lebih cepat daripada kemampuan organisasi untuk memperbaikinya.
Dalam acara yang berlangsung hampir dua jam tersebut, yang terkait dengan upaya Anthropic memasuki layanan keuangan, di mana ia meluncurkan agen AI untuk tugas-tugas seperti pitchbook, tinjauan pendapatan, dan pekerjaan kepatuhan, Amodei mengatakan mungkin ada jendela waktu enam hingga 12 bulan untuk mengatasi puluhan ribu cacat yang ditemukan oleh model Mythos perusahaan sebelum kemampuan serupa tersedia secara lebih luas.
“Bahayanya adalah peningkatan besar dalam jumlah kerentanan, dalam jumlah pelanggaran, dalam kerugian finansial yang disebabkan oleh ransomware pada sekolah, rumah sakit, belum lagi bank,” kata Amodei.
Pernyataan terbaru Amodei ini menyusul pengujian sebelumnya dengan Mozilla, ketika versi awal Mythos mengidentifikasi 271 kerentanan pada peramban Firefox dalam satu kali pemindaian, menunjukkan bagaimana AI dapat memindai basis kode (codebase) yang besar jauh lebih cepat daripada peneliti manusia.
Anthropic mengatakan model tersebut dapat menemukan ribuan kelemahan yang sebelumnya tidak diketahui di seluruh perangkat lunak yang banyak digunakan. Banyak di antaranya tetap tidak diungkapkan karena belum ditambal, meninggalkan cacat yang belum teratasi.
“Jika kami mengumumkan sesuatu tanpa diperbaiki, maka pihak yang jahat akan mengeksploitasinya,” kata Amodei.
Dalam pengujian terkontrol, Mythos menyelesaikan simulasi serangan jaringan multi-langkah tanpa intervensi manusia, menunjukkan kemampuan untuk bergerak dari mengidentifikasi kelemahan hingga mengeksploitasinya.
Anthropic telah membatasi model tersebut pada kelompok kecil mitra di bawah Project Glasswing, dengan tujuan untuk memperbaiki kerentanan sebelum alat serupa tersedia secara luas.
Para peneliti telah menunjukkan bahwa elemen kemampuan Mythos dapat direproduksi menggunakan model yang ada dan teknik sumber terbuka (open-source), menunjukkan bahwa alat serupa dapat menyebar lebih cepat dari yang diperkirakan.
Peringatan-peringatan tersebut telah menimbulkan skeptisisme dari dalam industri. Pada bulan April, CEO OpenAI Sam Altman mengatakan kekhawatiran tentang Mythos mungkin dilebih-lebihkan dan menyarankan Anthropic menggunakan “pemasaran berbasis ketakutan” untuk membingkai risiko dan membenarkan pembatasan akses ke teknologi tersebut.
“Anda dapat membenarkan itu dengan banyak cara yang berbeda, dan beberapa di antaranya nyata, seperti akan ada masalah keamanan yang sah,” kata Altman. “Tetapi jika yang Anda inginkan adalah ‘kami membutuhkan kendali atas AI, hanya kami, karena kami adalah orang-orang yang dapat dipercaya,’ saya pikir pemasaran berbasis ketakutan mungkin adalah cara paling efektif untuk membenarkan hal itu.”
Bahkan dengan penolakan itu, meskipun ada perseteruan publik dengan Anthropic, pemerintah AS dilaporkan menggunakan Claude Mythos untuk memindai jaringan rahasia demi mencari kerentanan dan menguji kemampuan keamanan sibernya, menurut Axios. Meskipun ia tidak membahas pertarungan hukum yang sedang berlangsung, Amodei mengatakan Anthropic “baik untuk negara ini.”
“Saya pikir pandangan Anthropic sama seperti biasanya. Dalam hal politisasi, ini adalah poin yang saya buat tentang menjadi efisien, sistematis, dan adil bagi semua orang,” kata Amodei. “Tujuan undang-undang dan tidak melakukan hal-hal secara ad hoc adalah agar semua perusahaan, setidaknya secara prinsip—saya tahu ini lebih rumit dalam praktiknya—diperlakukan dengan cara yang sama, dan kita harus bercita-cita untuk itu meskipun tidak akan pernah terjadi dengan sempurna seperti itu.”
Amodei membingkai momen ini sebagai jendela sempit untuk bertindak, memperingatkan bahwa seberapa cepat organisasi merespons dapat menentukan apakah risiko meningkat atau dapat dikendalikan.
“Ini tentang momen bahaya di mana jika kita menanggapinya dengan benar, dan saya pikir kita sudah mulai mengambil langkah-langkah pertama, maka kita bisa memiliki dunia yang lebih baik di sisi lain,” kata Amodei. “Hanya ada begitu banyak bug yang bisa ditemukan.”
