CEO OpenAI Sam Altman menepis kekhawatiran yang meningkat atas model AI baru yang kuat dari pesaing Anthropic, Claude Mythos, mengisyaratkan bahwa perusahaan tersebut menggunakan "ketakutan" untuk memasarkan produknya.
Berbicara di podcast Core Memory yang dipandu oleh jurnalis teknologi Ashlee Vance, Altman berpendapat bahwa penggunaan "pemasaran berbasis ketakutan" bertujuan untuk menjaga AI di tangan "sekelompok kecil orang."
“Anda bisa membenarkan itu dengan banyak cara, dan beberapa di antaranya nyata, seperti akan ada kekhawatiran keamanan yang sah," kata Altman.
“Tetapi jika yang Anda inginkan adalah 'kami butuh kendali AI, hanya kami, karena kami adalah orang-orang yang bisa dipercaya', saya pikir pemasaran berbasis ketakutan mungkin adalah cara paling efektif untuk membenarkan itu."
Altman menambahkan bahwa meskipun ada kekhawatiran yang sah tentang keamanan AI, "ini jelas merupakan pemasaran yang luar biasa untuk mengatakan: 'Kami telah membangun bom. Kami akan menjatuhkannya di kepala Anda. Kami akan menjual bunker bom kepada Anda seharga $100 juta. Anda membutuhkannya untuk menjalankan semua barang Anda, tetapi hanya jika kami memilih Anda sebagai pelanggan.'"
Dia mencatat bahwa "tidak selalu mudah" untuk menyeimbangkan kemampuan baru AI dengan keyakinan OpenAI bahwa teknologi tersebut harus dapat diakses.
Model Claude Mythos dari Anthropic, yang diungkapkan bulan lalu, telah menarik perhatian intens dari peneliti, pemerintah, dan industri keamanan siber, terutama setelah pengujian menunjukkan bahwa model tersebut dapat secara otonom mengidentifikasi kerentanan perangkat lunak dan melaksanakan operasi siber yang kompleks. Model ini didistribusikan hanya ke sejumlah organisasi terbatas melalui program yang dibatasi.
Peluncuran ini mencerminkan perpecahan yang lebih luas dalam industri AI mengenai bagaimana sistem yang kuat harus diterapkan, dengan beberapa perusahaan menekankan akses terkontrol dan yang lain berpendapat untuk distribusi yang lebih luas guna mempercepat inovasi dan pemahaman tentang teknologi.
Mythos telah menjadi titik fokus dalam perdebatan itu. Kemampuan model ini telah dibingkai oleh Anthropic sebagai terobosan defensif—memungkinkan deteksi cepat terhadap kelemahan perangkat lunak yang kritis—dan potensi risiko ofensif jika disalahgunakan. Awal bulan ini, model tersebut mengidentifikasi ratusan kerentanan di browser Firefox Mozilla selama pengujian dan juga telah menunjukkan kemampuan untuk melakukan simulasi serangan siber multi-tahap.
Anthropic telah membatasi akses ke sistem melalui Project Glasswing, memberikan perusahaan terpilih termasuk Amazon, Apple, dan Microsoft kemampuan untuk menguji kemampuannya. Perusahaan juga telah berkomitmen sumber daya yang signifikan untuk mendukung upaya keamanan sumber terbuka, berpendapat bahwa pihak pembela harus mendapatkan manfaat dari teknologi sebelum teknologi tersebut tersedia secara lebih luas.
Model ini juga telah mengekspos keterbatasan dalam sistem evaluasi AI yang ada, dengan Anthropic mengakui bahwa banyak tolok ukur keamanan siber saat ini tidak lagi memadai untuk mengukur kemampuan sistem terbarunya.
Meskipun demikian, sekelompok peneliti mengklaim minggu lalu bahwa mereka mampu mereproduksi temuan Mythos menggunakan model yang tersedia untuk umum.
Meskipun ada seruan dari beberapa pihak di pemerintah AS untuk menghentikan penggunaan teknologi tersebut karena kekhawatiran tentang potensi penerapannya dalam perang dan pengawasan, Badan Keamanan Nasional dilaporkan telah mulai menguji versi pratinjau model tersebut pada jaringan rahasia. Di pasar prediksi Myriad, yang dimiliki oleh perusahaan induk Decrypt, Dastan, pengguna menempatkan peluang 49% bahwa Claude Mythos akan dirilis ke publik yang lebih luas pada 30 Juni.
Altman mengisyaratkan bahwa retorika seputar sistem AI yang sangat berbahaya mungkin meningkat seiring dengan peningkatan kemampuan, tetapi berpendapat bahwa tidak semua klaim tersebut harus diterima begitu saja.
“Akan ada lebih banyak retorika tentang model yang terlalu berbahaya untuk dirilis. Akan ada juga model yang sangat berbahaya yang harus dirilis dengan cara yang berbeda,” katanya. “Saya yakin Mythos adalah model yang bagus untuk keamanan siber tetapi saya pikir kami memiliki rencana yang kami rasa baik tentang bagaimana kami menempatkan kemampuan semacam ini di dunia.”
Altman juga menepis anggapan bahwa OpenAI mengurangi belanja infrastrukturnya, mengatakan bahwa perusahaan akan terus memperluas kapasitas komputasinya meskipun narasi bergeser.
“Saya tidak tahu dari mana asalnya… orang-orang benar-benar ingin menulis cerita tentang penarikan diri,” katanya. “Tapi tak lama lagi akan kembali, seperti, ‘OpenAI sangat sembrono. Bagaimana mereka bisa menghabiskan jumlah yang gila ini?’”
