OpenAI dan Anthropic bekerja sama di Washington untuk membentuk sistem tinjauan federal bagi model AI canggih, meskipun mereka bersaing untuk pelanggan, pendanaan, dan kepemimpinan teknologi.
OpenAI dan Anthropic mendesak pemerintahan Trump untuk mengadopsi proses tinjauan yang konsisten untuk model AI dengan kemampuan keamanan siber atau keamanan nasional canggih, menurut The Information.
Kerja sama mereka muncul sebelum tenggat waktu 1 Agustus bagi badan-badan federal untuk mendefinisikan sistem mana yang harus memenuhi syarat sebagai “model perbatasan yang tercakup.” Model-model tersebut dapat diberikan kepada pemerintah untuk evaluasi hingga 30 hari sebelum dirilis kepada mitra terpercaya lainnya.
Kedua perusahaan dilaporkan ingin standar tersebut diterapkan di seluruh industri AI daripada terbatas pada pengembang yang sudah bekerja sama dengan Washington. Hal itu dapat membawa perusahaan pesaing, termasuk Meta dan xAI milik Elon Musk, di bawah kerangka tinjauan yang sama jika model mereka melampaui ambang batas kemampuan yang akan ditetapkan.
Diskusi tersebut menandai keselarasan kebijakan yang langka antara OpenAI dan Anthropic. Kedua perusahaan menjual sistem AI serbaguna dan bersaing untuk kontrak perusahaan, peneliti, kapasitas komputasi, dan investasi.
Tidak ada perusahaan yang secara terbuka merilis persyaratan lengkap yang ingin mereka sertakan dalam kerangka kerja akhir.
Presiden Donald Trump memerintahkan badan-badan federal untuk menetapkan proses benchmarking rahasia melalui Executive Order 14409 pada 2 Juni.
Perintah tersebut mengarahkan National Security Agency, Cybersecurity and Infrastructure Security Agency, Treasury Department, dan badan-badan federal lainnya untuk menentukan kapan suatu model AI memiliki kemampuan yang cukup kuat untuk memerlukan tinjauan tambahan.
Pengembang yang berpartisipasi dalam kerangka kerja akan dapat bertanya kepada pemerintah apakah suatu model memenuhi ambang batas model perbatasan yang tercakup. Mereka kemudian dapat memberikan akses kepada evaluator federal hingga 30 hari sebelum membuat sistem tersebut tersedia untuk mitra lain yang disetujui.
Perintah tersebut mensyaratkan perlindungan untuk kekayaan intelektual, informasi rahasia, keamanan siber, dan ancaman orang dalam selama evaluasi.
Namun, secara tegas dinyatakan bahwa proses tersebut tidak dapat menciptakan lisensi federal wajib, praklarifikasi, atau aturan perizinan untuk mengembangkan atau merilis model AI. Oleh karena itu, perusahaan akan berpartisipasi secara sukarela kecuali undang-undang terpisah atau kekuatan pemerintah berlaku.
Kerangka kerja bersama dapat memberikan standar yang lebih jelas bagi pengembang AS untuk memutuskan kapan pengujian pemerintah diharapkan. Pertanyaan tetap ada mengenai tolok ukur teknis mana yang akan memicu tinjauan, agensi mana yang akan menguji setiap sistem, dan bagaimana pejabat akan menyetujui mitra akses awal.
Ketidakpastian tersebut telah memengaruhi peluncuran baru-baru ini. OpenAI dan Anthropic memberikan akses awal kepada pejabat pemerintah untuk model-model canggih sebelum distribusi yang lebih luas, tetapi peneliti eksternal memiliki visibilitas terbatas terhadap evaluasi.
Sebuah laporan bulan Juli menemukan bahwa agensi, tes, dan persyaratan persetujuan yang terlibat dalam tinjauan tersebut masih belum jelas. Kurangnya proses yang dipublikasikan dapat membuat perencanaan perilisan lebih sulit bagi pengembang dan membuat perusahaan AI yang lebih kecil tidak yakin apakah standar yang sama berlaku untuk mereka.
Penerapan satu ambang batas berbasis kemampuan untuk OpenAI, Anthropic, Meta, xAI, dan pengembang lainnya dapat mengurangi sebagian ketidakpastian tersebut. Ini juga dapat membatasi kekhawatiran bahwa Washington memberikan perlakuan berbeda kepada perusahaan-perusahaan tertentu.
Seruan OpenAI dan Anthropic untuk proses tinjauan bersama muncul ketika perusahaan teknologi lain memperingatkan Washington agar tidak menerapkan kontrol luas pada model AI open-weight.
Seperti yang dilaporkan crypto.news minggu lalu, Nvidia, Meta, dan Microsoft bergabung dengan 22 organisasi lain dalam surat terbuka yang berpendapat bahwa pembatasan menyeluruh dapat melemahkan kepemimpinan AS seiring dengan intensifnya persaingan dengan Tiongkok. IBM, Palantir, Mistral, Hugging Face, Mozilla, Andreessen Horowitz, dan Linux Foundation juga menandatangani surat tersebut.
Kelompok tersebut menyerukan langkah-langkah hukum dan komersial yang ditargetkan terhadap penyalahgunaan, bukan pembatasan yang mencakup teknologi dengan aplikasi penelitian dan bisnis yang sah.
Model open-weight memungkinkan perusahaan, peneliti, dan pemerintah untuk mengunduh perangkat lunak, memodifikasinya, dan menjalankannya di infrastruktur mereka sendiri. Para pendukung mengatakan ini memberikan pengguna kontrol yang lebih besar atas data, keamanan, dan sistem komputasi mereka sambil menurunkan biaya penyebaran.
Para penandatangan tidak menganggap model terbuka dan tertutup sebagai hal yang saling eksklusif. Sebaliknya, mereka berpendapat bahwa kedua pendekatan tersebut diperlukan untuk mendukung persaingan dan memberikan pengembang cara yang berbeda untuk membangun dan menyebarkan sistem AI.
CEO Nvidia Jensen Huang membagikan surat tersebut dalam postingan pertamanya di X dan membela peran kedua model pengembangan.
"Dunia membutuhkan model tertutup perbatasan dan model terbuka perbatasan."
Elon Musk juga mendukung surat tersebut dalam balasan kepada Huang, meskipun perusahaan AI-nya, xAI, tidak terdaftar di antara 25 penandatangan yang dilaporkan.
Kedua upaya tersebut membahas bagian yang berbeda dari debat kebijakan. OpenAI dan Anthropic mencari evaluasi federal yang konsisten untuk model yang melampaui ambang batas kemampuan keamanan nasional, sementara surat terbuka berpendapat menentang pembatasan yang sebagian besar didasarkan pada apakah suatu model menyediakan bobotnya.
Badan-badan federal kini memiliki waktu hingga 1 Agustus untuk mendefinisikan ambang batas model perbatasan dan menguraikan proses tinjauan sukarela. Kerangka kerja akhir akan menunjukkan apakah Washington berfokus pada kemampuan yang terukur atau menerapkan kondisi yang lebih luas berdasarkan bagaimana model AI didistribusikan.
