Sebuah investigasi baru yang diterbitkan berpendapat bahwa pemerintah federal terburu-buru mengadopsi kecerdasan buatan dengan cara yang sama seperti mereka terburu-buru mengadopsi komputasi awan satu dekade lalu, dan dengan kerentanan struktural yang sama yang masih ada.
Renee Dudley dari ProPublica menerbitkan investigasi pada 6 April yang berpendapat bahwa ketika pemerintahan Trump mendorong lembaga-lembaga federal untuk dengan cepat mengadopsi AI dari perusahaan teknologi besar, mereka mengulangi pola yang mengganggu transisi Washington ke komputasi awan, di mana kecepatan mengalahkan keamanan, pengawasan didanai secara minim, dan pemerintah akhirnya menjadi sangat bergantung pada kontraktor yang tidak memiliki banyak pengaruh.
Gedung Putih telah memposisikan AI sebagai keharusan kompetitif nasional. Lembaga-lembaga kini dapat mengakses ChatGPT dari OpenAI seharga $1, Gemini dari Google seharga 47 sen per pengguna, dan Grok dari xAI seharga 42 sen. Pembingkaian ini, tulis Dudley, sangat mirip dengan bahasa yang digunakan ketika pemerintahan Obama menyatakan komputasi awan sebagai prioritas transformasional di awal tahun 2010-an.
Pelajaran satu: Tidak ada makan siang gratis. Investigasi ProPublica menemukan bahwa janji Microsoft pada tahun 2021 untuk memberikan layanan keamanan senilai $150 juta kepada pemerintah federal, dalam praktiknya, adalah mekanisme penguncian (lock-in). Setelah lembaga-lembaga mengadopsi peningkatan gratis, beralih ke pesaing akan mahal dan mengganggu. “Ini berhasil melampaui apa yang bisa kita bayangkan,” kata seorang mantan tenaga penjualan Microsoft kepada ProPublica. Seperti yang dilaporkan crypto.news, Microsoft dan OpenAI sejak itu berselisih mengenai persyaratan kemitraan AI mereka sendiri, sebuah sinyal betapa sulitnya kontrak AI perusahaan teknologi besar bahkan di antara pihak-pihak yang terlibat.
Pelajaran dua: Program pengawasan memerlukan sumber daya yang sebenarnya. Program Manajemen Risiko dan Otorisasi Federal, yang dikenal sebagai FedRAMP, dibentuk pada tahun 2011 untuk meninjau layanan komputasi awan sebelum lembaga-lembaga federal diizinkan menggunakannya. ProPublica menemukan bahwa lembaga tersebut melemahkan FedRAMP selama lima tahun untuk mendapatkan persetujuan produk komputasi awan utama meskipun ada keberatan serius terkait keamanan siber. Itu sebelum DOGE. FedRAMP kini menyatakan bahwa mereka beroperasi “dengan staf pendukung minimal” dan “layanan pelanggan terbatas.” Seorang juru bicara GSA membela program tersebut, mengatakan bahwa ia “beroperasi dengan mekanisme pengawasan dan akuntabilitas yang diperkuat,” tetapi mantan karyawan mengatakan kepada ProPublica bahwa ia berfungsi sebagai stempel karet.
Pelajaran tiga: Tinjauan independen hanya sebatas independen. Seiring menyusutnya kapasitas internal FedRAMP, perusahaan audit pihak ketiga telah mengambil alih lebih banyak fungsi peninjauan. Perusahaan-perusahaan tersebut dibayar oleh perusahaan komputasi awan yang sama yang mereka nilai. Lembaga-lembaga, yang sering kekurangan staf, tidak memiliki kapasitas untuk melakukan tinjauan menyeluruh mereka sendiri dan sebagian besar mengandalkan peringkat tersebut. Seperti yang dicatat crypto.news, kekhawatiran yang lebih luas di kalangan pengamat adalah bahwa pemerintah secara konsisten lebih lambat dalam mengatur teknologi transformatif daripada perusahaan yang menerapkannya.
GSA telah mengakui bahwa “biaya penggunaan AI dapat meningkat dengan cepat tanpa pemantauan dan kontrol manajemen yang tepat” dan telah menasihati lembaga-lembaga untuk menetapkan batas penggunaan dan meninjau laporan konsumsi. Namun masalah struktural yang mendasari tetap ada: badan pengawasan yang kekurangan dana, tinjauan yang bergantung pada vendor, dan lembaga-lembaga yang memiliki sedikit pengaruh setelah adopsi menjadi mengakar.
Kesimpulan Dudley sangat tajam: “Implikasi dari pengurangan ini terhadap keamanan siber federal sangat luas” karena lembaga-lembaga mengambil alih alat AI yang memproses data pemerintah yang sensitif di bawah kerangka pengawasan yang sama-sama lemah yang kesulitan mengelola komputasi awan.
