Microsoft telah memperkenalkan perangkat lunak sumber terbuka baru yang berfokus pada keamanan runtime untuk menegakkan tata kelola yang lebih ketat atas agen AI perusahaan.
Toolkit ini dibangun di sekitar keamanan runtime, mengatasi kekhawatiran bahwa model bahasa modern tidak lagi terbatas pada peran penasihat tetapi secara aktif mengeksekusi kode dan berinteraksi dengan sistem internal. Pengamanan tradisional seperti pemeriksaan kode statis dan pemindaian pra-deployment kesulitan mengikuti perilaku dinamis ini.
Penerapan AI sebelumnya sebagian besar berfokus pada co-pilot dengan akses terbatas, hanya-baca, menjaga manusia sebagai penanggung jawab eksekusi. Model itu kini berubah. Perusahaan kini mengintegrasikan sistem keagenan yang mampu mengambil tindakan independen di seluruh API, lingkungan cloud, dan pipeline pengembangan.
Dalam pengaturan tersebut, agen AI dapat menganalisis email, membuat skrip, dan menerapkannya ke server tanpa campur tangan manusia. Satu instruksi yang cacat atau injeksi prompt dapat menyebabkan perubahan database yang tidak disengaja atau terpaparnya informasi sensitif. Toolkit baru ini mengatasi risiko tersebut dengan memantau tindakan saat terjadi dan campur tangan secara real-time daripada mengandalkan kontrol yang telah ditetapkan sebelumnya.
Sistem ini berfokus pada bagaimana agen AI berinteraksi dengan alat eksternal. Ketika sebuah model perlu melakukan tindakan di luar pemrosesan internalnya, seperti mengkueri sistem perusahaan, ia menghasilkan perintah yang diarahkan ke alat tersebut.
Microsoft menyisipkan lapisan penegakan kebijakan antara model dan jaringan korporat. Setiap permintaan keluar dicegat dan dievaluasi terhadap aturan tata kelola yang telah ditentukan sebelum dieksekusi. Jika suatu tindakan melanggar kebijakan, misalnya agen mencoba memulai transaksi meskipun terbatas pada akses hanya-baca, permintaan akan diblokir dan dicatat untuk ditinjau.
Pendekatan itu menciptakan jejak keputusan yang dapat diaudit seraya menghilangkan kebutuhan bagi pengembang untuk menanamkan batasan keamanan ke dalam setiap prompt atau alur kerja. Tata kelola bergeser dari logika aplikasi ke kontrol tingkat infrastruktur.
Kerangka kerja ini juga bertindak sebagai penyangga untuk sistem lama, banyak di antaranya tidak dirancang untuk menangani input yang tidak terduga yang dihasilkan mesin. Dengan memfilter dan memvalidasi permintaan sebelum mencapai sistem inti, ia membatasi risiko yang ditimbulkan oleh perilaku AI yang disusupi atau salah arah.
Keputusan Microsoft untuk merilis toolkit sebagai sumber terbuka selaras dengan praktik pengembangan saat ini. Tim yang membangun alur kerja AI seringkali mengandalkan campuran alat dan model pihak ketiga. Solusi proprietary dapat diabaikan demi alternatif yang lebih cepat. Ketersediaan terbuka memungkinkan kontrol untuk berintegrasi di berbagai lingkungan, termasuk sistem yang menggunakan model dari pesaing seperti Anthropic.
Ini juga membuka peluang bagi perusahaan keamanan siber untuk membangun lapisan pemantauan dan respons tambahan di atas kerangka kerja, membantu membangun dasar bersama untuk mengamankan operasi yang didorong AI.
Keamanan hanyalah satu bagian dari tantangan. Agen otonom juga memperkenalkan risiko finansial dan operasional, khususnya melalui penggunaan API yang tidak terkontrol.
Sistem ini beroperasi dalam lingkaran berkelanjutan, melakukan panggilan berulang ke layanan eksternal. Tanpa batas, bahkan tugas sederhana dapat memicu ribuan kueri ke database atau API berbayar, meningkatkan biaya dengan cepat. Dalam kasus ekstrem, agen yang salah konfigurasi dapat memasuki siklus rekursif yang menghabiskan sumber daya komputasi dalam jumlah besar dalam waktu singkat.
Toolkit ini memungkinkan organisasi untuk menentukan batasan ketat pada penggunaan token dan frekuensi permintaan. Dengan mengontrol seberapa sering agen dapat bertindak dalam periode tertentu, perusahaan dapat mengelola pengeluaran dengan lebih baik dan mencegah proses yang tak terkendali.
Pengawasan runtime juga mendukung persyaratan kepatuhan dengan menyediakan kontrol yang terukur dan log audit yang jelas. Tanggung jawab bergeser dari penyedia model ke sistem yang mengeksekusi keputusan di lingkungan dunia nyata.
Menerapkan kerangka kerja tata kelola seperti itu akan membutuhkan koordinasi antara tim teknik, hukum, dan keamanan. Karena sistem AI mengambil peran yang lebih otonom, infrastruktur yang mengelola perilakunya menjadi pusat untuk penerapan yang aman.
Perilisan ini bersamaan dengan investasi berkelanjutan dalam infrastruktur AI. Microsoft baru-baru ini menguraikan rencana untuk mengalokasikan $10 miliar di Jepang selama empat tahun ke depan, berfokus pada pusat data dan sistem pendukung.
Pengumuman itu menyusul pembicaraan antara Presiden Microsoft Brad Smith dan Perdana Menteri Jepang Sanae Takaichi di Tokyo. Smith menggambarkan investasi tersebut sebagai "respons terhadap kebutuhan Jepang yang berkembang akan layanan cloud dan AI."
Perusahaan ini bekerja dengan SoftBank Group dan Sakura Internet untuk memperluas infrastruktur domestik. Komitmen terbaru ini dibangun di atas rencana $2,9 miliar yang diumumkan pada tahun 2024 yang bertujuan untuk memperkuat kemampuan AI dan ketahanan keamanan siber di negara tersebut.
