Microsoft a introdus un nou set de instrumente open-source, axat pe securitatea la execuție, pentru a impune o guvernanță mai strictă asupra agenților AI de întreprindere.
Setul de instrumente este construit în jurul securității la execuție (runtime security), abordând preocupările conform cărora modelele lingvistice moderne nu se mai limitează la roluri consultative, ci execută în mod activ cod și interacționează cu sistemele interne. Măsurile de siguranță tradiționale, cum ar fi verificările statice de cod și scanările înainte de implementare, se confruntă cu dificultăți în a ține pasul cu aceste comportamente dinamice.
Implementările anterioare ale AI s-au concentrat în mare parte pe copiloți cu acces restricționat, doar în citire, menținând oamenii responsabili de execuție. Acest model se schimbă. Companiile integrează acum sisteme agentive capabile să întreprindă acțiuni independente prin API-uri, medii cloud și pipeline-uri de dezvoltare.
În astfel de configurații, un agent AI ar putea analiza un e-mail, genera un script și îl ar putea implementa pe un server fără intervenție umană. O instrucțiune defectuoasă sau o injectare de prompt ar putea duce la modificări neintenționate ale bazei de date sau la expunerea informațiilor sensibile. Noul set de instrumente abordează acest risc prin monitorizarea acțiunilor pe măsură ce acestea se întâmplă și prin intervenția în timp real, în loc să se bazeze pe controale predefinite.
Sistemul se concentrează pe modul în care agenții AI interacționează cu instrumentele externe. Atunci când un model trebuie să efectueze o acțiune dincolo de procesarea sa internă, cum ar fi interogarea unui sistem de întreprindere, acesta generează o comandă direcționată către acel instrument.
Microsoft inserează un strat de aplicare a politicilor între model și rețeaua corporativă. Fiecare solicitare de ieșire este interceptată și evaluată conform regulilor de guvernanță predefinite înainte de execuție. Dacă o acțiune încalcă politica, de exemplu un agent care încearcă să inițieze o tranzacție, deși este limitat la acces doar în citire, solicitarea este blocată și înregistrată pentru revizuire.
Această abordare creează o pistă auditabilă a deciziilor, eliminând în același timp necesitatea ca dezvoltatorii să integreze constrângeri de securitate în fiecare prompt sau flux de lucru. Guvernanța se mută de la logica aplicației la controale la nivel de infrastructură.
Cadrul acționează, de asemenea, ca un tampon pentru sistemele vechi (legacy), multe dintre ele nefiind proiectate să gestioneze intrări imprevizibile generate de mașină. Prin filtrarea și validarea solicitărilor înainte ca acestea să ajungă la sistemele centrale, se limitează riscul reprezentat de comportamentul AI compromis sau greșit direcționat.
Decizia Microsoft de a lansa setul de instrumente ca open source se aliniază practicilor actuale de dezvoltare. Echipele care construiesc fluxuri de lucru AI se bazează adesea pe un amestec de instrumente și modele de la terți. O soluție proprietară ar putea fi ocolită în favoarea unor alternative mai rapide. Disponibilitatea deschisă permite controalelor să se integreze în medii variate, inclusiv în sisteme care utilizează modele de la concurenți precum Anthropic.
De asemenea, deschide ușa firmelor de securitate cibernetică pentru a construi straturi suplimentare de monitorizare și răspuns deasupra cadrului, contribuind la stabilirea unei baze comune pentru securizarea operațiunilor bazate pe AI.
Securitatea este doar o parte a provocării. Agenții autonomi introduc, de asemenea, riscuri financiare și operaționale, în special prin utilizarea necontrolată a API-urilor.
Aceste sisteme operează în bucle continue, efectuând apeluri repetate către servicii externe. Fără limite, chiar și o sarcină simplă ar putea declanșa mii de interogări către baze de date sau API-uri plătite, crescând rapid costurile. În cazuri extreme, agenții configurați greșit pot intra în cicluri recursive care consumă cantități mari de resurse de calcul într-un timp scurt.
Setul de instrumente permite organizațiilor să definească limite stricte privind utilizarea tokenurilor și frecvența solicitărilor. Prin controlul frecvenței cu care un agent poate acționa într-o anumită perioadă, companiile pot gestiona mai bine cheltuielile și pot preveni procesele necontrolate.
Supravegherea la execuție (runtime oversight) sprijină, de asemenea, cerințele de conformitate prin furnizarea de controale măsurabile și jurnale de audit clare. Responsabilitatea se mută de la furnizorii de modele către sistemele care execută deciziile în medii reale.
Implementarea unor astfel de cadre de guvernanță va necesita coordonare între echipele de inginerie, juridice și de securitate. Pe măsură ce sistemele AI își asumă roluri mai autonome, infrastructura care le gestionează comportamentul devine esențială pentru implementarea sigură.
Lansarea vine alături de investițiile continue în infrastructura AI. Microsoft a prezentat recent planuri de a angaja 10 miliarde de dolari în Japonia în următorii patru ani, concentrându-se pe centre de date și sisteme de suport.
Anunțul a urmat discuțiilor dintre Președintele Microsoft, Brad Smith, și Prim-ministrul Japoniei, Sanae Takaichi, la Tokyo. Smith a descris investiția ca fiind un „răspuns la nevoia crescândă a Japoniei de servicii cloud și AI”.
Compania colaborează cu SoftBank Group și Sakura Internet pentru a extinde infrastructura internă. Cel mai recent angajament se bazează pe un plan de 2,9 miliarde de dolari anunțat în 2024, având ca scop consolidarea capabilităților AI și a rezilienței cibernetice în țară.
