Microsoft heeft een nieuwe open-source toolkit geïntroduceerd, gericht op runtime security, om strengere governance af te dwingen over AI-agents voor bedrijven.
De toolkit is gebouwd rondom runtime security, en pakt zorgen aan dat moderne taalmodellen niet langer beperkt zijn tot adviserende rollen, maar actief code uitvoeren en interageren met interne systemen. Traditionele beveiligingsmaatregelen, zoals statische codecontroles en scans vóór implementatie, hebben moeite om gelijke tred te houden met dit dynamische gedrag.
Eerdere implementaties van AI waren grotendeels gericht op copilots met beperkte, alleen-lezen toegang, waarbij mensen de leiding hadden over de uitvoering. Dat model verandert. Bedrijven integreren nu agent-gebaseerde systemen die in staat zijn om onafhankelijke acties uit te voeren via API's, cloudomgevingen en ontwikkelingspijplijnen.
In dergelijke opstellingen kan een AI-agent een e-mail parseren, een script genereren en dit op een server implementeren zonder menselijke tussenkomst. Een foutieve instructie of prompt-injectie kan leiden tot onbedoelde databasewijzigingen of blootstelling van gevoelige informatie. De nieuwe toolkit pakt dit risico aan door acties te monitoren zodra ze plaatsvinden en in real-time in te grijpen, in plaats van te vertrouwen op vooraf ingestelde controles.
Het systeem richt zich op hoe AI-agents interageren met externe tools. Wanneer een model een actie moet uitvoeren buiten zijn interne verwerking, zoals het opvragen van gegevens uit een bedrijfssysteem, genereert het een commando dat naar die tool is gericht.
Microsoft voegt een beleidshandhavingslaag in tussen het model en het bedrijfsnetwerk. Elk uitgaand verzoek wordt onderschept en geëvalueerd aan de hand van vooraf gedefinieerde governance-regels vóór uitvoering. Als een actie het beleid schendt, bijvoorbeeld een agent die probeert een transactie te initiëren ondanks dat deze beperkt is tot alleen-lezen toegang, wordt het verzoek geblokkeerd en gelogd voor beoordeling.
Die aanpak creëert een controleerbaar spoor van beslissingen, terwijl de noodzaak voor ontwikkelaars om beveiligingsbeperkingen in elke prompt of workflow in te bedden, wordt weggenomen. Governance verschuift van applicatielogica naar infrastructuur-level controles.
Het framework fungeert ook als een buffer voor legacy-systemen, waarvan vele niet waren ontworpen om onvoorspelbare machinaal gegenereerde invoer te verwerken. Door verzoeken te filteren en te valideren voordat ze de kernsystemen bereiken, beperkt het het risico van gecompromitteerd of verkeerd gericht AI-gedrag.
Microsofts besluit om de toolkit als open source uit te brengen, sluit aan bij de huidige ontwikkelingspraktijken. Teams die AI-workflows bouwen, vertrouwen vaak op een mix van tools en modellen van derden. Een eigen oplossing zou kunnen worden omzeild ten gunste van snellere alternatieven. Open beschikbaarheid maakt het mogelijk dat de controles integreren in diverse omgevingen, inclusief systemen die modellen van concurrenten zoals Anthropic gebruiken.
Het opent ook de deur voor cybersecuritybedrijven om extra monitoring- en responsie-lagen bovenop het framework te bouwen, wat helpt bij het vaststellen van een gemeenschappelijke basis voor het beveiligen van AI-gestuurde operaties.
Beveiliging is slechts één deel van de uitdaging. Autonome agents introduceren ook financiële en operationele risico's, met name door ongecontroleerd API-gebruik.
Deze systemen werken in continue lussen, waarbij herhaalde oproepen naar externe services worden gedaan. Zonder limieten kan zelfs een eenvoudige taak duizenden zoekopdrachten naar betaalde databases of API's teweegbrengen, waardoor de kosten snel oplopen. In extreme gevallen kunnen verkeerd geconfigureerde agents in recursieve cycli terechtkomen die in korte tijd grote hoeveelheden computerbronnen verbruiken.
De toolkit stelt organisaties in staat om strikte grenzen te definiëren voor het tokengebruik en de frequentie van verzoeken. Door te controleren hoe vaak een agent binnen een bepaalde periode kan handelen, kunnen bedrijven de uitgaven beter beheren en op hol geslagen processen voorkomen.
Runtime-toezicht ondersteunt ook nalevingsvereisten door meetbare controles en duidelijke auditlogs te bieden. De verantwoordelijkheid verschuift van modelaanbieders naar de systemen die beslissingen uitvoeren in real-world omgevingen.
Het uitrollen van dergelijke governance-frameworks zal coördinatie vereisen tussen engineering-, juridische en beveiligingsteams. Naarmate AI-systemen meer autonome rollen op zich nemen, wordt de infrastructuur die hun gedrag beheert, cruciaal voor veilige implementatie.
De release komt naast voortdurende investeringen in AI-infrastructuur. Microsoft heeft onlangs plannen geschetst om de komende vier jaar $10 miljard te investeren in Japan, gericht op datacenters en ondersteunende systemen.
De aankondiging volgde op gesprekken tussen Microsoft President Brad Smith en de Japanse premier Sanae Takaichi in Tokio. Smith beschreef de investering als een "reactie op de groeiende behoefte van Japan aan cloud- en AI-diensten."
Het bedrijf werkt samen met SoftBank Group en Sakura Internet om de binnenlandse infrastructuur uit te breiden. De nieuwste toezegging bouwt voort op een plan van $2,9 miljard dat in 2024 werd aangekondigd en gericht was op het versterken van AI-capaciteiten en cyberbeveiligingsresistentie in het land.
