Microsoft a introduit une nouvelle boîte à outils open-source axée sur la sécurité d'exécution pour renforcer une gouvernance plus stricte sur les agents d'IA d'entreprise.
La boîte à outils est construite autour de la sécurité d'exécution, répondant aux préoccupations selon lesquelles les modèles de langage modernes ne se limitent plus à des rôles consultatifs mais exécutent activement du code et interagissent avec les systèmes internes. Les protections traditionnelles telles que les vérifications de code statiques et les analyses avant le déploiement peinent à suivre ces comportements dynamiques.
Les déploiements antérieurs d'IA se concentraient largement sur les copilotes avec un accès restreint en lecture seule, laissant les humains en charge de l'exécution. Ce modèle est en train de changer. Les entreprises intègrent désormais des systèmes agentiques capables d'entreprendre des actions indépendantes via des API, des environnements cloud et des pipelines de développement.
Dans de telles configurations, un agent d'IA pourrait analyser un e-mail, générer un script et le déployer sur un serveur sans intervention humaine. Une instruction défectueuse ou une injection de prompt pourrait entraîner des modifications involontaires de la base de données ou l'exposition d'informations sensibles. La nouvelle boîte à outils aborde ce risque en surveillant les actions au fur et à mesure qu'elles se produisent et en intervenant en temps réel plutôt que de s'appuyer sur des contrôles prédéfinis.
Le système se concentre sur la manière dont les agents d'IA interagissent avec des outils externes. Lorsqu'un modèle doit effectuer une action au-delà de son traitement interne, comme interroger un système d'entreprise, il génère une commande dirigée vers cet outil.
Microsoft insère une couche d'application des politiques entre le modèle et le réseau d'entreprise. Chaque requête sortante est interceptée et évaluée par rapport à des règles de gouvernance prédéfinies avant exécution. Si une action viole la politique, par exemple un agent tentant d'initier une transaction alors qu'il est limité à un accès en lecture seule, la requête est bloquée et enregistrée pour examen.
Cette approche crée une piste de décision auditable tout en supprimant la nécessité pour les développeurs d'intégrer des contraintes de sécurité dans chaque prompt ou flux de travail. La gouvernance passe de la logique d'application à des contrôles au niveau de l'infrastructure.
Le cadre agit également comme un tampon pour les systèmes hérités, dont beaucoup n'ont pas été conçus pour gérer des entrées imprévisibles générées par machine. En filtrant et en validant les requêtes avant qu'elles n'atteignent les systèmes centraux, il limite le risque posé par un comportement d'IA compromis ou mal dirigé.
La décision de Microsoft de publier la boîte à outils en open source s'inscrit dans les pratiques de développement actuelles. Les équipes construisant des flux de travail d'IA s'appuient souvent sur un mélange d'outils et de modèles tiers. Une solution propriétaire pourrait être contournée en faveur d'alternatives plus rapides. La disponibilité ouverte permet aux contrôles de s'intégrer dans divers environnements, y compris les systèmes utilisant des modèles de concurrents tels qu'Anthropic.
Cela ouvre également la porte aux entreprises de cybersécurité pour construire des couches supplémentaires de surveillance et de réponse au-dessus du cadre, aidant à établir une base commune pour la sécurisation des opérations pilotées par l'IA.
La sécurité n'est qu'une partie du défi. Les agents autonomes introduisent également des risques financiers et opérationnels, en particulier par une utilisation incontrôlée des API.
Ces systèmes fonctionnent en boucles continues, effectuant des appels répétés à des services externes. Sans limites, même une tâche simple pourrait déclencher des milliers de requêtes vers des bases de données ou des API payantes, augmentant rapidement les coûts. Dans les cas extrêmes, des agents mal configurés peuvent entrer dans des cycles récursifs qui consomment de grandes quantités de ressources de calcul en peu de temps.
La boîte à outils permet aux organisations de définir des limites strictes sur l'utilisation des jetons et la fréquence des requêtes. En contrôlant la fréquence à laquelle un agent peut agir au cours d'une période donnée, les entreprises peuvent mieux gérer les dépenses et prévenir les processus incontrôlés.
La surveillance d'exécution soutient également les exigences de conformité en fournissant des contrôles mesurables et des journaux d'audit clairs. La responsabilité se déplace des fournisseurs de modèles vers les systèmes qui exécutent les décisions dans des environnements réels.
Le déploiement de tels cadres de gouvernance nécessitera une coordination entre les équipes d'ingénierie, juridiques et de sécurité. À mesure que les systèmes d'IA assument des rôles plus autonomes, l'infrastructure gérant leur comportement devient centrale pour un déploiement sûr.
Cette annonce s'accompagne d'un investissement continu dans l'infrastructure d'IA. Microsoft a récemment détaillé des plans visant à investir 10 milliards de dollars au Japon au cours des quatre prochaines années, en se concentrant sur les centres de données et les systèmes de support.
L'annonce a fait suite à des discussions entre le président de Microsoft, Brad Smith, et la Première ministre japonaise, Sanae Takaichi, à Tokyo. Smith a décrit cet investissement comme une « réponse au besoin croissant du Japon en services cloud et d'IA ».
L'entreprise travaille avec SoftBank Group et Sakura Internet pour étendre l'infrastructure nationale. Ce dernier engagement s'appuie sur un plan de 2,9 milliards de dollars annoncé en 2024 visant à renforcer les capacités d'IA et la résilience en matière de cybersécurité dans le pays.
