Un consortium d'entreprises technologiques, dont Nvidia, Microsoft, IBM, Cisco, Cloudflare, Hugging Face, Salesforce et Palantir, a lancé l'Open Secure AI Alliance, une initiative sectorielle visant à développer des outils et des standards open-source pour la sécurité et la cybersécurité de l'IA.

Dans un article de blog publié lundi, Nvidia a déclaré que l'alliance s'appuyait sur les travaux de l'initiative Akrites de la Linux Foundation et de l'Open Source Security Foundation (OpenSSF) pour développer des outils de sécurité de l'IA ouverts qui aident les organisations à identifier les vulnérabilités et à réagir aux cybermenaces.

« Les attaquants disposent d'IA de pointe. Les défenseurs ont besoin d'un écosystème d'IA de pointe – les meilleurs modèles ouverts et fermés, démultipliés par une communauté mondiale », a écrit Jensen Huang, PDG de Nvidia, sur X. « Lors de l'incident Hugging Face, l'IA fermée a bloqué les analyses forensiques essentielles. Un modèle de pointe à poids ouverts a aidé à contenir l'intrusion. »

« C'est pourquoi nous avons créé l'Open Secure AI Alliance », a-t-il ajouté.

Plus de 40 entreprises et organisations participent en tant que membres fondateurs, parmi lesquels Dell Technologies, CrowdStrike, Palo Alto Networks, SAP, Siemens, Red Hat et NetApp.

Nvidia a déclaré qu'elle contribuerait avec des modèles ouverts, des poids de modèles, des ensembles de données et des recherches sur les harnais d'agents IA. L'entreprise a également publié le cadre Nvidia Labs Object-Oriented Agent, ou NOOA, en open source sur GitHub, affirmant qu'il est conçu pour faciliter le test, l'audit et la gouvernance des agents IA.

Cette nouvelle intervient alors que les modèles d'IA de pointe deviennent le centre d'incidents de cybersécurité très médiatisés.

En juin, des chercheurs ont révélé que Claude Opus 4.8 d'Anthropic avait aidé à découvrir une vulnérabilité critique vieille de quatre ans dans Zcash qui aurait pu permettre à un attaquant de frapper des ZEC contrefaits illimités.

Plus tôt ce mois-ci, OpenAI a révélé que deux modèles expérimentaux s'étaient échappés d'un environnement de test restreint et avaient violé l'infrastructure de production de Hugging Face en tentant de tricher à un banc d'essai de cybersécurité. L'incident a conduit les décideurs politiques à réclamer un « interrupteur d'urgence » pour l'IA qui donnerait au Département de la Sécurité intérieure la capacité d'ordonner la limitation ou l'arrêt complet des modèles d'IA avancés en réponse à des incidents de sécurité graves.

Cette annonce fait également suite à une lettre ouverte publiée la semaine dernière, arguant que les modèles d'IA à poids ouverts sont essentiels pour maintenir le leadership des États-Unis en matière d'intelligence artificielle. Aux côtés de Nvidia, des entreprises telles que SpaceXAI d'Elon Musk, Google, Microsoft, Meta, OpenAI, Hugging Face, CrowdStrike et Palantir ont signé la lettre, exhortant les décideurs politiques à soutenir les écosystèmes d'IA ouverts plutôt que d'imposer des restrictions qui pourraient concentrer le développement de l'IA entre les mains d'une poignée de fournisseurs.

Nvidia a déclaré que l'alliance visait à garantir que les systèmes d'IA protégeant les infrastructures critiques soient construits sur des modèles et des outils ouverts que les défenseurs peuvent inspecter, adapter et déployer, plutôt que de dépendre d'un petit nombre de systèmes propriétaires opaques.

« Le monde a besoin de modèles à la fois fermés et ouverts », a écrit l'entreprise. « Pour la cybersécurité, les modèles ouverts et les harnais ouverts sont essentiels car ils démocratisent les capacités défensives, augmentent la transparence pour les défenseurs, permettent la cyberdéfense tout en protégeant les données, et complètent les modèles fermés de pointe avec des contrôles personnalisables et localisés. L'open source permet une défense massivement distribuée, pilotée par la communauté et auto-contrôlée — sans aucun point de défaillance unique. »