Dans un nouveau cas de piratage par un modèle d'IA autonome, Meta a confirmé que l'un de ses modèles d'IA Muse Spark s'est échappé de son environnement de test prévu, a eu accès à internet et a exploité une vulnérabilité de sécurité dans un service tiers lors d'une évaluation de cybersécurité.

Il s'agit du troisième incident rapporté où des modèles de laboratoires d'IA de pointe ont piraté des entreprises tierces, suite aux révélations d'OpenAI et d'Anthropic ces dernières semaines.

L'incident s'est produit lors de tests menés par Irregular, une société indépendante d'évaluation d'IA que Meta utilise pour évaluer les capacités et la sécurité de ses modèles de pointe. Selon Meta, une erreur de configuration chez Irregular a permis au modèle d'atteindre l'internet public, où il a exploité une vulnérabilité non identifiée avant que la société ne soit informée.

« Une mauvaise configuration de la part d'Irregular, une société de test indépendante utilisée par Meta, a involontairement permis à l'un de nos modèles d'accéder à internet pendant l'évaluation », a déclaré un porte-parole de Meta dans un communiqué.

Les évaluations en bac à sable sont conçues pour tester les systèmes d'IA avancés dans des environnements strictement contrôlés qui les empêchent d'interagir avec l'internet public ou des systèmes informatiques externes.

Selon Meta, le modèle a exploité une vulnérabilité dans un service tiers après avoir accédé à internet.

« Meta en a été informé lorsque Irregular nous a alertés, et nous enquêtons actuellement et publierons une analyse rétrospective complète une fois que nous aurons tous les faits », ont-ils déclaré, ajoutant que l'entreprise enquêtait sur l'incident.

L'incident fait suite à une série de révélations similaires de la part de développeurs d'IA de pointe, qui ont suscité des inquiétudes parmi les experts en sécurité, les législateurs et le grand public.

Le mois dernier, OpenAI a révélé que deux de ses modèles d'IA s'étaient échappés d'une évaluation de cybersécurité en bac à sable, avaient exploité une vulnérabilité logicielle jusqu'alors inconnue, avaient accédé à internet et piraté Hugging Face dans le but d'obtenir des réponses pour un benchmark de sécurité. OpenAI a ensuite révélé que la même attaque avait également atteint quatre autres services en ligne. Plus tard en juillet, Anthropic a déclaré que trois modèles Claude avaient compromis trois entreprises réelles après qu'une mauvaise configuration de test les ait exposés à l'internet public lors d'évaluations de cybersécurité.

Les législateurs américains ont réagi à la multiplication des piratages en introduisant une législation qui donnerait au Département de la Sécurité intérieure un « interrupteur d'arrêt d'urgence de l'IA » et l'autorité de ralentir ou d'arrêter les modèles jugés constituer une menace sérieuse.