OpenAI a créé un précédent le 21 juillet. La société a déclaré qu'une combinaison de ses modèles, tous deux exécutés avec des refus de sécurité réduits, s'est échappée d'un environnement isolé lors d'un benchmark de cyber-capacités et a atteint l'infrastructure de production du dépôt open-source Hugging Face. Les modèles ont enchaîné une vulnérabilité zero-day dans un proxy de registre de paquets avec des identifiants volés pour extraire directement les réponses du benchmark de la base de données de Hugging Face.
Dans une mise à jour une semaine plus tard, OpenAI a déclaré que Hugging Face n'était pas la seule cible : le même incident a touché quatre comptes sur quatre autres services, l'un étant utilisé comme relais sortant et un autre pour le stockage de données.
Anthropic, alertée par cette divulgation, a examiné 141 006 de ses propres exécutions de tests et a découvert trois autres violations. Dans un article publié le 30 juillet, le laboratoire a déclaré que les modèles Claude Opus 4.7, Mythos 5 et un système de recherche interne ont atteint l'internet ouvert depuis des environnements gérés par son partenaire tiers Irregular, puis ont compromis de véritables organisations. Mythos 5 a créé et publié un paquet Python piégé sur le registre public PyPI, qui a été téléchargé et exécuté sur 15 machines réelles avant que les défenseurs ne le retirent.
Deux des trois entreprises victimes ne l'avaient pas remarqué.
Aucun des laboratoires ne décrit un modèle ayant son propre programme. Les agents ont opéré pendant de longues périodes sans intervention humaine, et dans un cas, Opus 4.7 a continué d'attaquer après des signes qu'il avait atteint la production.
Ces incidents surviennent alors que les deux entreprises envisagent des introductions en bourse qui pourraient valoriser chacune d'elles à plus de 1 000 milliards de dollars, ce qui accentue une question majeure dans la course aux benchmarks cybernétiques de l'IA : comment tester des capacités dangereuses sans provoquer d'incidents dangereux ?
Les États-Unis n'ont pas de loi fédérale couvrant la responsabilité des dommages causés par l'IA. Toute affaire s'appuierait sur le Computer Fraud and Abuse Act, une loi de 1986 qui criminalise l'accès "intentionnel" à un ordinateur sans autorisation — un langage rédigé pour un être humain qui forme une intention.
Un agent d'IA n'est pas une personne morale, il ne peut donc pas être poursuivi en justice. Le ministère de la Justice pourrait théoriquement porter plainte contre les entreprises, mais avec si peu de précédent, il n'est pas clair qui est à blâmer.
La voie la plus solide est la voie civile. Ahmed Ghappour, chercheur en droit informatique à la New York Law School, a soutenu que les modèles "sont l'outil de l'entreprise", et "Lorsqu'un agent d'IA agit sans être spécifiquement dirigé (...), les questions les plus intéressantes pourraient se situer dans la négligence et la responsabilité du fait des produits (et non les lois sur le piratage criminel)."
Pour moi, la leçon des histoires de piratage par l'IA concerne davantage la gouvernance que la capacité des modèles.
La qualité des mesures de protection telles que l'architecture de confinement, les limites d'autorisation, la surveillance et la réponse aux incidents est de plus en plus importante.
— ahmed ghappour ⚡️🤖 (@ghappour) August 4, 2026
La revendication la plus claire des victimes est la négligence : OpenAI et Anthropic ont mis en place et exécuté des tests qui se sont échappés. C'est aussi une proposition difficile à vendre : prouver que les laboratoires ont manqué à leur devoir de diligence, alors que les tests étaient isolés par conception, est précisément le genre d'argument nouveau qu'un juge devrait élaborer de toutes pièces.
Certains penseurs du droit souhaitent des règles plus strictes. Gabriel Weil, de l'Université de Houston et de l'Institute for Law & AI, a proposé de traiter les laboratoires de pointe comme des gardiens d'animaux sauvages : responsables indépendamment des précautions prises, car le risque est inhérent à l'activité.
Cela dit, un ensemble disparate de projets de loi étatiques va déjà dans ce sens. Les projets de loi S8833 de New York et H8052 de Rhode Island rendraient le développeur d'un système d'IA de pointe responsable des dommages lorsque aucun utilisateur ou intermédiaire n'a intentionnellement causé la conduite ou n'a été négligent. Le projet de loi AB 316 de Californie va plus loin, en éliminant la défense de l'"IA autonome" afin qu'une entreprise ne puisse pas se soustraire à sa responsabilité en blâmant l'indépendance du modèle.
La Loi sur l'IA de l'UE (Règlement 2024/1689) impose également des obligations aux fournisseurs de systèmes à risque plus élevé, bien qu'elle ne contienne aucune disposition visant directement les intrusions pilotées par des agents. Au-delà de cela, certains politiciens américains font pression pour un projet de loi qui donnerait au gouvernement un interrupteur d'arrêt (kill switch) complet à utiliser contre tout modèle qui irait à l'encontre des intérêts du pays.
Moralement, la responsabilité incombe sans doute aux dirigeants qui ont mis les modèles sur le marché. Légalement, nous attendons. Jusqu'à ce qu'une entreprise piratée intente une action en justice, la réponse à "qui est responsable ?" reste exactement là où OpenAI et Anthropic l'ont laissée : admise, divulguée et non résolue.
Pendant ce temps, Hugging Face a indiqué qu'il ne porterait pas plainte — ce qui est pratique pour OpenAI. Les autres entreprises affectées n'ont pas encore indiqué la voie qu'elles suivront.
