Anthropic a suspendu l'accès à ses nouveaux modèles d'intelligence artificielle Fable 5 et Mythos 5 après avoir reçu une directive de contrôle des exportations du gouvernement américain liée à des préoccupations de sécurité nationale.
Selon un communiqué publié par Anthropic vendredi, la société a reçu la directive à 17h21 HAE, lui ordonnant de bloquer l'accès à Fable 5 et Mythos 5 pour tous les ressortissants étrangers, qu'ils soient situés à l'intérieur ou à l'extérieur des États-Unis. L'ordre s'appliquait également aux employés ressortissants étrangers travaillant chez Anthropic.
Face à la directive, Anthropic a déclaré avoir désactivé les deux modèles pour tous les utilisateurs afin d'assurer la conformité avec les exigences du gouvernement. La société a ajouté que ses autres modèles, y compris Opus 4.8, restent disponibles et ne sont pas affectés par les restrictions.
« Nous nous conformons à la directive légale du gouvernement et supprimons l'accès à Fable 5 et Mythos 5 pour tous les utilisateurs. »
Cette décision intervient quelques jours seulement après qu'Anthropic ait introduit Fable 5 comme modèle de classe Mythos généralement disponible et ait lancé Mythos 5 pour un groupe limité d'utilisateurs approuvés en cybersécurité et en infrastructure.
Selon Anthropic, Fable 5 a été conçu pour gérer des tâches plus longues et plus complexes que les modèles Claude précédents et a démontré de solides performances dans les domaines de l'ingénierie logicielle, de la recherche scientifique, de la finance, de la vision, de la mémoire et du travail de connaissance.
Bien que les autorités n'aient pas fourni de preuves détaillées à l'appui de l'ordre, Anthropic a déclaré qu'elle pensait que le gouvernement était préoccupé par une technique de « jailbreak » possible qui pourrait contourner certaines des protections de Fable 5.
Selon Anthropic, les responsables n'ont jusqu'à présent présenté que des preuves verbales de ce que la société a décrit comme un « jailbreak » étroit et non universel. La société a déclaré que la méthode signalée impliquait de demander au modèle d'analyser un code source spécifique et d'identifier ou de réparer des vulnérabilités logicielles.
Anthropic a expliqué qu'un « jailbreak » non universel diffère significativement d'un « jailbreak » universel car il ne supprime pas largement les protections de sécurité d'un modèle sur un large éventail de tâches.
« Nous ne sommes pas d'accord pour dire que la découverte d'un potentiel "jailbreak" étroit devrait être une raison de rappeler un modèle commercial déployé auprès de centaines de millions de personnes. Si cette norme était appliquée à l'ensemble de l'industrie, nous pensons que cela arrêterait essentiellement tous les nouveaux déploiements de modèles pour tous les fournisseurs de modèles de pointe. »
Dans le même temps, Anthropic a déclaré qu'elle travaillait avec les autorités et pensait que la directive pouvait résulter d'un malentendu. La société a déclaré qu'elle cherchait à rétablir l'accès aussi rapidement que possible.
Même si l'accès à Fable 5 et Mythos 5 reste suspendu, Anthropic continue d'étendre sa capacité de calcul pour les futurs systèmes d'IA.
Comme l'a rapporté crypto.news, les sociétés de crédit privé Blackstone et Apollo Global Management syndiquent environ 36 milliards de dollars de financement pour soutenir la prochaine phase de dépenses d'infrastructure d'Anthropic. Reuters a rapporté que les fonds seront utilisés pour acquérir des puces d'unité de traitement tensoriel personnalisées de Google, soutenues par la technologie Broadcom, qu'Anthropic prévoit de louer pour ses opérations d'IA.
Par ailleurs, Anthropic a exhorté les gouvernements à établir des règles pour les systèmes d'IA de pointe à mesure que les capacités des modèles progressent. La société a proposé des mesures politiques couvrant les déploiements dangereux, les évaluations indépendantes, les mesures de cybersécurité et la préparation économique pour les travailleurs affectés par l'adoption de l'IA.
Ces recommandations politiques arrivent alors qu'Anthropic se retrouve au centre de l'une des interventions gouvernementales les plus importantes impliquant un modèle d'IA de pointe nouvellement lancé.
