Le PDG d'Anthropic, Dario Amodei, a déclaré mercredi que les gouvernements ne peuvent plus considérer la réglementation de l'IA comme un problème à étudier et que les États-Unis ont besoin d'exigences de sécurité contraignantes pour les modèles d'IA les plus puissants.

Dans l'essai, intitulé "Politique sur l'exponentielle de l'IA", Amodei soutient que les exigences de transparence ne sont plus suffisantes et appelle à une réglementation contraignante des systèmes d'IA de pointe.

« L'IA progresse à une vitesse fulgurante – en seulement quatre ans, les modèles d'IA sont passés de la capacité de peine écrire une ligne de code cohérente à l'écriture de la majeure partie du code dans les grandes entreprises d'IA », a écrit Amodei.

L'essai d'Amodei intervient alors qu'Anthropic élargit l'accès à Claude Mythos avec le lancement de Mythos 5 mardi, son modèle d'IA de pointe restreint destiné aux organisations de cybersécurité et aux partenaires gouvernementaux. Des chercheurs, y compris l'Institut de sécurité de l'IA du Royaume-Uni, ont découvert qu'il peut exécuter de manière autonome des cyberattaques complexes.

Selon Amodei, sa proposition s'inspire de la structure réglementaire utilisée par la Federal Aviation Administration (FAA).

« Les modèles d'IA de pointe, comme les avions, devraient être soumis à des tests techniques et à des audits, et leur déploiement devrait être bloqué ou annulé en tant que menace pour la sécurité publique s'ils ne respectent pas des normes de sécurité élevées », a-t-il écrit. « Je suis reconnaissant de voir l'ordonnance exécutive de l'administration Trump progresser progressivement vers un rôle accru du gouvernement dans l'IA, bien que la proposition d'Anthropic recommande des mesures encore plus importantes. »

Selon la proposition d'Amodei, un cadre réglementaire exigerait des tests tiers obligatoires des modèles d'IA avancés, l'autorité gouvernementale de bloquer les déploiements dangereux, et des exigences pour que les entreprises sécurisent les poids des modèles, effectuent des tests de sécurité et signalent les incidents graves. Il appelle également les gouvernements à se préparer au déplacement d'emplois lié à l'IA et aux avancées dans le développement de médicaments, à limiter la surveillance et les armes autonomes dans l'application de la loi nationale, et à renforcer la coopération entre les nations démocratiques sur les technologies d'IA critiques.

« Premièrement, le déplacement durable d'emplois est indésirable et dangereux, et nous devrions faire tout notre possible pour le minimiser ou le prévenir, et non le provoquer », a-t-il écrit, en faisant référence à des cas passés où il a averti du déplacement d'emplois. « Deuxièmement, toute réponse au déplacement d'emplois induit par l'IA doit aborder à la fois la nécessité de pourvoir aux besoins économiques de chacun, et la nécessité pour les gens de trouver un sens, un but et une capacité d'action. »

L'essai est également publié la même semaine qu'Anthropic a lancé Claude Fable 5, une version grand public de Claude Mythos 5, qui redirige certaines requêtes impliquant la cybersécurité, la biologie, la chimie et le développement de l'IA vers le moins capable Claude Opus 4.8 comme mesure de protection contre l'utilisation abusive. Le lancement a suscité des critiques de la part des développeurs et des chercheurs concernant l'utilisation plus élevée de tokens par Fable, les exigences obligatoires de rétention des données pendant 30 jours, et les protections qui peuvent réduire les capacités du modèle sans en informer les utilisateurs.

L'appel d'Amodei à des changements politiques concernant le développement de l'IA intervient également alors qu'Anthropic se prépare à entrer en bourse. Plus tôt ce mois-ci, la société a déposé des documents auprès de la Securities and Exchange Commission (SEC) des États-Unis en vue d'une offre publique initiale, après avoir levé un tour de série H de 65 milliards de dollars à une valorisation rapportée de 965 milliards de dollars.

Alors qu'Amodei a présenté la question comme une course entre le progrès technologique et la politique publique, les critiques ont remis en question si les appels à une réglementation plus stricte de l'IA servent réellement le bien public. En avril, Sam Altman, PDG d'OpenAI, a accusé Anthropic d'utiliser un « marketing basé sur la peur » pour promouvoir Claude Mythos, arguant que les préoccupations concernant l'IA avancée peuvent être utilisées pour justifier la concentration du contrôle de la technologie entre un petit nombre d'entreprises.

« Vous pouvez justifier cela de bien des manières différentes, et une partie est réelle, comme il y aura des préoccupations légitimes en matière de sécurité », a déclaré Altman. « Mais si ce que vous voulez, c'est 'nous avons besoin du contrôle de l'IA, juste nous, parce que nous sommes les personnes dignes de confiance', je pense que le marketing basé sur la peur est probablement le moyen le plus efficace de justifier cela. »

Amodei a rejeté l'idée que les préoccupations concernant l'IA avancée soient principalement un problème de relations publiques, arguant plutôt que les craintes concernant la technologie reflètent des préoccupations légitimes qui doivent être abordées.

« Les gens s'inquiètent de l'IA parce qu'ils perçoivent correctement que ses risques sont réels, non pas parce que les PDG de l'IA ont été insuffisamment Panglossiens », a-t-il déclaré, faisant référence au philosophe fictif Pangloss de Candide de Voltaire, connu pour maintenir un optimisme inébranlable selon lequel tout est pour le mieux, quelles que soient les circonstances.

« Je crois qu'il est de mon devoir, en tant que leader de l'IA, de continuer à être transparent sur ces risques, et la préoccupation du public en réponse à cette transparence constitue la reddition de comptes démocratique fonctionnant comme il se doit », a-t-il déclaré.