Andy Konwinski, cofondateur de Perplexity AI et Databricks, estime que la conversation sur la sécurité de l'IA a un problème : elle est utilisée pour concentrer le pouvoir, et non pour prévenir les dommages. Plus tôt cette semaine, il a publié un essai pour étayer son argumentation, avec Anthropic comme témoin clé.

L'affaire qu'il construit commence par une décision qu'Anthropic a annulée en 48 heures. Quand Anthropic a lancé Claude Fable 5 le 9 juin, un paragraphe enfoui dans sa carte système de 319 pages révélait que le modèle dégraderait silencieusement ses propres réponses pour toute personne qu'il soupçonnerait d'entraîner une IA concurrente.

Les chercheurs l'ont découvert. L'internet ne l'a pas bien pris.

Anthropic a fait marche arrière, mais pour Konwinski, cela ne fait aucune différence lors de l'analyse de la situation dans son ensemble. "Le problème n'est pas qu'Anthropic ait pris une mauvaise décision," a-t-il écrit. "Le problème est qu'ils ont supposé que la décision leur appartenait."

Son essai, intitulé "La concentration du pouvoir en IA est un risque, pas une solution", a fait suite à Open Frontier, une réunion de travail qu'il a organisée via son organisation à but non lucratif Laude Institute à l'Exploratorium de San Francisco le 30 juin. Environ 100 chercheurs y ont participé.

Jennifer Chayes, doyenne de l'UC Berkeley et responsable du College of Computing, Data Science, and Society, a déclaré lors d'un panel de financement que les chercheurs de Berkeley "construisent tous sur des modèles chinois parce que nous n'avons pas de modèle open frontier occidental"—et que les messages de sécurité d'OpenAI et d'Anthropic avant leurs introductions en bourse équivalaient à une "campagne de peur très efficace."

L'argument de Konwinski est que la centralisation de l'accès ne neutralise pas le risque ; elle en crée un autre. L'IA est une infrastructure fondamentale—de la même catégorie que les chemins de fer, l'électricité et l'internet. Ces technologies ont réorganisé la société autour de ceux qui contrôlaient la couche sous-jacente. Il en sera de même pour l'IA. Son alternative : un "research commons" avec une puissance de calcul à l'échelle de la frontière qui permet aux meilleurs chercheurs d'atteindre la frontière sans avoir besoin de la permission d'un laboratoire privé pour le faire.

LeCun : C'est l'Empire ottoman qui interdit l'imprimerie

Yann LeCun, ancien scientifique en chef de Meta, a répondu à l'essai de Konwinski sur X sans ambiguïté. "Je diffuse un message similaire depuis des années", a-t-il répondu au post de Konwinski. "La concentration du pouvoir dans l'IA et le désir de contrôle sont de loin le plus grand danger de l'IA."

Il avait également une comparaison historique prête. "C'est une sorte d'obscurantisme médiéval comparable à l'Empire ottoman interdisant l'utilisation de l'imprimerie pendant 200 ans, en partie pour garder le contrôle du dogme, mais aussi pour protéger la corporation des calligraphes et des scribes", a écrit LeCun.

La prédiction de LeCun quant à la conclusion de cela : "L'infrastructure veut être ouverte. Les modèles de fondation deviennent une infrastructure et seront inévitablement banalisés. À long terme, l'argent se trouve dans la couche d'application."

LeCun a quitté Meta fin 2025 et a lancé AMI Labs à Paris avec 1,03 milliard de dollars de financement initial en mars 2026—sa propre réponse à la question. L'entreprise fonctionne sur des modèles mondiaux et son architecture JEPA, prévoit d'ouvrir sa recherche, et n'a pas de produit commercial attendu avant des années.