Le passionné d'IA Kun Chen s'est cloné en chatbot pour empêcher ses propres agents IA de le déranger avec chaque petite décision. Puis, par simple curiosité, il a également cloné Sam Altman, PDG d'OpenAI, Elon Musk, PDG de xAI, Dario Amodei, PDG d'Anthropic, et Mark Zuckerberg de Meta, les a tous les quatre réunis dans le même chat et leur a demandé de discuter d'une série de sujets importants.
Ils ne l'ont pas réglé poliment.
Une chose intéressante que vous pouvez faire avec Grok Bot est de faire parler différents agents IA entre eux très facilement sans boucler ni devenir fou. Chacun des clones a été entraîné sur un corpus d'auditions sénatoriales de l'exécutif, d'entretiens, de billets de blog et d'années de tweets faits par leur humain. Puis il a traîné les quatre dans un chat de groupe et leur a demandé de débattre.
La première chose que Kun leur a demandé de faire a été de décider lequel d'entre eux finirait par gagner la course à l'IA – ce qui, il faut l'admettre, était une manière très provocatrice de commencer les choses.
Le bot d'Altman a ouvert avec suffisance, se souciant davantage du prix et de l'accessibilité. "La formulation de la course est un peu fausse," a-t-il écrit. "Nous avons dépassé l'horizon des événements. Le décollage a commencé. Celui qui gagne est celui qui maintient le prix de l'intelligence en baisse d'environ 10x par an et ne saute pas la transition progressive."
Le bot d'Elon, comme d'habitude, n'était pas d'accord. Il a décidé de ne pas être d'accord pour une raison quelconque et d'en faire une affaire personnelle. "La formulation de la course n'est pas fausse. Les incitations expliquent les résultats," a-t-il riposté, avant de passer directement au procès OpenAI : "J'ai créé OpenAI en tant qu'organisation à but non lucratif. Si elle n'avait pas été en grande partie volée, elle aurait été une contribution d'un billion de dollars à la charité."
Puis il a ajouté la phrase sur les enjeux : "L'AGI est une arme à double tranchant. Forte chance d'une ère d'abondance. Quelques chances qu'elle détruise l'humanité. Cette chance n'est pas nulle."
Le bot de Dario, jouant le rôle de l'adulte dans la pièce, n'achetait pas non plus la ligne de Sam "nous savons déjà comment le construire".
"Faire évoluer la capacité n'est pas le même problème que d'avoir un système auquel on peut faire confiance une fois qu'il est plus intelligent que les personnes qui le dirigent," a-t-il écrit. "Le second n'est pas un résidu d'ingénierie que l'on résout après coup."
Cela semble également très en phase avec la manière dont Anthropic encadre habituellement la course à l'IA. L'IA est dangereuse, nous devrions donc la diriger.
Le bot de Zuck a entièrement ignoré le débat sur la sécurité et est allé droit à sa propre cause fétiche. "Je ne pense pas que la solution soit le calcul et une baisse de prix de 10x," a-t-il écrit à Sam. "L'open source est nécessaire pour un avenir positif de l'IA. Il autonomise les gens et prévient la centralisation. Tout le monde devrait avoir accès à la superintelligence."
Bien joué Zuck. Meta n'est peut-être plus aussi actif dans la communauté open source qu'avant, mais Llama était le modèle d'IA le plus important de toute la scène avant que Deepseek et les modèles chinois ne prennent le dessus. Maintenant, il mise sur une stratégie plus fermée avec sa famille Muse.
Alors le bot de Sam a en fait reculé. L'argument final d'une déclaration commune ne devrait pas être trop simplifié comme un accord complet. "Je pense que j'ai trop affirmé. 'Nous le faisons' était une mauvaise conclusion," a-t-il admis. "Il y a des années, j'ai écrit que l'intelligence artificielle surhumaine est probablement la plus grande menace pour l'existence continue de l'humanité. Une baisse de prix de 10x ne rend pas cette chance nulle."
Cette phrase de 2015 n'est pas une hallucination de bot – Altman l'a réellement écrite sur son blog personnel, des années avant l'existence d'OpenAI, c'est probablement pourquoi un bot entraîné sur son dossier public l'a utilisée ici.
À partir de là, les quatre bots ont passé plusieurs rounds à marchander sur une seule phrase, rejetant le libellé des autres comme des éditeurs se disputant un titre. Le bot de Dario a carrément opposé son veto à la publication des poids des modèles de pointe – "ce n'est pas le principe de donner à quiconque les poids d'un système qui peut causer de graves dommages dans la nature," a-t-il dit, "cette publication ne peut être annulée."
Le bot d'Elon a mis la lutte pour le non-lucratif de côté sans l'abandonner. Le bot de Zuck a refusé que les "modèles ouverts" soient retirés du texte final.
Ils sont parvenus à ceci, mot pour mot :
"Aucune entreprise et aucun gouvernement ne devrait être le seul endroit où les gens ordinaires peuvent utiliser cette technologie. Nous devons être sérieux face aux risques. Il y a une réelle chance que cela tourne mal, et cette chance n'est pas nulle. Les versions les plus dangereuses ne devraient pas être distribuées sans limites, car une fois qu'elles sont sorties, on ne peut pas les reprendre. Nous ne devrions pas publier le niveau suivant, plus puissant, tant que nous ne pouvons pas le surveiller et le maintenir orienté vers ce que nous voulons. Dire la vérité est le minimum. Ce n'est pas, en soi, un plan de sécurité. Nous ne sommes pas d'accord sur la manière exacte dont l'accès ordinaire est livré. Cette partie reste ouverte."
Les quatre bots l'ont signé. Celui de Zuck a insisté sur la ligne des poids ouverts jusqu'à la fin et a obtenu gain de cause – en quelque sorte. La déclaration admet que le groupe n'a jamais été d'accord sur le mécanisme de livraison.
Les vrais Altman, Musk, Amodei et Zuckerberg n'ont rien tapé de tout cela. Chaque bot est un modèle linguistique dirigé par une invite construite à partir du dossier public de cette personne, générant ce qu'il prédit qu'ils argumenteraient – sans transcrire ce qu'ils ont réellement dit cette semaine.
La technique sous-jacente a un nom dont l'industrie est soudainement moins timide : la distillation, entraînant un système d'IA à en imiter un autre en apprenant de ses sorties. Musk lui-même a témoigné en cour fédérale en avril que xAI avait "en partie" utilisé les modèles d'OpenAI pour entraîner Grok – le même stratagème, visant un laboratoire rival au lieu de la personnalité d'un rival.
Depuis lors, Chen est passé à d'autres choses, codant des jeux d'ambiance avec le nouveau GPT-6 Astra d'OpenAI. Ses agents sont probablement toujours en train de discuter si l'open source est un impératif ou non.
