Le co-fondateur de Solana, Anatoly Yakovenko, a remis en question les motivations financières derrière une proposition de ralentissement de l'IA soutenue par Dario Amodei, Sam Altman et Elon Musk le 13 septembre.
Le message X de Yakovenko a réduit sa réponse à quatre mots : « Rentabilité à 1 billion de dollars de capitalisation boursière. » Il n'a pas identifié l'entreprise à laquelle le chiffre faisait référence ni fourni de calculs de revenus, de valorisation ou de rentabilité étayant son commentaire.
La remarque répondait à un débat lancé par le PDG d'Anthropic, Dario Amodei, qui a publié un essai appelant à des avancées plus lentes dans l'intelligence artificielle de pointe. Sam Altman, PDG d'OpenAI, a approuvé une partie de la proposition, tandis que Musk a écrit que « Dario a raison », selon Reuters.
Le commentaire de Yakovenko a présenté la rentabilité comme un motif possible de ralentissement du développement des modèles, mais le co-fondateur de Solana a formulé l'idée comme une observation sarcastique. Son message ne contenait aucune preuve qu'Anthropic, OpenAI ou xAI avaient coordonné leurs déclarations pour des raisons financières.
Aucune entreprise citée n'a confirmé que son soutien à un développement plus lent dépendait d'atteindre une valorisation de 1 billion de dollars. La proposition d'Amodei cite plutôt les échecs de contrôle des modèles, les cyber-risques et la vitesse à laquelle les systèmes d'IA contribuent à créer de nouveaux systèmes.
Reuters a rapporté qu'Anthropic et OpenAI se préparaient à d'éventuelles introductions en bourse. Le rapport décrivait les incitations financières entourant le développement des modèles, mais n'établissait pas que l'une ou l'autre des entreprises avait atteint une capitalisation boursière de 1 billion de dollars ou avait conditionné sa rentabilité à cette valorisation.
Étant donné que les entreprises restent privées, les références à la capitalisation boursière ne peuvent décrire que des estimations basées sur des transactions privées ou des cotations proposées. Yakovenko n'a pas expliqué si son chiffre faisait référence à Anthropic, OpenAI, xAI ou au secteur de l'IA de pointe collectivement.
Sa déclaration représente donc un commentaire personnel, et non une projection financière divulguée par Solana Labs, Anthropic, OpenAI ou xAI. Aucune déclaration de la Fondation Solana n'a lié le réseau blockchain ou son jeton SOL au différend sur la politique de l'IA.
Dans son essai « Nous devons réguler le rythme de la frontière », Amodei a déclaré que les développeurs devraient ralentir le rythme auquel ils améliorent les capacités des modèles. Il a distingué la régulation du rythme de l'arrêt de la formation des modèles ou de la fin de la recherche technique.
« Nous devons ralentir le rythme auquel nous améliorons les capacités des modèles d'IA », a écrit Amodei. Il a déclaré que les progrès pourraient rester rapides tant que les développeurs passent plus de temps à tester les mesures de protection, à étudier le comportement des modèles et à permettre à des évaluateurs externes d'examiner leur travail.
La proposition contient trois étapes. Anthropic prévoit de donner aux évaluateurs tiers un accès continu comparable à celui détenu par les employés internes qui évaluent les risques. Amodei a cité l'organisation Model Evaluation and Threat Research, connue sous le nom de METR, comme exemple.
Une deuxième étape demande aux entreprises d'IA de pointe des pays démocratiques de se coordonner sur des exigences de sécurité communes et des limites à la croissance incontrôlée des capacités. Amodei a reconnu que certaines parties de cette coordination pourraient soulever des problèmes de droit de la concurrence et pourraient nécessiter une autorisation gouvernementale spécifique.
Sa troisième étape appelle à une coordination internationale, y compris d'éventuels accords avec la Chine. L'essai décrit plusieurs niveaux possibles, allant des restrictions sur les armes biologiques assistées par l'IA à une limite éventuelle de l'amélioration rapide et automatisée des modèles.
Amodei a présenté une pause complète comme la forme la moins probable d'accord international car la vérification serait difficile. Il a soutenu que tout arrangement devrait préserver la position technologique des États-Unis et de leurs alliés.
Sam Altman, PDG d'OpenAI, a directement approuvé la proposition dans un message du 12 septembre. « Je suis d'accord avec Dario sur le fait que nous devons réguler le rythme de la frontière », a écrit Altman.
Altman a spécifiquement accepté l'appel d'Amodei à l'intégration d'évaluateurs externes. « S'engager à avoir des évaluateurs indépendants avec un accès similaire à celui des employés est une excellente idée, et nous ferons de même », a-t-il déclaré. OpenAI a promis plus d'informations mais n'a fourni aucune date de mise en œuvre, nom d'évaluateur ou conditions d'accès.
Musk a répondu plus brièvement. Reuters et le Financial Times ont rapporté qu'il avait republié l'essai d'Amodei et écrit : « Dario a raison. » La réponse publique n'a pas précisé quelles parties du plan en trois étapes xAI adopterait.
Les déclarations disponibles soutiennent donc l'inclusion de Musk dans le groupe de dirigeants qui ont soutenu Amodei. Elles n'établissent pas que Musk, Altman et Amodei ont élaboré le plan conjointement ou se sont mis d'accord sur ses détails réglementaires.
Aucun des trois dirigeants n'a publiquement approuvé le lien suggéré par Yakovenko entre la régulation du rythme et les valorisations de mille milliards de dollars. La remarque de Yakovenko reste sa caractérisation de leurs motivations.
Dans un autre message X, David Sacks a déclaré qu'Anthropic et OpenAI pourraient ralentir leur propre développement sans exiger la participation de concurrents ou de législateurs.
« Vous êtes la frontière », a écrit Sacks, s'adressant à Amodei et Altman. Il a décrit les deux entreprises comme détenant un « duopole sur l'intelligence de pointe », une affirmation basée sur son évaluation de la capacité des modèles, de la croissance des revenus et de la part de marché.
Sacks a déclaré qu'il soutiendrait un ralentissement volontaire si les systèmes non publiés présentaient des risques suffisamment graves pour inquiéter leurs développeurs. Il a contesté la nécessité d'une exemption antitrust, d'un système d'approbation réglementaire ou d'évaluateurs ayant autorité sur les laboratoires concurrents.
Cependant, son message a accusé les entreprises de rechercher une éventuelle « capture réglementaire », mais il n'a présenté aucune preuve d'un accord entre Anthropic et OpenAI pour exclure des concurrents. Aucune des entreprises n'avait publiquement accepté la description de Sacks au 13 septembre.
Sacks a soulevé l'exposition à la responsabilité du fait des produits comme une autre raison possible pour laquelle les entreprises préféreraient des systèmes plus prévisibles. Il a soutenu que les clients pénalisent déjà les modèles qui se comportent de manière non autorisée ou peu fiable. Les entreprises n'ont pas confirmé que les préoccupations en matière de responsabilité avaient motivé leurs approbations.
Le message a demandé si la Chine participerait à un accord mondial sur l'IA. L'essai d'Amodei reconnaît le même problème de vérification, bien qu'Amodei soutienne toujours les négociations sur des risques étroitement définis.
Anthropic s'est engagé à inviter une équipe d'examen externe dans son processus de sécurité interne. Son essai indique que les évaluateurs devraient recevoir des ordinateurs portables de l'entreprise, un accès aux bureaux et des autorisations similaires à celles du personnel interne d'évaluation des risques, sous réserve des restrictions légales et de confidentialité.
Les évaluateurs prévus seraient autorisés à publier leurs conclusions sans qu'Anthropic n'en contrôle les résultats. Des rédactions limitées pourraient couvrir des informations juridiquement privilégiées, sensibles à la sécurité, commercialement sensibles ou confidentielles de tiers. Aucun contrat d'évaluateur ni date de début n'accompagnait l'essai. OpenAI a promis d'adopter un système similaire. Altman a déclaré que l'entreprise divulguerait plus de détails « bientôt », laissant l'évaluateur, la portée et les règles de publication sans réponse.
Les législateurs américains envisagent des approches plus restrictives. Comme crypto.news l'a précédemment rapporté, une proposition Sanders-Casar vise une interdiction permanente de la superintelligence artificielle et une suspension temporaire des travaux d'IA avancée jusqu'à ce qu'un nouvel organisme de réglementation fédéral établisse des règles de sécurité. Le projet de loi complet n'avait pas été officiellement introduit lorsque ses promoteurs ont publié leur résumé.
Les préoccupations en matière de cybersécurité restent une partie de la discussion politique. Dans une couverture connexe, un document de la Banque des Règlements Internationaux a averti que l'IA pourrait réduire les fenêtres de correction des logiciels de semaines à minutes, les systèmes automatisés identifiant et exploitant les vulnérabilités plus rapidement.
Amodei a demandé aux laboratoires de pointe d'adopter des évaluations intégrées et de se coordonner sur les normes de sécurité, tandis qu'Altman a engagé OpenAI à une évaluation externe sans publier de calendrier.
SOL