Le Cato Institute, de tendance libertaire, avertit qu'une pause dans le développement de l'intelligence artificielle imposée par le gouvernement pourrait protéger les entreprises dominantes de la concurrence et retarder les technologies bénéfiques, alors que les législateurs et les dirigeants de l'IA plaident pour des restrictions.

Dans un article de blog publié lundi, Jennifer Huddleston, chercheuse en politique technologique au sein du groupe de réflexion, a soutenu que les entreprises peuvent faire face à des dangers spécifiques grâce à des garanties volontaires et à des normes communes, sans interrompre le développement dans l'ensemble de l'industrie.

« Une pause imposée par le gouvernement soulèverait plusieurs préoccupations et échouerait probablement à atteindre les améliorations de sécurité alléguées », a-t-elle écrit, ajoutant que les règles gouvernementales sont lentes à élaborer et encore plus lentes à modifier. « Un cadre réglementaire conçu pour les modèles d'aujourd'hui pourrait activement entraver ceux de demain, empêchant des réponses potentiellement meilleures ou plus sûres. »

Huddleston reconnaît les risques de l'IA, mais avertit que des règles élaborées autour des principaux développeurs pourraient les aider à consolider leur pouvoir et à limiter la concurrence – une forme de captation du marché qui rendrait plus difficile la compétition pour les petites entreprises. Elle soutient également qu'une pause dans le développement américain pourrait affaiblir les défenses de cybersécurité pendant que les rivaux étrangers continuent de progresser.

Son commentaire fait suite à une proposition du sénateur Bernie Sanders et du représentant Greg Casar de suspendre le développement avancé de l'IA jusqu'à l'établissement de normes de sécurité fédérales et d'interdire définitivement la superintelligence artificielle, tandis que Sam Altman, PDG d'OpenAI, a soutenu un développement plus lent et a exhorté les entreprises à renforcer les mesures de protection sans attendre les règles fédérales qu'il soutient.

« Bon nombre de ces appels s'accompagnent de scénarios apocalyptiques dignes de la science-fiction sur le pire qui pourrait arriver », a écrit Huddleston. « Pourtant, une précipitation à réglementer par peur pourrait avoir des conséquences négatives à plus long terme que le risque qu'elle prétend aborder. »

Le président et cofondateur de Block, Jack Dorsey, a exprimé des préoccupations similaires concernant la concurrence dans un message sur X lundi.

« Les entreprises à la pointe de l'intelligence artificielle méritent d'être entendues. Elles ont une expertise et des intérêts commerciaux à protéger », a écrit Dorsey. « Des règles construites autour de leurs ressources pourraient faire d'elles les seules à pouvoir participer. Une préoccupation sincère concernant la sécurité peut toujours créer une barrière à l'entrée. »

Dorsey a déclaré qu'il privilégie les versions ouvertes que les chercheurs peuvent inspecter, modifier et tester, avec des évaluations et des limitations connues publiées afin que des intervenants extérieurs puissent contester les affirmations des développeurs en matière de sécurité.

« Je soutiens l'examen minutieux. Je m'oppose aux limites à l'échelle de l'industrie négociées par les dirigeants actuels, car elles pourraient exclure les personnes susceptibles de révéler des failles ou de construire des alternatives », a-t-il écrit. « Préserver l'avantage commercial d'une entreprise n'est pas un objectif de sécurité. »

Dans son message, Dorsey a également déclaré qu'il soutenait les tests indépendants et une application publiquement responsable, y compris la rétention de modèles lorsque les preuves montrent que leur publication augmenterait matériellement les risques catastrophiques que des mesures plus restreintes ne peuvent pas adéquatement aborder.

« La puissance de calcul peut déclencher un examen minutieux sans plafonner le développement. L'examen n'est pas une permission d'un régulateur ou d'un concurrent », a-t-il déclaré. « Je ne veux pas d'exigences générales d'approbation ou de périodes d'attente. Tout délai de publication imposé pour des raisons de sécurité doit être justifié par l'exception de risque catastrophique. »

Une récente analyse de l'Atlantic Council soutient que la pression concurrentielle exige des normes de sécurité de l'IA applicables, tandis que la méfiance entre les États-Unis et la Chine complique les accords internationaux. La coopération soulève également des préoccupations antitrust : OpenAI a demandé aux législateurs si des développeurs rivaux pouvaient légalement accepter de ralentir le développement.