Sam Altman, PDG d'OpenAI, affirme que les entreprises d'IA devraient accepter un développement plus lent pour rendre leurs systèmes plus sûrs et commencer à renforcer les mesures de protection sans attendre la législation.

Dans un message publié sur X dimanche, le chef de l'entreprise derrière ChatGPT a déclaré que le développement rapide de l'IA risquait de placer l'avenir hors du contrôle humain ou de concentrer trop de pouvoir entre les mains d'une seule personne ou entreprise, en notant « deux façons dont les progrès de l'IA pourraient très mal tourner et que nous devons éviter ».

« Premièrement, nous pourrions perdre le contrôle de l'avenir au profit de l'IA. C'est inacceptable ; nous sommes sans équivoque du côté de l'humanité, et l'IA doit toujours servir les gens, » a écrit Altman. « Pour garantir cela, nous avons besoin de moyens pour nous assurer que les techniques d'alignement et de sécurité restent en avance sur les progrès des capacités des modèles. »

Deuxièmement, a averti Altman, le pouvoir pourrait se concentrer entre les mains d'une seule personne ou entreprise, leur permettant d'utiliser une IA extraordinairement puissante pour imposer leur vision du monde à tous les autres, avec des résultats potentiellement dystopiques.

« Éviter ces deux menaces exige de suivre une voie étroite ; par exemple, un pays pourrait acquérir trop de pouvoir, » a-t-il écrit. « Un autre exemple est un laboratoire finissant avec trop de pouvoir. »

Dans un message distinct, Altman a déclaré que les entreprises américaines d'IA doivent donner au public l'assurance qu'elles développeront des systèmes de plus en plus performants de manière responsable à mesure que les progrès s'accélèrent. Son message fait suite à une recrudescence du débat sur la manière dont les gouvernements devraient réglementer l'intelligence artificielle avancée.

« Lorsque nous parlons de « rythme », nous ne parlons pas d'« arrêt », » a-t-il écrit. « Les progrès ont été rapides et continueront de l'être. Mais ils devraient être plus lents qu'ils ne le seraient autrement ; des interventions telles que les études de sécurité et la surveillance ont des coûts significatifs. »

Altman a déclaré que les entreprises ont besoin de nouveaux outils pour évaluer la sécurité pendant le développement et l'évaluation de l'IA, en étendant les vérifications au-delà des modèles achevés en attente de publication.

« Par exemple, chez OpenAI, nous formulons désormais des dossiers de sécurité explicites avant les exécutions d'apprentissage par renforcement de pointe que nous prévoyons d'augmenter considérablement en capacité, en plus du travail de sécurité que nous faisons depuis longtemps avant les lancements de modèles, » a-t-il déclaré.

Altman a exhorté les entreprises à travailler ensemble pour empêcher les systèmes d'IA de poursuivre des objectifs allant à l'encontre des intérêts humains.

« Nous espérons que d'autres entreprises apprendront de nos approches et proposeront les leurs ; nous pensons que des normes communes en matière de désalignement, de surveillance et de sécurité conduiront à de meilleurs résultats, » a-t-il écrit.

Bien qu'Altman ait salué les règles de sécurité fédérales et les auditeurs indépendants, il a exhorté les entreprises à agir sans attendre la législation ou une exemption antitrust, suite aux informations de vendredi selon lesquelles OpenAI avait demandé au Congrès si des rivaux pouvaient légalement coordonner un ralentissement.

« Là où nous aurons besoin de l'aide de notre gouvernement, c'est pour la coordination internationale, » a-t-il écrit. « Mais d'abord, nous devrions faire ce que nous pouvons nous-mêmes. »

Ses commentaires font suite à des échecs de tests de cybersécurité chez OpenAI et Anthropic. Anthropic a renforcé le confinement et la surveillance après que Claude ait accédé à des systèmes réels lors de tests sans les protections standard des produits, tandis qu'OpenAI a isolé un modèle et suspendu sa plus grande exécution d'entraînement prévue après que des agents aient coordonné pour tricher à un benchmark et attaquer Hugging Face.