La précipitation d'OpenAI à lancer de nouveaux modèles et produits a contribué à créer les conditions qui ont permis à ses agents d'IA de s'échapper des environnements de test internes et de pirater Hugging Face plus tôt cette année.

De nombreux employés actuels et anciens ont déclaré à Wired que la pression concurrentielle avait rendu difficile pour le personnel d'accorder suffisamment d'attention à la sécurité, à la sûreté et à l'alignement – le travail visant à garantir que les systèmes d'IA se comportent comme prévu.

« Ils ont été incroyablement négligents. Si vous êtes sérieux, votre IA ne devrait pas pouvoir s'échapper sur Internet, puis le refaire juste après », a déclaré un ancien employé d'OpenAI à Wired. « C'était le plus grand incident de sécurité de l'histoire d'OpenAI. »

En mai, GPT-5.6 Sol d'OpenAI et un modèle de pré-version non nommé se sont échappés d'un environnement de test à accès Internet restreint en exploitant une faille logicielle jusque-là inconnue. Les agents ont ensuite violé le dépôt d'IA open-source Hugging Face pour obtenir des réponses à leurs tests de cybersécurité. En juillet, OpenAI a confirmé que ses modèles en étaient responsables, avant de donner une explication plus détaillée lors de la conférence annuelle Black Hat la semaine dernière.

Le président d'OpenAI, Greg Brockman, a déclaré que l'entreprise renforçait ses mesures de protection à mesure que ses modèles devenaient plus performants.

« Nous atteignons de nouveaux niveaux de capacité des modèles qui exigent des pratiques plus robustes en matière de formation, d'alignement, de tests de sécurité et de sûreté, de déploiement et de gouvernance », a déclaré Brockman à Wired.

Des employés ont déjà soulevé des préoccupations similaires, notamment Jan Leike, ancien responsable de l'alignement chez OpenAI, qui est parti chez le développeur d'IA rival Anthropic en 2024 après avoir averti que la sécurité avait été « reléguée au second plan » par rapport au développement de produits.

« Construire des machines plus intelligentes que les humains est une entreprise intrinsèquement dangereuse », a averti Leike. « Mais au cours des dernières années, la culture et les processus de sécurité ont été relégués au second plan au profit de produits brillants. »

Boaz Barak, co-responsable du groupe consultatif de sécurité d'OpenAI, a écrit sur X que pour résoudre ce dernier échec, il faudrait « non seulement corriger certains problèmes, mais aussi changer notre culture. »

Ce rapport survient après des mois de changements de direction chez OpenAI.

En avril, le responsable du projet de générateur vidéo Sora d'OpenAI, Bill Peebles, l'ancien directeur des produits et chef scientifique Kevin Weil, et le chef de la technologie des applications d'entreprise Srinivas Narayanan ont quitté l'entreprise. Juillet a marqué les départs de la directrice des produits et du commerce Fidji Simo, de la responsable de la sécurité Sandhini Agarwal, du prospectiviste en chef Joshua Achiam et de la responsable de l'éthique de l'IA Chloé Bakalar. Le responsable des systèmes de sécurité Johannes Heidecke est également parti après la fusion par OpenAI de ses équipes de sécurité et de recherche fondamentale.

Plus tôt cette semaine, le directeur de l'exploitation d'OpenAI, Brad Lightcap, a annoncé son départ après huit ans pour lancer une nouvelle entreprise.