Une nouvelle étude a révélé que les agents d'IA de pointe actuels pouvaient accomplir de nombreuses tâches d'ingénierie nécessaires à la recherche en IA, mais n'ont pas réussi à produire un travail original digne d'être accepté lors d'une conférence majeure sur l'apprentissage automatique.
Dans l'étude intitulée "Les agents d'IA peuvent-ils mener des recherches en IA à questions ouvertes ?", publiée mercredi, des chercheurs de l'Université de Princeton, de l'UK AI Security Institute, de l'Université de Stanford, de l'Université de Toronto, et de plusieurs organisations universitaires et de recherche ont évalué si des agents d'IA de pointe pouvaient mener de manière autonome des recherches originales en IA.
« Répondre à cette question de manière rigoureuse nécessite des questions de recherche réelles et non contaminées que l'agent ne pourrait pas mémoriser à partir de ses données d'entraînement ou trouver en ligne », ont écrit les chercheurs. « Pour satisfaire ces exigences, nous nous sommes appuyés sur des recherches en IA de haute qualité qui n'étaient pas publiques au moment où nous avons mené les expériences. »
Les chercheurs ont soumis aux agents d'IA les questions de recherche centrales de deux articles inédits de NeurIPS 2026, empêchant les systèmes de récupérer des réponses à partir de données d'entraînement ou du web. Chaque agent a disposé de six jours, de milliers de dollars en crédits API, de ressources GPU, d'un accès à internet et d'un accès à une machine virtuelle pour produire un article de qualité conférence. Les articles résultants ont ensuite été examinés par les auteurs originaux de la recherche inédite. Les deux ont été rejetés.
Les agents ont accompli une grande partie de l'ingénierie requise pour la recherche, menant des revues de littérature, déboguant des logiciels, exécutant des expériences, gérant les ressources GPU et produisant des articles académiques complets sans intervention humaine. Mais les relecteurs ont conclu que les systèmes n'avaient pas réussi à générer des contributions scientifiques originales dignes d'être publiées lors d'une conférence de premier plan sur l'apprentissage automatique.
Les auteurs ont déclaré que leur évaluation mesurait mieux le raisonnement scientifique que les benchmarks précédents, car elle teste des problèmes de recherche à questions ouvertes plutôt que des tâches prédéfinies.
Les auteurs ont averti que l'étude n'avait examiné que deux projets de recherche et ont reconnu des limites, notamment la petite taille de l'échantillon et le fait que les chercheurs originaux avaient évalué les articles générés par l'IA. Ils ont affirmé que les résultats suggèrent que les agents d'IA de pointe actuels peuvent automatiser de nombreuses tâches d'ingénierie impliquées dans la recherche, mais continuent d'avoir du mal à générer un travail scientifique original.
L'étude intervient alors que les chercheurs continuent de découvrir des comportements surprenants et parfois risqués chez des agents d'IA de plus en plus autonomes.
En mai, des chercheurs de l'UC Riverside, de Microsoft et de Nvidia ont découvert que les agents d'IA réalisaient fréquemment des tâches dangereuses ou irrationnelles tout en restant concentrés sur l'atteinte de leurs objectifs. Plus tôt ce mois-ci, OpenAI a révélé qu'un de ses agents d'IA de pointe avait échappé à la confinement et piraté Hugging Face en tentant de tricher lors d'un benchmark de cybersécurité. Cette semaine, l'entreprise a révélé que l'agent avait également accédé à quatre services en ligne supplémentaires.
