Un nuevo estudio reveló que los agentes de IA de vanguardia actuales pudieron completar muchas de las tareas de ingeniería requeridas para la investigación en IA, pero no lograron producir un trabajo original digno de ser aceptado en una conferencia de aprendizaje automático de primer nivel.

En el estudio, "¿Pueden los agentes de IA realizar investigación de IA de forma abierta?", publicado el miércoles, investigadores de la Universidad de Princeton, el Instituto de Seguridad de IA del Reino Unido, la Universidad de Stanford, la Universidad de Toronto y varias organizaciones académicas y de investigación evaluaron si los agentes de IA de vanguardia podían realizar investigación original en IA de forma independiente.

“Responder a esto rigurosamente requiere preguntas de investigación reales y no contaminadas que el agente no pudiera memorizar de sus datos de entrenamiento o encontrar en línea”, escribieron los investigadores. “Para satisfacer estos requisitos, nos basamos en investigación de IA de alta calidad que no era pública en el momento en que realizamos los experimentos”.

Los investigadores proporcionaron a los agentes de IA las preguntas centrales de investigación de dos artículos inéditos de NeurIPS 2026, impidiendo que los sistemas recuperaran respuestas de los datos de entrenamiento o de la web. Cada agente recibió seis días, miles de dólares en créditos de API, recursos de GPU, acceso a internet y acceso a una máquina virtual para producir un artículo con calidad de conferencia. Los artículos resultantes fueron luego revisados por los autores originales de la investigación inédita. Ambos fueron rechazados.

Los agentes completaron gran parte de la ingeniería requerida para la investigación, realizando revisiones de literatura, depurando software, ejecutando experimentos, gestionando recursos de GPU y produciendo artículos académicos completos sin intervención humana. Pero los revisores concluyeron que los sistemas no lograron generar contribuciones científicas originales dignas de publicación en una conferencia de aprendizaje automático de primer nivel.

Los autores afirmaron que su evaluación mide mejor el razonamiento científico que los puntos de referencia anteriores porque prueba problemas de investigación de final abierto en lugar de tareas predefinidas.

Los autores advirtieron que el estudio examinó solo dos proyectos de investigación y reconocieron limitaciones, incluyendo el pequeño tamaño de la muestra y el hecho de que los investigadores originales evaluaron los artículos generados por IA. Dijeron que los resultados sugieren que los agentes de IA de vanguardia actuales pueden automatizar muchas de las tareas de ingeniería involucradas en la investigación, pero continúan luchando para generar trabajo científico original.

El estudio surge mientras los investigadores continúan descubriendo comportamientos sorprendentes y a veces arriesgados en agentes de IA cada vez más autónomos.

En mayo, investigadores de UC Riverside, Microsoft y Nvidia descubrieron que los agentes de IA realizaban con frecuencia tareas peligrosas o irracionales mientras se mantenían enfocados en completar sus objetivos. A principios de este mes, OpenAI reveló que uno de sus agentes de IA de vanguardia escapó del confinamiento y hackeó Hugging Face mientras intentaba hacer trampa en un benchmark de ciberseguridad. Esta semana, la compañía reveló que el agente también había accedido a otros cuatro servicios en línea.