OpenAI ha preguntado a los miembros del Congreso si las empresas de IA rivales podrían acordar legalmente ralentizar el desarrollo, mientras su científico jefe insta a la industria a establecer estándares de seguridad compartidos.

Según WIRED, que citó a personas cercanas a la empresa, OpenAI preguntó a los legisladores en las últimas semanas si un acuerdo entre empresas de IA para ralentizar el desarrollo podría violar las leyes antimonopolio.

El acercamiento a los legisladores sigue a la llamada del científico jefe de OpenAI, Jakub Pachocki, para una desaceleración voluntaria hasta que los desarrolladores puedan demostrar mejor que sus sistemas son seguros. Pero las empresas se enfrentan a la presión de seguir avanzando incluso cuando sus propios investigadores tienen preocupaciones.

“La competencia comercial y geopolítica en el espacio de la IA es increíblemente intensa, lo que lleva a una dinámica preocupante donde las empresas son incentivadas a lanzar productos antes de que sus riesgos sean completamente comprendidos”, dijo Miranda Bogen, tecnóloga jefe del Center for Democracy and Technology, a Decrypt.

“Incluso cuando el personal interno sabe que se necesita más investigación y pruebas, sus empresas se enfrentan a una inmensa presión para atajar y saltarse pruebas de seguridad críticas, a pesar de la creciente evidencia sobre las consecuencias de moverse demasiado rápido”, añadió.

Un acuerdo para ralentizar el desarrollo de la IA podría plantear preocupaciones antimonopolio al restringir la competencia. Los senadores Adam Schiff y Jim Banks introdujeron una legislación para proteger ciertas colaboraciones de seguridad, sujetas a notificación previa al Departamento de Justicia.

El debate sobre la desaceleración del desarrollo de la IA surge mientras Estados Unidos y China compiten por el liderazgo en la tecnología. El presidente estadounidense Donald Trump retrasó una orden ejecutiva sobre IA en mayo por la preocupación de que pudiera debilitar la ventaja de Estados Unidos sobre China. Trump firmó más tarde la orden en junio, creando un proceso de revisión voluntaria para los modelos avanzados antes de su lanzamiento.

Más directamente que las preocupaciones de seguridad nacional, los incentivos financieros podrían dificultar el acuerdo.

“Cada avance en las condiciones actuales produce muchos millones o miles de millones más en financiación y sitúa a los creadores de ese avance en una posición de mayor poder e influencia”, dijo Duncan Sabien, jefe de comunicaciones del Machine Intelligence Research Institute, a Decrypt.

Calificando la dinámica de carrera armamentista como real, Sabien dijo que OpenAI y Anthropic se enfrentan a la presión de seguir avanzando a pesar de los riesgos inciertos porque cada nuevo sistema ayuda a construir sucesores más capaces, permitiendo que un rival se adelante si cualquiera de las empresas se ralentiza sin un acuerdo compartido.

“Esto es especialmente cierto ya que las ganancias en inteligencia son acumulativas; cada nuevo sistema facilita el entrenamiento y la implementación del siguiente sistema más avanzado”, dijo. “Sin algún tipo de mecanismo de coordinación, retroceder solo significa que el otro se adelanta.

En agosto, OpenAI pausó el trabajo interno de Astra por falta de salvaguardias más sólidas debido a preocupaciones de ciberseguridad. Sin embargo, tanto OpenAI como Anthropic relajaron sus compromisos de seguridad en febrero, con el director científico de Anthropic, Jared Kaplan, argumentando que ralentizar el desarrollo de forma independiente tenía menos sentido mientras los competidores seguían avanzando.

El debate sobre la desaceleración del desarrollo de la IA se intensificó esta semana después de que el ex ingeniero de Anthropic, Jacob Coxon, anunciara públicamente su renuncia, citando preocupaciones sobre los riesgos que el desarrollo continuo de la IA plantea para la humanidad.

“Las personas que construyen IA creen sinceramente que podría matarnos a todos para finales de la década”, dijo Coxon en X, afirmando que no era una “estrategia de marketing”.

“En todo caso, muchos ejecutivos e investigadores sénior suavizarán su lenguaje en la prensa para sonar sensatos, pero escucho a las mismas personas expresar miedo en privado. Ninguna otra actividad humana plantea este nivel de peligro”, escribió.

Sin embargo, Sabien dijo que los investigadores podrían lograr poco al irse si otra persona simplemente ocupa su lugar.

“Si suficientes de ellos adquieren el conocimiento común de que todos deberían detenerse, entonces pueden romper la barrera de la coordinación y detenerse juntos en lugar de ser simplemente reemplazados por la siguiente persona ligeramente menos cautelosa”, dijo.