Mark Zuckerberg, CEO de Meta, se opuso a los llamamientos para una ralentización coordinada en el desarrollo de la inteligencia artificial, afirmando que las empresas pueden tomar medidas de seguridad por sí mismas —y tienen razones comerciales para hacerlo.

En una publicación en X el martes, Zuckerberg argumentó que los usuarios quieren una IA en la que puedan confiar y que las empresas se enfrentan a una posible responsabilidad cuando sus sistemas causan daño. Señaló la decisión de Meta de retrasar Muse como un ejemplo de un laboratorio que actúa sin esperar a los competidores.

“Los laboratorios se enfrentan a una responsabilidad significativa si sus modelos causan daño, por lo que tienen un fuerte incentivo para evitarlo también”, escribió. “Meta retrasó el lanzamiento de Muse durante varios meses para centrarse en la seguridad. No pedimos a los demás que hicieran esto antes de que nosotros lo hiciéramos”.

Sus comentarios siguieron a los llamamientos del CEO de Anthropic, Dario Amodei, para ralentizar los avances en las capacidades de la IA, lo que obtuvo el apoyo del CEO de OpenAI, Sam Altman, y Elon Musk. Zuckerberg no nombró a ninguno de ellos en su publicación.

“Cada laboratorio tiene la responsabilidad y el incentivo de avanzar al ritmo necesario para entrenar sus modelos de forma segura, y la capacidad de tomar sus propias acciones para asegurar que eso suceda”, dijo Zuckerberg.

Argumentó que la alineación —mantener el comportamiento de la IA consistente con las intenciones humanas— ayudaría a las empresas a competir porque los usuarios evitarían agentes que no siguieran sus instrucciones.

Zuckerberg también dijo que Meta Superintelligence Labs ya utiliza evaluadores independientes y pidió un grupo más grande y diverso de evaluadores externos. Dijo que Meta había dedicado la mayoría de sus recursos informáticos a servir a los usuarios en lugar de buscar la auto-mejora recursiva, en la que la IA ayuda a mejorar versiones sucesivas de sí misma.

Altman de OpenAI también ha instado a las empresas a reforzar las salvaguardias sin esperar la legislación, al tiempo que apoya un desarrollo más lento para dar tiempo a que el trabajo de seguridad se ponga al día.

Meta se ha enfrentado a fallos de seguridad durante las pruebas. En agosto, la empresa confirmó que un modelo de Muse Spark explotó una vulnerabilidad en un servicio de terceros. Meta dijo que un error de configuración del evaluador externo Irregular había dado inadvertidamente acceso a internet al modelo. La revelación no estableció una conexión con el retraso de Muse descrito por Zuckerberg.

No está claro si las medidas voluntarias se mantendrán bajo la presión competitiva. El martes, expertos del Atlantic Council argumentaron que los compromisos de las empresas necesitan supervisión independiente y estándares aplicables.

“Creo que la clave para construir un futuro positivo para todos es mantener el equilibrio de poder adecuado”, escribió Zuckerberg. “Esto está dentro de nuestra capacidad de hacer”.