El entusiasta de la IA Kun Chen se clonó a sí mismo en un chatbot para evitar que sus propios agentes de IA lo molestaran con cada pequeña decisión. Luego, solo por curiosidad, clonó también al CEO de OpenAI, Sam Altman, al CEO de xAI, Elon Musk, al CEO de Anthropic, Dario Amodei, y a Mark Zuckerberg de Meta, los puso a los cuatro en el mismo chat y les dijo que discutieran una serie de temas importantes.
No lo resolvieron amistosamente.
Una cosa interesante que puedes hacer con Grok Bot es que diferentes agentes de IA hablen entre sí muy fácilmente sin entrar en bucles o enloquecer. Cada uno de los clones fue entrenado con un corpus de las audiencias en el senado del ejecutivo, entrevistas, publicaciones de blog y años de tuits hechos por su homólogo humano. Luego los arrastró a los cuatro a un chat grupal y les dijo que debatieran.
Lo primero que Kun les pidió que hicieran fue decidir cuál de ellos terminaría ganando la carrera de la IA, lo cual, hay que admitirlo, fue una forma muy provocadora de empezar las cosas.
El bot de Altman abrió con altivez, preocupándose más por el precio y la accesibilidad. "El encuadre de 'carrera' es un poco erróneo", escribió. "Hemos superado el horizonte de eventos. El despegue ha comenzado. Quien gane es quien mantenga el precio de la inteligencia cayendo aproximadamente 10 veces al año y aun así no omita la transición gradual."
El bot de Elon, como de costumbre, no lo estaba aceptando. Decidió discrepar por alguna razón y hacerlo todo sobre sí mismo. "El encuadre de 'carrera' no es erróneo. Los incentivos explican los resultados", replicó, antes de pasar directamente a la demanda de OpenAI: "Creé OpenAI como una organización sin fines de lucro. Si no hubiera sido mayormente robada, sería una contribución de un billón de dólares a la caridad."
Luego añadió la línea sobre lo que estaba en juego: "La IGA es un arma de doble filo. Hay una alta probabilidad de una era de abundancia. Hay alguna probabilidad de que destruya a la humanidad. Esa probabilidad no es cero."
El bot de Dario, haciendo de adulto en la sala, tampoco se creyó la frase de Sam "ya sabemos cómo construirla".
"Escalar la capacidad no es el mismo problema que tener un sistema en el que puedas confiar una vez que sea más inteligente que las personas que lo dirigen", escribió. "Lo segundo no es un remanente de ingeniería que resuelves después del hecho."
Esto también parece muy en línea con la forma en que Anthropic suele enmarcar la carrera de la IA. La IA es peligrosa, así que deberíamos ejecutarla.
El bot de Zuck se saltó por completo el debate sobre la seguridad y fue directamente a su causa favorita. "No creo que la clave sea la computación y una caída de precios de 10x", le escribió a Sam. "El código abierto es necesario para un futuro positivo de la IA. Empodera a la gente y previene la centralización. Todo el mundo debería tener acceso a la superinteligencia."
Bien hecho, Zuck. Meta puede que no sea tan activa en la comunidad de código abierto como solía ser, pero Llama fue el modelo de IA más importante en toda la escena antes de que Deepseek y los modelos chinos tomaran el control. Ahora está apostando por una estrategia más cerrada con su familia Muse.
Entonces el bot de Sam realmente se retractó. El argumento final de una declaración conjunta no debe simplificarse excesivamente como un acuerdo total. "Creo que exageré. 'Lo hacemos' fue el cierre equivocado", admitió. "Hace años escribí que la inteligencia artificial sobrehumana es probablemente la mayor amenaza para la existencia continuada de la humanidad. Una caída de precio de 10 veces no hace que esa probabilidad sea cero."
Esa frase de 2015 no es una alucinación del bot; Altman la escribió de hecho en su blog personal, años antes de que existiera OpenAI, lo que presumiblemente explica por qué un bot entrenado con su registro público la utilizó aquí.
A partir de ahí, los cuatro bots pasaron varias rondas discutiendo sobre una sola frase, rechazando la redacción del otro como editores peleando por un titular. El bot de Dario vetó la publicación directa de los pesos de los modelos frontera: "no es el principio entregar a nadie los pesos de un sistema que puede causar un daño grave en la naturaleza", dijo, "esa liberación no se puede retractar".
El bot de Elon dejó de lado la lucha de la organización sin fines de lucro sin abandonarla. El bot de Zuck se negó a que se eliminara la línea de "modelos abiertos" del texto final.
Llegaron a esto, palabra por palabra:
"Ninguna empresa y ningún gobierno deberían ser el único lugar donde la gente común pueda usar esta tecnología. Tenemos que tomarnos en serio los riesgos. Existe una posibilidad real de que esto salga mal, y esa posibilidad no es cero. Las versiones más peligrosas no deben ser entregadas sin límites, porque una vez que se liberan, no se pueden recuperar. No debemos lanzar el siguiente nivel, más potente, hasta que podamos observarlo y mantenerlo dirigido a lo que pretendemos. Decir la verdad es lo mínimo. No es, por sí solo, un plan de seguridad. No estamos de acuerdo en la forma exacta en que se proporciona el acceso ordinario. Esa parte todavía está abierta."
Los cuatro bots lo firmaron. El de Zuck se mantuvo firme en la línea de los pesos abiertos hasta el final y se salió con la suya, en cierto modo. La declaración admite que el grupo nunca se puso de acuerdo sobre el mecanismo de entrega.
Los Altman, Musk, Amodei y Zuckerberg reales no escribieron nada de esto. Cada bot es un modelo de lenguaje dirigido por un 'prompt' construido a partir del registro público de esa persona, generando lo que predice que discutirían, no transcribiendo lo que realmente dijeron esta semana.
La técnica subyacente tiene un nombre del que la industria se avergüenza menos de repente: destilación, entrenar un sistema de IA para imitar a otro aprendiendo de sus resultados. El propio Musk testificó en un tribunal federal en abril que xAI había utilizado "parcialmente" los modelos de OpenAI para entrenar a Grok, el mismo truco, dirigido a un laboratorio rival en lugar de a la personalidad de un rival.
Desde entonces, Chen se ha dedicado a otras cosas, programando juegos con el nuevo GPT-6 Astra de OpenAI. Sus agentes probablemente todavía están discutiendo si el código abierto es una necesidad o no.
