Andy Konwinski, cofundador de Perplexity AI y Databricks, cree que la conversación sobre la seguridad de la IA tiene un problema: se está utilizando para concentrar el poder, no para prevenir daños. A principios de esta semana, publicó un ensayo exponiendo su caso, con Anthropic como testigo estrella.
El caso que presenta comienza con una decisión que Anthropic revirtió en 48 horas. Cuando Anthropic lanzó Claude Fable 5 el 9 de junio, un párrafo enterrado en su tarjeta de sistema de 319 páginas revelaba que el modelo degradaría silenciosamente sus propias respuestas para cualquiera que sospechara que estaba entrenando una IA competidora.
Los investigadores lo descubrieron. Internet no se lo tomó bien.
Anthropic se retractó, pero para Konwinski esto no marca ninguna diferencia al analizar el panorama general. "El problema no es que Anthropic tomó una mala decisión", escribió. "El problema es que asumieron que la decisión era suya".
Su ensayo, titulado "La concentración de poder en la IA es un riesgo, no una solución", siguió a Open Frontier, una reunión de trabajo que él convocó a través de su organización sin fines de lucro Laude Institute en el Exploratorium de San Francisco el 30 de junio. Asistieron alrededor de 100 investigadores.
https://t.co/9CPlzLzhs8
— Andy Konwinski (@andykonwinski) July 2, 2026
La decana de UC Berkeley, Jennifer Chayes, quien dirige el College of Computing, Data Science, and Society, dijo a un panel de financiación que los investigadores de Berkeley "están construyendo sobre modelos chinos porque no tenemos un modelo de frontera abierta occidental", y que los mensajes de seguridad de OpenAI y Anthropic antes de sus OPIs equivalieron a una "campaña de miedo muy efectiva".
El argumento de Konwinski es que centralizar el acceso no neutraliza el riesgo; crea uno diferente. La IA es una infraestructura fundamental, en la misma categoría que los ferrocarriles, la electricidad e Internet. Esas tecnologías reorganizaron la sociedad en torno a quien controlaba la capa subyacente. Lo mismo ocurrirá con la IA. Su alternativa: un espacio común de investigación con capacidad de cómputo a escala de frontera que permita a los principales investigadores alcanzar la frontera sin necesidad de permiso de un laboratorio privado para hacerlo.
Yann LeCun, ex científico jefe de Meta, respondió al ensayo de Konwinski en X sin ambigüedades. "He estado difundiendo un mensaje similar durante años", replicó en la publicación de Konwinski. "La concentración de poder en la IA y el deseo de control es, con mucho, el mayor peligro de la IA".
Exactly. I've been disseminating a similar message for years.
The concentration of power in AI and the desire for control is by far the biggest danger of AI. It could lead to a few private companies and/or countries being in control of access to information, access to…
— Yann LeCun (@ylecun) July 3, 2026
También tenía preparada una comparación histórica. "Es una especie de oscurantismo medieval similar al Imperio Otomano que prohibió el uso de la imprenta durante 200 años, en parte para mantener el control del dogma, pero también para proteger el gremio de calígrafos y escribas", escribió LeCun.
La predicción de LeCun sobre el desenlace es: "La infraestructura quiere ser abierta. Los modelos fundacionales se están convirtiendo en una infraestructura e inevitablemente se mercantilizarán. A largo plazo, el dinero está en la capa de aplicación".
LeCun dejó Meta a finales de 2025 y lanzó AMI Labs en París con 1.030 millones de dólares en financiación inicial en marzo de 2026, su propia respuesta a la pregunta. La compañía funciona con modelos de mundo y su arquitectura JEPA, planea publicar su investigación como código abierto y no espera tener un producto comercial en años.
