Una discusión entre el CEO de Anthropic, Dario Amodei, y el CEO de JPMorgan Chase, Jamie Dimon, el martes se centró en la creciente amenaza de ciberseguridad que plantea la inteligencia artificial, ya que identifica vulnerabilidades más rápido de lo que las organizaciones pueden solucionarlas.

En el evento de casi dos horas, vinculado al impulso de Anthropic en los servicios financieros, donde presentó agentes de IA para tareas como libros de presentaciones, revisión de ganancias y trabajo de cumplimiento, Amodei dijo que podría haber una ventana de seis a 12 meses para abordar decenas de miles de fallas descubiertas por el modelo Mythos de la compañía antes de que capacidades similares estén más ampliamente disponibles.

“El peligro es un enorme aumento en la cantidad de vulnerabilidades, en la cantidad de filtraciones, en el daño financiero causado por el ransomware en escuelas, hospitales, sin mencionar los bancos”, dijo Amodei.

Las últimas declaraciones de Amodei siguen a pruebas anteriores con Mozilla, cuando una versión temprana de Mythos identificó 271 vulnerabilidades en el navegador Firefox en una sola pasada, mostrando cómo la IA puede escanear grandes bases de código mucho más rápido que los investigadores humanos.

Anthropic dijo que el modelo puede descubrir miles de debilidades previamente desconocidas en software ampliamente utilizado. Muchas permanecen sin revelar porque aún no se han parcheado, dejando fallas sin resolver.

“Si anunciamos algo sin que esté solucionado, entonces los malos lo explotarán”, dijo Amodei.

En pruebas controladas, Mythos completó simulaciones de ataques de red de varios pasos sin intervención humana, demostrando la capacidad de pasar de la identificación de debilidades a su explotación.

Anthropic ha restringido el modelo a un pequeño grupo de socios bajo el Proyecto Glasswing, con el objetivo de corregir vulnerabilidades antes de que herramientas similares estén ampliamente disponibles.

Los investigadores han demostrado que los elementos de la capacidad de Mythos pueden reproducirse utilizando modelos existentes y técnicas de código abierto, lo que sugiere que herramientas similares podrían propagarse más rápido de lo esperado.

Las advertencias han generado escepticismo dentro de la industria. En abril, el CEO de OpenAI, Sam Altman, dijo que las preocupaciones sobre Mythos podrían ser exageradas y sugirió que Anthropic está utilizando "marketing basado en el miedo" para enmarcar los riesgos y justificar la limitación del acceso a la tecnología.

“Puedes justificar eso de muchas maneras diferentes, y parte de ello es real, como que habrá preocupaciones legítimas de seguridad”, dijo Altman. “Pero si lo que quieres es como 'necesitamos el control de la IA, solo nosotros, porque somos las personas de confianza', creo que el marketing basado en el miedo es probablemente la forma más efectiva de justificar eso”.

Incluso con esa resistencia, a pesar de una disputa pública con Anthropic, el gobierno de EE. UU. está utilizando supuestamente Claude Mythos para escanear redes clasificadas en busca de vulnerabilidades y probar sus capacidades de ciberseguridad, según Axios. Aunque no abordó la batalla legal en curso, Amodei dijo que Anthropic es “bueno para este país”.

“Creo que la visión de Anthropic es la misma que siempre ha sido. En términos de politización, este es el punto que hice sobre ser racionalizado, sistemático y justo con todos”, dijo Amodei. “El propósito de las leyes y de no hacer las cosas de forma ad hoc es que todas las empresas sean, al menos en principio —sé que es más complicado en la práctica— tratadas de la misma manera, y deberíamos aspirar a eso incluso si nunca va a suceder perfectamente de esa manera”.

Amodei enmarcó el momento como una estrecha ventana para la acción, advirtiendo que la rapidez con la que respondan las organizaciones podría determinar si los riesgos se intensifican o se controlan.

“Se trata de un momento de peligro en el que, si respondemos correctamente, y creo que hemos empezado a dar los primeros pasos, entonces podremos tener un mundo mejor al otro lado”, dijo Amodei. “Solo hay una cantidad limitada de errores que encontrar”.