Anthropic está expandiendo el acceso a su modelo de IA Claude Mythos a través del Proyecto Glasswing, un programa destinado a permitir que empresas de tecnología y seguridad, así como gobiernos, descubran y corrijan errores y posibles exploits antes de que el potente modelo sea lanzado públicamente.

En una publicación de blog el martes, Anthropic dijo que está añadiendo aproximadamente 150 organizaciones a su programa controlado mientras la compañía se prepara para un lanzamiento más amplio del controvertido modelo.

La expansión se produce después de que Anthropic dijera que espera llevar modelos de clase Mythos a los clientes "en las próximas semanas" una vez que complete salvaguardias adicionales. La noticia también llega mientras Anthropic se prepara para salir a bolsa tras presentar confidencialmente una oferta pública inicial (IPO) el lunes ante la Comisión de Bolsa y Valores de EE. UU.

“Tras varias semanas de estrecha colaboración con nuestros socios del Proyecto Glasswing, la industria de la seguridad, los mantenedores de software de código abierto y el gobierno de EE. UU., estamos extendiendo la asociación a aproximadamente 150 nuevas organizaciones”, escribió Anthropic. “Cada una deberá cumplir nuestros requisitos de seguridad antes de obtener acceso.”

La última expansión del Proyecto Glasswing añade organizaciones de sectores de infraestructura crítica, incluyendo energía, agua, atención médica, comunicaciones y hardware. Anthropic dijo que muchas de las nuevas organizaciones mantienen software utilizado por gobiernos y cientos de millones de personas.

“Lo que cada socio tiene en común es que un ataque exitoso a su base de código podría ser catastrófico”, escribió Anthropic. “Para la mayoría de los socios, estimamos que un ataque importante podría afectar a más de 100 millones de personas, con importantes ramificaciones tanto para la seguridad global como nacional.”

Claude Mythos emergió públicamente en marzo después de que se filtraran en línea borradores de materiales de Anthropic. Según Anthropic, las organizaciones que previamente recibieron acceso ya han utilizado Mythos Preview para identificar más de 10.000 vulnerabilidades de software de alta o crítica gravedad. Los socios también están utilizando el modelo para escribir parches, realizar revisiones de seguridad y probar software antes de su lanzamiento.

Las capacidades del modelo han generado preocupaciones entre investigadores y agencias gubernamentales de que los sistemas de IA cada vez más capaces podrían facilitar la ejecución de ciberataques.

El Instituto de Seguridad de IA del Reino Unido informó que Mythos completó de forma autónoma un ataque simulado a una red corporativa de 32 pasos durante las pruebas. Mozilla dijo que el modelo identificó 271 vulnerabilidades que corrigió en el navegador web Firefox, mientras que la startup de seguridad Calif afirmó que una versión de vista previa ayudó a los investigadores a desarrollar una cadena de exploits dirigida a los chips de computadora M5 de Apple.

Anthropic dijo que está expandiendo el acceso a Mythos porque cree que los defensores necesitan herramientas de IA cada vez más capaces antes de que los atacantes obtengan capacidades similares. La compañía dijo que espera que otros desarrolladores lancen modelos de clase Mythos dentro de seis a 12 meses, potencialmente sin salvaguardias comparables, lo que aumenta la perspectiva de ciberataques más frecuentes y menos predecibles.

“En el futuro, los lanzamientos de modelos frontera tendrán cada vez mayores riesgos. Las capacidades seguirán mejorando en todos los dominios, incluidos muchos que, como la ciberseguridad, pueden empoderar tanto a atacantes como a defensores”, escribió Anthropic. “Si tenemos éxito, esperamos permitir una ventaja permanente para los defensores.”

Anthropic no respondió de inmediato a una solicitud de comentarios de Decrypt.

Con el acceso privado expandido, los usuarios de Myriad —una plataforma de mercado de predicción operada por la empresa matriz de Decrypt, Dastan— están perdiendo la confianza en que Claude Mythos sea lanzado al público antes de finales de junio. Calculan solo un 26.5% de probabilidad a partir de este escrito, una disminución desde un pico del 58.5% la semana pasada.