Anthropic ha anunciado que restaurará el acceso público a Claude Fable 5 y Mythos 5 después de que las autoridades estadounidenses levantaran las restricciones de exportación que habían mantenido fuera de línea los dos modelos de IA más avanzados de la compañía desde el 12 de junio.
Según Anthropic, la decisión siguió a "una serie de conversaciones productivas" con el gobierno de EE. UU., tras las cuales la compañía comenzó a redimplementar los modelos con nuevos clasificadores diseñados para identificar y bloquear más tareas relacionadas con la ciberseguridad.
La compañía dijo que las últimas salvaguardias tienen como objetivo abordar las preocupaciones del gobierno vinculadas a un posible uso indebido si los sistemas son eludidos mediante métodos de jailbreak.
Las restricciones habían obligado a Anthropic a suspender el acceso a Fable 5 y Mythos 5 para todos los usuarios a principios de este mes, después de que una directiva de control de exportaciones del gobierno de EE. UU. instruyera a la compañía a bloquear ambos modelos para todos los ciudadanos extranjeros.
En su declaración del 13 de junio, Anthropic dijo que la orden también cubría a los empleados extranjeros que trabajaban dentro de la compañía, lo que los llevó a deshabilitar los modelos por completo para asegurar el cumplimiento.
El Secretario de Comercio de EE. UU., Howard Lutnick, dijo en X el miércoles que los funcionarios habían trabajado con Anthropic durante las últimas dos semanas para revisar y aprobar Fable 5, manteniendo el modelo alineado con los requisitos del gobierno de EE. UU.
La Jefa de Gabinete de la Casa Blanca, Susie Wiles, también dijo en X que la prioridad del gobierno era desplegar la mejor tecnología de IA "lo más rápido y seguro posible".
La intervención se produjo después de que los funcionarios tuvieran conocimiento de un informe en el que investigadores de Amazon encontraron un método para eludir las salvaguardias de Fable 5 y hacer que el modelo identificara vulnerabilidades de software.
Anthropic, sin embargo, ha argumentado que el problema reportado no era exclusivo de Fable 5, afirmando que modelos más débiles también podrían identificar las mismas vulnerabilidades y producir resultados similares relacionados con exploits.
En su respuesta anterior a la orden, la compañía dijo que las autoridades habían presentado solo evidencia verbal de lo que describió como un jailbreak estrecho y no universal. Anthropic afirmó que dicho método no eliminaba las protecciones de seguridad de un modelo en una amplia gama de tareas, a diferencia de un jailbreak universal.
“No estamos de acuerdo en que el hallazgo de un posible jailbreak estrecho deba ser motivo para retirar un modelo comercial implementado a cientos de millones de personas. Si este estándar se aplicara en toda la industria, creemos que detendría esencialmente todas las nuevas implementaciones de modelos para todos los proveedores de modelos de vanguardia.”
La compañía también había advertido que tratar un jailbreak estrecho como una razón para retirar un modelo de vanguardia comercial podría afectar a toda la industria de la IA si se aplicara como un estándar general.
Las restricciones a Anthropic también han generado preocupaciones políticas fuera de Estados Unidos. El 29 de junio, Austria instó a la Unión Europea a explorar el establecimiento de Anthropic dentro del bloque, con el Secretario de Estado para la Digitalización, Alexander Proell, argumentando en una carta que Europa no debería arriesgarse a perder el acceso a los principales avances de la IA debido a decisiones tomadas en otros lugares.
Junto con la redimplementación del modelo, Anthropic dijo que está aumentando la cooperación con el gobierno de EE. UU. en pruebas de modelos, salvaguardias y seguimiento de uso indebido. La compañía afirmó que esto incluirá acceso previo al lanzamiento a modelos y sistemas de seguridad para evaluación, intercambio de información sobre jailbreaks y uso indebido, y recursos dedicados para investigación conjunta.
Anthropic también ha comenzado a elaborar un marco con Amazon, Microsoft, Google y otros socios a través del Proyecto Glasswing, una colaboración en ciberseguridad anunciada en abril, para evaluar la gravedad de los jailbreaks de IA. La compañía dijo que el marco se está desarrollando como un esfuerzo de consenso para clasificar los riesgos de jailbreak.
El debate sobre el acceso surgió mientras Anthropic ha continuado su impulso por una supervisión más estricta de la IA de frontera. En su propuesta del 11 de junio, "Política sobre el Exponencial de la IA", la compañía pidió requisitos de prueba, evaluaciones independientes, estándares de ciberseguridad y medidas de aplicación para sistemas de IA avanzados, citando posibles riesgos biológicos, de ciberseguridad y operativos.
