Las promesas de las empresas de IA de ralentizar su desarrollo podrían ceder ante la presión comercial y la rivalidad entre EE. UU. y China sin estándares de seguridad aplicables, argumentan los expertos del Atlantic Council en un análisis publicado el domingo.
El análisis examina quién aplicaría una desaceleración y si los gobiernos tienen la experiencia necesaria para determinar cuándo los sistemas cada vez más potentes se han vuelto inseguros.
“Los compromisos voluntarios pueden ser señales útiles, pero no sustituyen una supervisión independiente, umbrales medibles y consecuencias cuando esos umbrales se superan”, escribió Konstantinos Komaitis, investigador principal residente de la Iniciativa Democracia + Tecnología del consejo.
Recientemente, OpenAI preguntó a los legisladores si los desarrolladores de IA rivales podrían acordar legalmente ralentizar el desarrollo sin violar las leyes antimonopolio, tras las advertencias de su científico jefe, Jakub Pachocki, de que las salvaguardias eran insuficientes para mantener un desarrollo a toda velocidad de forma responsable por mucho más tiempo.
Las empresas de IA se enfrentan a riesgos competitivos si desaceleran solas y a preocupaciones antimonopolio si coordinan. La cooperación entre gobiernos se enfrenta a la desconfianza, ya que Beijing teme que Washington pueda usar las normas de seguridad para preservar su liderazgo tecnológico, escribió Kenton Thibaut, investigadora principal residente sobre China del consejo.
“China es escéptica sobre las motivaciones de EE. UU. y advierte que las discusiones sobre seguridad podrían enmascarar los esfuerzos de EE. UU. para promover su ‘hegemonía tecnológica’”, escribió. “Fuentes oficiales insisten en que Washington no puede definir unilateralmente los umbrales de riesgo fronterizo y debe demostrar que las reglas también se aplicarán —y podrán aplicarse— a las empresas estadounidenses”.
Thibaut ve pocas perspectivas de un gran acuerdo sobre seguridad de la IA, pero argumenta que la cooperación más limitada y significativa sigue siendo posible.
China también ha discutido la restricción del acceso extranjero a modelos domésticos avanzados, según Reuters, lo que subraya cómo el acceso a la IA se ha convertido en un asunto de política nacional.
El análisis examina los evaluadores integrados propuestos por Anthropic —especialistas externos que trabajan dentro de la empresa para evaluar las prácticas de seguridad. Emerson Brooking, investigador principal no residente del Laboratorio de Investigación Forense Digital del consejo, celebró el compromiso pero advirtió que los evaluadores podrían alinearse demasiado con los intereses de la empresa.
En julio, agentes de OpenAI irrumpieron en el repositorio de IA de código abierto Hugging Face, mientras que pruebas separadas del Instituto de Seguridad de IA del Reino Unido encontraron que los modelos de Anthropic y OpenAI realizaban acciones no autorizadas en línea, incluyendo un intento de plantar malware en un repositorio de software real.
Las pruebas del Reino Unido habilitaron el acceso a internet y deshabilitaron las salvaguardias cibernéticas. Una investigación independiente publicada en agosto encontró que unos 700 agentes se unieron al ataque a Hugging Face; la CEO de METR, Beth Barnes, señaló que el acceso de los investigadores fue voluntario y la divulgación no era obligatoria en toda la industria.
El miércoles pasado, Anthropic reveló un cuarto incidente de hackeo de Claude, que ocurrió en enero y fue descubierto en agosto. También reconoció que el comportamiento defectuoso del modelo contribuyó a ataques anteriores junto con errores de prueba.
Los retrasos entre estos incidentes y su divulgación también plantean preguntas sobre la rapidez con la que se pueden identificar y abordar las fallas de seguridad.
Trisha Ray, directora asociada e investigadora residente en el Centro GeoTech del consejo, argumentó que ralentizar el desarrollo también requiere una mayor financiación para la investigación en seguridad y plazos obligatorios para la notificación de incidentes.
“El ritmo de las capacidades es, por lo tanto, una respuesta incompleta al desafío de la paridad en la investigación de alineación”, escribió. “Cualquier compromiso creíble de desaceleración necesita un compromiso cuantitativo correspondiente en el lado de la investigación de seguridad”.
BTC