Los reguladores europeos han advertido que los rápidos avances en la inteligencia artificial agéntica han superado la normativa existente, y los bancos centrales y las autoridades financieras piden nuevas salvaguardias para reducir los riesgos en los mercados financieros.
Según declaraciones realizadas durante la reunión anual del Banco Central Europeo en Sintra, Portugal, altos responsables políticos dijeron que los procesos regulatorios actuales están luchando por seguir el ritmo de los sistemas de IA que evolucionan en semanas o meses en lugar de años.
Hablando en el evento el martes, la vicegobernadora del Banco de Inglaterra, Sarah Breeden, dijo que los responsables políticos deberían considerar salvaguardias similares a los disyuntores de mercado o interruptores de seguridad (kill switches) que podrían detener las operaciones si modelos de IA defectuosos desencadenan una disrupción en todo el mercado durante períodos de estrés.
Breeden dijo que la IA agéntica podría amplificar la volatilidad del mercado y añadió que el creciente financiamiento de deuda vinculado a inversiones en IA podría aumentar los riesgos para la estabilidad financiera si los precios de los activos relacionados con la IA disminuyen drásticamente.
Estas preocupaciones surgieron pocos días después de que el Banco de Pagos Internacionales (BPI) advirtiera en un informe del 28 de junio que el entusiasmo prolongado en torno a la inteligencia artificial podría dejar a los mercados expuestos a una corrección repentina. Según el BPI, una política monetaria más estricta para contener la inflación podría desencadenar una fuerte caída en los precios de los activos relacionados con la IA después de una toma de riesgos prolongada, creando bucles de retroalimentación macrofinancieros disruptivos.
Entre otros, Tobias Adrian, director del Departamento Monetario y de Mercados de Capitales del Fondo Monetario Internacional, dijo a Bloomberg el 30 de junio que el sector también enfrenta un posible desajuste entre la naturaleza a largo plazo de la infraestructura física de IA y el vencimiento más corto de la deuda utilizada para financiarla.
Por otra parte, la presidenta del Banco Central Europeo, Christine Lagarde, dijo al periódico francés Les Echos el jueves que la inteligencia artificial presenta ahora un desafío más serio que las amenazas de ciberseguridad tradicionales porque la tecnología avanza rápidamente mientras que las capacidades defensivas y la financiación aún se están poniendo al día.
En una entrevista separada con Squawk Box de CNBC, el director ejecutivo de la Autoridad de Conducta Financiera del Reino Unido, Nikhil Rathi, dijo que los ciclos regulatorios convencionales ya no son adecuados para tecnologías que cambian en semanas o meses. Rathi dijo que los reguladores necesitarán nuevos enfoques y una cooperación más estrecha con la industria en lugar de depender únicamente de largos procesos de elaboración de normas.
Las últimas advertencias siguen a recientes debates políticos sobre el acceso a sistemas avanzados de IA en Europa.
El mes pasado, Austria instó a la Unión Europea a explorar el establecimiento de Anthropic dentro del bloque después de que las restricciones de exportación de EE. UU. limitaran el acceso extranjero a los modelos de IA más avanzados de la compañía.
El Secretario de Estado austriaco para la Digitalización, Alexander Proell, argumentó que Europa no debería arriesgarse a perder el acceso a la IA de frontera debido a decisiones tomadas fuera de la región.
Como se informó anteriormente, Anthropic suspendió el acceso público a sus modelos Fable 5 y Mythos 5 en junio después de que una directiva de control de exportaciones de EE. UU. requiriera que la compañía bloqueara el acceso a ciudadanos extranjeros por preocupaciones de ciberseguridad vinculadas a una técnica de jailbreak reportada.
Las autoridades estadounidenses autorizaron posteriormente los modelos para su redespliegue después de que Anthropic introdujera nuevos clasificadores y salvaguardias diseñados para bloquear el uso indebido relacionado con la ciberseguridad.
