歐洲監管機構警告，具自主能力的AI（代理式AI）的快速發展已超越現有法規制定速度，中央銀行和金融主管機關呼籲採取新防護措施，以降低金融市場風險。
根據在葡萄牙辛特拉舉行的歐洲央行年會上的發言，資深決策者表示，當前的監管程序難以跟上AI系統的發展速度，這些系統的演變是以數週或數月而非數年計算。
英國央行副總裁莎拉·布里登（Sarah Breeden）週二在會上表示，決策者應考慮引入類似市場熔斷機制或緊急停止開關的防護措施，這些措施能在故障的AI模型於壓力時期引發市場全面混亂時暫停交易。
布里登表示，具自主能力的AI可能會放大市場波動性，並補充說，與AI投資相關的債務融資增加，可能會在AI相關資產價格急劇下跌時，增加金融穩定風險。
這些擔憂是在國際清算銀行於6月28日發布報告警告後數天提出的。報告指出，對人工智慧的長期熱情可能使市場面臨突然修正的風險。國際清算銀行表示，為抑制通膨而採取的緊縮貨幣政策，可能在長期冒險後引發AI相關資產價格急劇下跌，從而產生破壞性的宏觀金融反饋循環。
國際貨幣基金組織（IMF）貨幣與資本市場部主任托比亞斯·阿德里安（Tobias Adrian）於6月30日向彭博社表示，該領域也面臨著實體AI基礎設施的長期性與用於資助其的債務短期性之間可能存在的不匹配。
此外，歐洲央行總裁克莉絲汀·拉加德（Christine Lagarde）週四向法國報紙《迴聲報》（Les Echos）表示，人工智慧現在構成的挑戰比傳統網路安全威脅更為嚴峻，因為這項技術發展迅速，而防禦能力和資金仍在追趕中。
在接受CNBC節目《Squawk Box》的單獨採訪時，英國金融行為監管局（FCA）執行長尼基爾·拉蒂（Nikhil Rathi）表示，傳統的監管週期已不再適用於以數週或數月為單位變化的技術。拉蒂表示，監管機構將需要採取新方法並與業界更緊密合作，而非僅依賴冗長的法規制定程序。
最新的警告是在歐洲近期關於先進AI系統存取權限的政策辯論之後發出的。
上個月，奧地利敦促歐盟考慮在歐盟內部建立Anthropic，此前美國的出口限制限制了外國對該公司最先進AI模型的存取。
奧地利數位化國務秘書亞歷山大·普羅爾（Alexander Proell）認為，歐洲不應因區域外的決策而冒著失去對前沿AI存取權限的風險。
據此前報導，Anthropic於6月暫停了其Fable 5和Mythos 5模型的公開存取權限，此前美國一項出口管制指令要求該公司因與據報的越獄技術相關的網路安全擔憂而阻止外國國民的存取。
在Anthropic引入旨在阻止網路安全相關濫用的新分類器和防護措施後，美國當局隨後批准了這些模型的重新部署。
