英國外交大臣伊薇特·庫珀（Yvette Cooper）警告，如果各國政府在制定管理人工智慧的法律方面等待觀望，將可能重蹈核時代初期所犯的錯誤。

庫珀在週一發表的一篇文章中表示，人工智慧帶來了突破，但隨著這項技術變得越來越強大和普及，也帶來了新的風險。

庫珀寫道：「上個月，在中國深圳，我看到了人工智慧和機器人技術在挽救生命的醫療保健方面所展現的非凡前景。」「但同樣的技術也正在以令人擔憂的方式重塑戰爭、犯罪和社會凝聚力的未來。」

庫珀表示，管理人工智慧帶來的風險可能成為「未來十年最大的安全挑戰」，並主張各國政府需要在危機迫使行動之前，就前沿技術達成國際協議。

她將目前開發人工智慧系統的競賽與早期的核軍備競賽相比較，表示全球安全協議是在各國目睹原子武器造成的破壞之後才出現的。

庫珀寫道：「在核能方面，國際協議是在全世界目睹廣島那項新技術的恐怖力量之後才達成的。」「我們不能等到出現人工智慧版的廣島才採取行動。」

庫珀呼籲英國利用其外交影響力，促成美國、中國和其他主要人工智慧強國共同建立共享的安全原則和標準，並提及在布萊切利公園舉行的2023年AI安全峰會，來自29個國家和歐盟的全球領導人在會上討論了人工智慧的新興風險。庫珀稱這展示了英國「在AI安全問題上凝聚全球」的能力。

庫珀的警告發出之際，正值數個月來各界對各國政府應如何監管日益強大的人工智慧系統的擔憂不斷升級。

今年5月，英國AI安全研究所警告稱，在OpenAI的GPT-5.5繼Anthropic的Claude Mythos Preview之後，成為第二個無需人類協助完成模擬網路攻擊的模型後，AI網路安全能力取得了快速提升。

幾天後，國際貨幣基金組織（IMF）警告，人工智慧可能透過降低利用漏洞所需的技能，來「放大」針對全球金融系統的網路攻擊，並敦促政策制定者將網路安全視為金融穩定問題，而非單純的技術問題。

今年6月，美國總統唐納德·川普簽署了一項行政命令，建立了一個自願性框架，用於在發布前審查先進的人工智慧模型，擴大AI網路安全計畫，並指示各機構評估前沿AI模型可能帶來的國家安全風險。

同月，人工智慧產業內部也出現了要求更嚴格規範的呼聲，Anthropic執行長達里奧·阿莫迪（Dario Amodei）主張透明度要求已不足夠，並呼籲對前沿模型進行強制性第三方測試。此後，美國政府曾因國家安全考量，命令Anthropic限制對Claude Fable 5和Mythos 5的存取，並於7月解除此命令。