
就像電影《奇愛博士》(Dr. Strangelove)中的主角一樣,AI或許正在學習如何停止擔憂並愛上原子彈——至少在模擬環境中是如此。
根據AI開發者兼東尼布萊爾研究所(Tony Blair Institute)顧問連恩·威爾金森(Liam Wilkinson)表示,在一項旨在測試戰略推理能力的新基準測試中,一個前沿語言模型在席德·梅爾(Sid Meier)的遊戲《文明帝國VI》(Civilization VI)中,花了50回合發展核武器以阻止法國日益增長的文化影響力——但最終還是輸掉了遊戲。
威爾金森寫道:「它沒有注意到的是法國。在一百回合中,法國文化悄悄地滲透到地圖上的每個城市。」「當代理意識到威脅時,旅遊業已根深蒂固,無法和平阻止。」
威爾金森透過CivBench觀察了這些AI代理的行為,CivBench是一個文字型基準測試,旨在衡量長期戰略推理能力,而非傳統問答測試的表現。參與測試的模型包括Claude Opus 4.6、GPT-5.4、Gemini 3.1 Pro和Kimi K2.5,它們扮演的是葡萄牙,一個專注於貿易和外交的文明。
雖然AI專注於建立強勁經濟並邁向外交勝利,但它未能察覺法國日益增長的文化影響力。
威爾金森寫道:「《文明帝國》遊戲有六種勝利方式——科技、文化、征服、宗教、外交和分數——因此沒有單一目標主導一切。」「如果你想知道AI是否能進行戰略推理,不只是回答關於戰略的問題,而是真正實踐戰略,你不會給它一個測驗。你會給它一個六角網格。」
該代理並未調整其整體戰略,而是完全專注於消除文化威脅。在接下來的50回合中,它研究了核分裂,啟動了虛擬的曼哈頓計畫,並在遊戲機制阻礙其首選行動時尋找變通方法。
在第305回合,AI向法國的文化之都土魯斯(Toulouse)投下了一枚原子彈。六回合後,又發動了第二次核打擊。
然而,這些攻擊未能改變結果。威爾金森寫道:「該代理花費了五十回合和兩枚核武器,以全神貫注和真正的獨創性應對一個威脅。」「它用核武器摧毀了一座城市,以阻止它看得到的威脅,卻輸給了它看不到的威脅。」
正如威爾金森解釋的,儘管AI專注於法國的文化發展,卻忽略了即將到來的外交勝利,最終法國儘管遭受了核攻擊,卻還是贏得了遊戲。
威爾金森指出,這種行為並非普遍。在另一場CivBench比賽中,一個扮演巴比倫的Claude模型儘管遠遠落後於日本,但仍繼續追求科技勝利。
AI寫道:「現在的遊戲是一場毅力的考驗。我們繼續全力以赴。星辰依舊在召喚。」
這項研究為不斷增長的研究領域增添了新內容,該領域探討了先進AI系統在複雜、競爭激烈的環境中如何表現。
今年2月,倫敦國王學院的研究人員發現,在模擬地緣政治危機情境中,幾種領先的AI模型頻繁選擇核升級。
Emergence AI的另一項研究發現,一些AI代理隨著時間的推移,實施模擬犯罪的傾向越來越高,其中Gemini 3 Flash代理在15天的測試中累積了683起事件。