
數十年來,攻擊者在網路安全領域一直佔據上風。人工智慧或許即將改變這一局面。
在週二發布的一篇部落格文章中,Firefox 瀏覽器開發商 Mozilla 表示,Anthropic 的早期版本 Claude Mythos AI 模型在內部測試期間幫助發現了瀏覽器中的 271 個漏洞。這款人工智慧模型因其據稱的網路安全實力而在最近幾週受到關注。這些漏洞已於本週修補。
這些結果突顯了先進人工智慧系統如何能夠分析大型程式碼庫並找出以前需要人類網路安全研究人員大量手動審查才能發現的弱點。
Mozilla 寫道:「隨著這些能力掌握在更多防禦者手中,許多其他團隊現在也正經歷著與我們首次發現時相同的眩暈感。」「對於一個堅固的目標來說,光是一個這樣的漏洞在 2025 年就足以發出紅色警報,而一次發現這麼多漏洞會讓人不禁懷疑是否有可能跟得上。」
Mozilla 先前曾測試過另一個 Anthropic 模型,該模型在先前的 Firefox 版本中發現了 22 個安全敏感漏洞。儘管取得了這些成功,Mozilla 承認網路安全產業長期以來一直將徹底消除軟體漏洞視為「不切實際的目標」。
該公司寫道:「迄今為止,這個產業在安全方面大多打成平手。」「像 Firefox 這樣關鍵的網路暴露軟體供應商極其重視安全,並擁有每天早上起床就思考如何保護使用者安全的團隊。」
Mozilla 表示,這套新的人工智慧系統能夠分析原始碼並以過去依賴稀缺人類專業知識的方式識別漏洞。然而,Mozilla 表示,該公司欣慰地發現沒有任何漏洞是「頂尖人類研究員」無法發現的。
他們說:「一些評論員預測,未來的人工智慧模型將會發現完全超出我們目前理解範圍的新型漏洞,但我們不這麼認為。」「像 Firefox 這樣的軟體是以模組化的方式設計的,以便人類能夠推論其正確性。它很複雜,但並非任意複雜。」
然而,這些結果表明,人工智慧工具可能讓開發人員在攻擊者利用漏洞之前發現大量漏洞——但反過來說,如果落入壞人之手,這也可能為軟體公司和使用者帶來大麻煩。
於三月推出的 Mythos 是 Anthropic 在推理、編碼和網路安全任務方面最先進的模型。公司內部資料將該系統描述為超越該公司早期 Opus 系列的新模型層級的一部分。
在模型發布前進行的測試顯示,它能夠在主要作業系統和網路瀏覽器中識別出數千個以前未知的漏洞。
Anthropic 透過一個名為「玻璃翼計畫」(Project Glasswing)的限制性計畫,限制了對該系統的存取,該計畫允許選定的科技公司——包括亞馬遜、蘋果和微軟——使用該模型掃描軟體中的弱點。這反映了網路安全產業內部日益增長的努力,即利用人工智慧系統在攻擊者利用漏洞之前識別並修補它們。
然而,同樣的技術也可能促成新型態的網路攻擊。安全研究人員表示,能夠大規模分析程式碼的人工智慧系統可以自動發現廣泛使用的軟體中的可利用漏洞。
Mythos 推出後,英國人工智慧安全研究所的測試發現,該人工智慧系統能夠自主執行複雜的網路操作,包括在沒有人類協助的情況下完成多階段的企業網路攻擊模擬。這些能力引起了各國政府和情報機構的關注。
儘管前總統唐納德·川普的政府曾呼籲停止使用 Anthropic 的技術,因為其在戰爭和監控方面的應用存在爭議,但據熟悉部署情況的消息來源透露,國家安全局(NSA)已於週一在機密網絡上運行 Claude Mythos 預覽版。Mythos 的使用突顯了美國安全機構對該模型識別關鍵軟體漏洞能力的日益增長興趣。
該模型的性能也暴露了現有 AI 評估系統的局限性。本月稍早,Anthropic 承認,一些網路安全基準已不足以衡量其最新模型的能力。
Mozilla 表示,這些結果預示著網路安全領域可能發生轉變,防禦者或許能夠開始縮小攻擊者長期以來所擁有的優勢。
Mozilla 寫道:「我們為團隊如何應對這項挑戰而感到非常自豪,其他人也會如此。」「我們的工作尚未完成,但我們已經轉危為安,可以瞥見一個遠比僅僅維持現狀更好的未來。防禦者終於有機會決定性地獲勝。」
Mozilla 未立即回應 Decrypt 的置評請求。