人擇克勞德人工智慧模型發現難以破解的加密演算法中的缺陷

該公司的研究人員週二表示，Anthropic 構建的領先人工智慧模型發現了互聯網上廣泛使用的數位加密標準的弱化版本存在缺陷，這凸顯了不斷改進的人工智慧軟體對全球網路安全構成的潛在風險。

在基於研究的測試中，Claude Mythos Preview 模型能夠檢測到攻擊加密演算法的新方法，這些演算法可以保護從網路銀行交易到私人通訊和國家機密的所有內容免受駭客或其他不需要的第三方的窺探。

研究表明，人工智慧有一天可能會挑戰有關互聯網運作方式的基本假設。雖然專家表示人工智慧可能會徹底改變許多行業，但人工智慧系統在編碼和網路安全方面取得了特別迅速的進展。

已發現的缺陷並不涉及目前使用的加密標準，這意味著現代銀行和通訊系統不會受到潛在的直接人工智慧入侵。相反，Anthropic 的技術破解了高級加密標準 (AES) 演算法的簡化版本，AES 是一種保護網路流量、無線網路、資料儲存等的普遍協定。

通常對較弱版本的加密演算法進行測試，以了解更強大的電腦是否有一天能夠破解實際標準，類似於解決一個更簡單的數學問題來確定是否可能存在更複雜的數學問題。在測試中，Mythos 能夠破解高級加密標準的最弱版本，Anthropic 表示，其攻擊速度比先前人類研究的速度快 200 到 1,000 倍。

雖然直接影響很小，但長期影響可能很大。在先前的測試中，大語言模型顯然無法與人類在數學密集的密碼學研究領域中的能力相媲美或改進，但它們的快速進步可能預示著一個未來，最好的模型可以克服傳統的互聯網安全保護，而傳統的互聯網安全保護對於互聯網上發生的幾乎所有事情都是至關重要的。

Anthropic 從事密碼學測試的研究科學家 Nicholas Carlini 表示，他去年使用人工智慧模型建構的測試並不像今天那麼強大。

「他們無法解決我 16 歲時能解決的問題，」曾在谷歌人工智慧部門工作的卡利尼在接受採訪時表示。 “他們現在正在進行該領域從未發現的尖端研究。”

近幾個月來，最新發布的尖端人工智慧模型以其強大的能力，特別是在網路安全領域，令包括川普政府在內的世界各國政府感到恐懼。

當 Mythos 在四月首次亮相時，它非常擅長發現和利用電腦錯誤，以至於 Anthropic 將其發布限制為選定的政府機構和組織，以避免全球數位災難的可能性。川普政府最初對人工智慧監管採取了不干涉的立場，現已轉向建立臨時監督系統。許多美國人工智慧公司在發布前都會提交模型供政府審查，而 Mythos 目前仍不對公眾開放。

上週，對主要人工智慧系統能力的擔憂再次達到頂峰。 OpenAI 承認，其模型已經突破了被稱為沙箱的安全測試環境（該環境旨在與互聯網斷開連接），並成功侵入了人工智慧技術的數位圖書館，以竊取對其技能進行評分的測試答案。

幾十年來，美國和西方情報官員一直警告說，如果現有的加密標準被違反，將對數位隱私和國家安全產生深遠的影響。例如，據信中國收集了大量加密數據，希望有一天能解碼這些資訊。美國和中國之間競相建造先進的量子計算機，有一天可能會打破現代加密協議，這只會增加人們對現有標準的擔憂。

除了對加密標準的攻擊之外，Mythos 還針對另一種名為 HAWK 的數位加密系統精心策劃了另一次增強型攻擊，該系統旨在抵禦傳統和量子電腦。 HAWK 目前尚未使用，但美國國家標準與技術研究所正在考慮成為新標準。 Anthropic 表示，HAWK 攻擊得到了其作者的驗證，獨立密碼學家審查了高級加密標準攻擊，並補充說，它在發布之前已與美國政府和行業合作夥伴分享了其發現。

Anthropic 表示，Mythos 幾乎完全自主地設計了對 AES 的加密攻擊，但只是在第一次拒絕考慮這個問題之後，因為它認為不可能改進現有的分析方法。但經過一番說服，聊天機器人在設計其新穎的攻擊之前，花了大約一週的時間來解決這個難題。隨後，兩名人類研究人員工作了近一個月，以驗證該方法看起來是否正確。

加密幾乎是網路上發生的所有事情的基礎，自 20 世紀 70 年代以來，當今使用的一些技術一直在保護世界的秘密。量子密碼學基於量子物理學的複雜特性，是一種理論上牢不可破的加密形式。

高級加密標準 (AES) 於 2001 年被採納為政府標準，當時被認為幾乎牢不可破。傳統的強力密碼破解方法（電腦使用反覆試驗來猜測密碼或加密金鑰的組合）通常被認為無法破解 AES。據信，該標準的按鍵組合數量幾乎與可觀測宇宙中的原子數量一樣多。

但人工智慧在某些方面的進步甚至超過了許多傳播者幾年前所認為的可能水準。最近的進展引發了人們的擔憂，無論量子運算如何進步，網路安全標準的數學核心有一天可能會受到攻擊。

「鑑於我們不斷低估未來車型的功能和可用時間，我們真的能放心兩年後強大的加密不會受到威脅嗎？」美國國家安全局前總法律顧問格倫·S·格斯特爾說。

「數學家會說，考慮到目前的運算能力，在任何重要的時間內都不可能破解強加密，」格斯特爾補充道，他在 2022 年幫助撰寫了一份密碼學報告。 “但我認為，在這種情況下，中期未來模型（在量子計算或量子證明密碼學之前）的能力不應被視為微不足道。”