Anthropic 的 Glasswing 專案旨在提高線上安全性
喬納森·拉阿/NurPhoto 來自蓋蒂圖片社
在過去的幾周里，出現了有關 Mythos 的令人不安的消息，Mythos 是一種人工智慧，可以在幾秒鐘內識別網路安全缺陷，使作業系統和軟體容易受到駭客的攻擊。網路安全社群現在開始更了解 Mythos 如何改變網路安全的面貌，而且不一定會變得更糟。
什麼是神話？為什麼它會困擾人們？
Mythos 是 Anthropic 創建的人工智慧。上個月，當人們發現該公司網站上的內容未受到保護以供公眾查看時，它的存在無意中被揭露。
根據 Anthropic 的說法，該模型被關起來有一個很好的理由：它非常適合駭客攻擊，這更多是出於偶然，而不是設計。據說，如果有要求，它可以檢測幾乎所有軟體中的缺陷，從而允許用戶破解它。
該公司表示，Mythos 已在作業系統和其他軟體中發現了數千個高風險漏洞。人類沒有回應 新科學家》要求置評，但該公司在其網站上表示，“對經濟、公共安全和國家安全的後果可能是嚴重的。”
該公司表示，它採取了負責任的步驟並隱藏了這一訊息。
那麼根本就沒有人可以使用它嗎？
並不真地。 Anthropic 決定在一個名為 Project Glasswing 的專案中向亞馬遜網路服務、蘋果、谷歌、摩根大通、微軟和 NVIDIA 等精選的科技和金融巨頭提供該服務，以便他們能夠先於其他人發現自己軟體中的任何錯誤。
私人線上論壇的成員也設法未經授權存取該試驗。報導稱，他們只是對模型將在網路上發布的位置進行「有根據的猜測」——同樣的問題最初導致了 Mythos 的存在。也許一家如此關注網路安全的公司應該更加關注自己的安全。
儘管該模型最初是為了保密而不被使用，但現在它受到了極大的關注，並正在接受一些世界頂級網路安全專家的測試。當然，其中許多公司也是 Anthropic 最大的潛在客戶 – 對 Mythos 力量的炒作肯定不會對 Anthropic 造成任何傷害。
安全專家戴維·奧滕海默（Davy Ottenheimer）在一篇部落格文章中將這種情況描述為「合法的技術潛力被從這種重新框架中受益的一方重新定義為文明威脅」。
真的像人們想像的那麼危險嗎？
英國阿爾斯特大學的凱文柯蘭 (Kevin Curran) 表示，Mythos 及其功能的曝光“已經引起了整個安全行業的恐慌”，儘管研究人員對於威脅的嚴重程度存在分歧。 「當一台機器可以在幾秒鐘內完成熟練的人類駭客需要幾個月才能完成的事情時，會發生什麼？」他想知道。
但有跡象表明，現在還不是恐慌的時候。獲得 Mythos 訪問權限的組織之一 Firefox 的 Bobby Holley 在他的部落格中寫道，該模型幫助他的團隊發現了 271 個網路瀏覽器漏洞，這確實是很多，但沒有一個漏洞如此巧妙、難以理解或複雜到人們無法挖掘出來。
霍利寫道：「到 2025 年，只要出現一個這樣的錯誤，就會成為紅色警報，而如此大的數量會讓你懷疑是否有可能跟上。」 「令人欣慰的是，我們也沒有發現任何錯誤 不能 是由一位人類精英探險家發現的。 」
2023 年英國人工智慧高峰會後，時任英國首相 Rishi Sunak 成立的人工智慧安全研究所 (AISI) 也對 Mythos 進行了研究。在測試中，發現它只能攻擊“小型、保護薄弱且易受攻擊的企業系統”，並且沒有跡象表明真正安全的軟體或網路會受到損害，儘管它比以前的模型有所進步。 AISI 警告稱，情況正在迅速改善。 AISI 未對此事發表評論 新科學家 討論威脅。
英國薩里大學的艾倫·伍德沃德 (Alan Woodward) 對 Mythos 以及所有其他人工智慧模型所構成的威脅持務實的看法，這些模型也具有不同程度檢測網路漏洞的能力。 「人工智慧不一定能夠找到人類找不到的漏洞，但它更快、更徹底、更無情。因此，它能找到人類錯過的漏洞，」他說。 「正如 Mythos 所證明的那樣，人工智慧使攻擊者變得更加高效，並賦予他們速度和敏捷性，使防禦變得困難，但又不會使其變得不可能。”
因此，雖然 Mythos 可能會發現規模和速度方面的缺陷，但它還沒有發現任何破壞性的東西。甚至有理由相信這實際上可能是一件好事。
黑客AI如何積極向上？
「缺陷是有限的，我們正在進入一個最終可以找到所有缺陷的世界，」霍利寫道。本質上，如果您創建或維護軟體，您還可以使用 Mythos 來分解您自己的程式碼並修復它——甚至可能在它發布之前。
人工智慧幾乎肯定會變得更有能力發現缺陷，攻擊者幾乎肯定會在某種程度上從中受益。但這也將有助於軟體製造商，儘管那些維護幾十年前編寫的陳舊、笨重的政府軟體的人可能會發現很難跟上。
甚至 Anthropic 也認為，人工智慧駭客最終將使防禦者比攻擊者受益更多，但同樣，如果不這樣說，就很難證明他們的創造是合理的。
從本質上講，人工智慧使得入侵和防禦駭客變得更加容易，並且將繼續變得更加容易，但忽視這項技術的人將處於不利地位。
「將神話視為一次警告，」柯蘭說。 “我們假設在 18 個月內，對手就掌握了類似的能力。搶佔先機的窗口是打開的，但它很快就會關閉。”
主題：
