冷戰期間，新科技幫助打破了核武方面的政治僵局。這對於人工智慧來說可能嗎？ – Chloe Dowling 為《時代》雜誌拍攝的照片插圖（圖片來源：Olga Yastremska-Getty Images、Narumon Bovonkidvanchai-Getty Images、FHM/Getty Images）在冷戰最深處，一種可怕的邏輯演變成美國和蘇聯之間的核軍備競賽，足以加劇軍備競賽。文明必須多次終結。但幾十年來，我們無法相信對方會遵守任何裁軍協議。然而，在 1980 年代，科學家們開發了地震儀、衛星和未損壞的相機。現在雙方都可以監視對方，解除武裝就開始了。俄羅斯諺語「信任，但要核實」定義了有助於結束冷戰和避免核災的方法。如今，美國政府開始將人工智慧視為潛在的大規模殺傷性武器。美國和中國正在競相開發能夠偵測世界軟體安全缺陷的人工智慧系統以及具有破壞力的新型自主武器。 6 月 12 日，美國政府封鎖了 Anthropic 的《克勞德神話》和《神鬼寓言 5》模型，實質上認為它們都是網路武器，不能落入陌生人手中。結果是戰略僵局。美國和中國都不希望發生災難，但我們不可能相信放慢速度除了將勝利拱手讓給對方之外還有其他作用。隨著人工智慧競賽達到網路安全的關鍵拐點，美國主要人工智慧實驗室的領導者表示，他們可能支持放慢速度——如果能實現的話。 「我們認為，如果我們能夠有效地減緩這項（人工智慧）技術的發展，讓我們有更多時間來處理其巨大影響，這將是一篇好文章。「但如果經濟衰退讓科技趕上那些行動不那麼謹慎的人，那麼每個人受到的保護就會減少。 」 6 月，OpenAI 執行長 Sam Altman 寫道，世界需要一個新的全球體系，「使世界能夠採取一致行動，包括在必要時放慢前沿（AI）發展」。「軍備競賽的一部分內容是，如果我們暫停，中華人民共和國不會暫停嗎？然後我們都發現自己被中國介導的人工智慧所奴役？ 「然而，停滯被認為是不太可能的，因為驗證各方是否遵守的技術尚不存在。換句話說，人工智慧時代的地震儀和衛星還不存在。但如果它們存在呢？一個新的新創團隊正在建立所謂的『驗證』工具，該工具將透過讓各方相信其競爭對手會遵守規定來放鬆監管。開發檢查慣性的工具正如冷戰時期的審查制度不允許任何一方竊取核機密一樣，支持者表示，人工智慧審查的關鍵部分是在不損害人工智慧公司商業機密的情況下進行監督。 LucidComputing 的使命就是致力於實現這一點。英特爾和英偉達等公司已經開發出晶片，允許資料中心所有者安全、保密地計算資料。這個想法是，專門的軟體可以位於這些可信任環境中，檢查人工智慧，並驗證它是否符合給定的規則。例如，它可以確認特定模型正在被驅動，或確定晶片是否被用於新模型的訓練，這可能是非法的。本質上，該軟體在可信任處理環境之外發送是或否訊號，不會向任何人透露晶片正在做什麼。 Computering 表示，這種方法是由哲學家 Nick Bostrom 在 2019 年創造的，他想像超強大人工智慧的危險有一天可能會促使各國實施專制式監視，以防止世界末日。一個極權國家正在監視我們的一舉一動，」羅恩說。「這兩種極端情況看起來都非常糟糕……我們想說的是，你實際上可以通過密碼學，同時維護隱私和安全。但他表示，它還不夠成熟，不足以保證任何國際協議都達成。目前還沒有達成這樣的協議，但我確信各國政府還需要一段時間才能坐下來努力監管人工智慧，也許當開源模型接近 Claude Mythos 等模型所展示的網路能力時。 「我們希望（驗證技術）在那裡，我們希望它成為一支由民族國家參與者和實驗室組成的紅隊，隨時準備出發，」他說。 「我們不想太晚。太晚會帶來現實世界的後果。」讓中國相信西方開發的驗證技術可能很難。 2025年，在美國立法者呼籲更好地執行美國出口管制並提出追蹤人工智慧晶片位置並遠端禁用它們的措施後，北京譴責了英偉達。 （NVIDIA 強烈否認其晶片具有這些功能。）如果驗證技術僅在美國開發，中國就有可能將其視為間諜軟體。具體檢查什麼？在大西洋彼岸，英國工程公司 Amoto Design 正在採取不同的方法。它被稱為重新計算，它的工作原理是重播組織的部分人工智慧工作負載並檢查結果，允許外部審計員確認資料中心正在運行商定的人工智慧模型，而不是默默地訓練更強大的模型。 Amoto 聯合創始人 Thomas Milton 警告說，沒有一種驗證工具是足夠的。檢查是「一個階梯，而不是一次性解決方案」：是一系列檢查，一開始可能很粗糙，但隨著時間的推移會變得更加嚴格，就像冷戰期間一樣。這兩種方法都有一定的限制。例如，Amodo 或 Lucid 的檢查已知晶片的方法無法確保對手沒有將秘密資料中心隱藏在山下的某個地方。 「訓練跑道比飛彈坑更容易隱藏，」人類在六月指出。蘭德公司研究人員在一篇論文中指出，為了克服這個問題，可能需要至少六種不同類型的驗證。除了軟體監控系統之外，人工智慧硬體還包括內建安全功能、監控資料中心的網路網路以及舉報人安全計畫、員工訪談和情報系統監控等傳統措施。他們有能力確保他們的對手也這樣做。目前尚不清楚中國是否會支持一項會受到美國人工智慧公司歡迎的暫停措施。當然，美國企業界關於中斷的大部分言論可能只是虛張聲勢——對於那些知道中斷是非政治性開始的領導人來說，這只是簡單的聲明。但蘭德公司這篇論文的合著者、獨立人工智慧政策專家 Leonard Heim 表示，還有另一個關鍵問題讓事情變得更加複雜。問題在於，目前還沒有人就他們想要驗證的內容達成一致。放慢人工智慧的速度在理論上聽起來很簡單，但在實務上很難指定不留下明顯漏洞的約束。有各種不同的方法來衡量人工智慧系統的能力和行為。這些措施通常是主觀的，並且很快就會過時。所有這些都表明，在公司或國家坐在談判桌前之前，試圖開發驗證技術的新創公司的目標是不確定的。海姆說，因此解決人工智慧治理可能是一個困難的政策問題。核武相對容易。低濃度的鈾可用於核能，但核武需要高純度——因此武器研究人員可以針對此單一因素設計測試。 「這是一處美麗的房產，」海姆說。 “人工智慧不是那樣的。完全不是。”
來源連結
