Anthropic 受到沒人理解的出口規則的打擊

在川普政府突然命令該公司切斷所有外國人（包括美國境內用戶及其員工）的訪問權限後，Anthropic 本週大部分時間都在忙著讓其新的人工智慧模型重新上線，迫使 Anthropic 阻止所有人訪問《神鬼寓言 5》和《神話 5》。

川普政府尚未公開解釋該命令的法律依據，但 Anthropic 在其網站上的一份聲明中表示，政府援引「國家安全原則」來證明針對這些模型的「出口管制指令」的合理性。 （Anthropic 還聲稱，政府擔心與中國有關的團體可能利用「越獄」來存取其模型，從而阻止用戶繞過該公司的所有保護措施。）

但為什麼政府要利用出口管制規則來因應呢？專家表示，這起事件似乎是史無前例的，揭示了人工智慧治理的不確定性和不穩定階段。 Anthropic 到底該輸出什麼？ （該公司未回應 邊緣請求評論。 ）

出口管制傳統上適用於可以跨境運輸的物品：武器、五金、工具等。隨著時間的推移，該框架擴展到涵蓋軟體、原始碼、技術數據，甚至 3D 列印武器文件等無形商品。這些仍然是不同的東西，可以複製、下載、發布或以其他方式交付和接收，而不僅僅是透過聊天機器人等遠端服務使用。在人工智慧的背景下，喬·拜登總統已經開始以這種方式控制人工智慧模型的權重——使模型發揮作用並可以在其他地方複製和運行的基本數據。這個想法很快就被第二任期的川普政府放棄了。

人類秩序不太適合這種背景。沒有明顯的移植：Mythos 和 Fable 仍然託管在 Anthropic 的伺服器上，用戶不會收到原始程式碼、模型權重或模型本身的副本，而是收到聊天機器人對其查詢的答案。導出可能是模型生成的一些特定信息，但尚不清楚為什麼這需要禁用對整個系統的訪問，而不僅僅是限制其中的一部分。也可能是存取本身——儘管對雲端服務的遠端存取是當前出口管制制度中的已知漏洞，國會已經試圖透過參議院正在審議的立法來彌補這一漏洞。

喬治城大學安全與新興科技中心資深研究分析師 Hanna Dohmen 表示 邊緣 在不考慮其背後的確切語言的情況下，該條款是否延伸了現有規則，這是一個「懸而未決的問題」。 “無論如何，這項規定相當了不起，因為據我所知，這是美國出口管制首次以這種方式控制對人工智慧模型的訪問。”

加州大學柏克萊分校高盛公共政策學院教授安德魯·雷迪說：「說這是出口管制規則制定中一個不穩定的領域，這還算輕描淡寫。」他說，出口管制規則和槍支管制等其他制度為政府提供了「很大的餘地」來限制某些商品的獲取。但他表示，「歷屆政府對模型開發人員責任的懷疑」使得公司很難理解對他們的期望。

這讓該行業陷入困境。如果 Anthropic 成為目標是因為 Mythos 和 Fable 具有獨特的能力，那麼該命令就會對 OpenAI、Google、Meta、xAI 和任何其他前沿實驗室的下一代模型提出明顯的問題。如果他們因為具體的保護問題而成為目標，政府必須描述它認為哪些保護措施是充分的。如果 Anthropic 因其與川普政府的緊張關係而脫穎而出，那麼該命令就變得更加難以理解。

專家表示，無論哪種方式，這都不是管理邊境人工智慧的可持續方式，特別是如果美國想保持其全球領先地位的話。這一事件已經加劇了人們的爭論，即非美國政府和公司應該對依賴美國公司訪問具有戰略意義的系統保持警惕。

雷迪也有類似的擔憂。 「在某種程度上，我認為這一事件清楚地表明了現有治理體制的不可持續性，」他說。如果政府更關心用戶是否可以越獄模型並繞過其保護措施，則尤其如此。 “如果構建不可能越獄的模型成為美國事實上的標準，那麼他們將沒有人工智慧模型。”

所有這些都指向同一個問題：川普政府希望在人工智慧方面實現雙向發展。它一再表示希望採取不干涉的態度並捍衛美國技術，但卻迫使一家國內冠軍公司通過一項尚未公開解釋的命令毫不客氣地打擊其前沿模型。如果華盛頓想要控制誰可以存取強大的人工智慧系統，就需要說明如何使用，並在發布前給公司一個真正遵守規定的機會。看似一時興起的臨時幹預措施從長遠來看是不可持續的，但卻是確保美國在人工智慧競賽中落後的好方法。