Anthropic表示，為了遵守美國政府的命令，它正在讓《克勞德寓言5》下線

人擇說是這樣的 禁用本週稍早發布的兩款人工智慧模式：Claude Fable 5 和 Mythos 5，以遵守週五下午從美國政府收到的出口管制指令，理由是國家安全問題。

這一史無前例的事件標誌著人類與川普政府之間的最新爆發點。儘管該公司表示，該命令要求其暫停「美國境內外的任何外國人，包括 Anthropic 的外籍員工」的訪問權限，但它已取消了所有客戶的訪問權限，以確保合規性。

今年早些時候，在製造商克勞德試圖對美國軍方如何使用其技術劃定紅線後，川普國防部將 Anthropic 稱為「供應鏈風險」。該指定實際上禁止政府機構和承包商使用 Anthropic 的技術。作為回應，人類對川普政府提起訴訟。

週二，Anthropic 公開發布了 Claude Fable 5，這是該公司 Mythos AI 模型的一個版本，其安全措施阻止其回答有關網路安全、生物學和化學的問題。 Anthropic 稱其與美國政府合作公開發布，在公開發布之前，Mythos Preview AI 模型於 4 月進行了有限發布。其目標是讓公司和組織有機會利用其強大的網路安全功能來提高防禦能力，並消除人們對該技術可能被不良行為者利用來開發強大的駭客工具的擔憂。

Anthropic 在周五的一篇部落格文章中表示，它於下午 5 點 21 分收到了美國政府的一封信。等。 「這封信沒有提供有關她的國家安全擔憂的具體細節，」人類寫道。

該公司補充道：“我們的理解是，政府認為它已經意識到了繞過或‘越獄’《神鬼寓言 5》的方法。” “我們回顧了這種特殊技術的演示，該技術用於檢測少量先前已知的小漏洞。這些漏洞看起來都相對簡單，我們發現其他公開可用的模型也可以發現它們，而無需繞過。”

在部落格文章中，該公司聲稱已經實施了強有力的保護措施，以減少濫用《克勞德寓言 5》的可能性。 Anthropic 還聲稱，美國政府為《克勞德寓言 5》發現的越獄是有限的，不會使攻擊者比其他人工智慧模式更危險。

該公司在其部落格文章中表示：“迄今為止，政府只向我們提供了可能進行狹隘、非通用越獄的口頭證據，其本質上包括要求模型讀取特定的代碼庫並修復任何軟體缺陷。” “我們了解到，可能的越獄事件已與政府共享。”

白宮和美國商務部的代表沒有立即回應《連線》雜誌的置評請求。

Anthropic 執行長 Dario Amodei 在本週稍早的一篇政策文章中表示，他和公司支持公平、結構化和透明的政府流程，以防止發布不安全的人工智慧模型。 Anthropic 在周五的公司部落格文章中聲稱「這項行動不符合這些原則」。