在川普政府發出史無前例的命令，禁止所有外國人掌握該技術後，人性化的 PBC 已阻止對其最先進的人工智慧模型（包括 Mythos）的存取。
該公司在聲明中表示，美國政府出於國家安全考慮，已下令 Anthropic 暫停「美國境內外」的任何外星人訪問《神鬼寓言 5》和《神話 5》模型。
一名美國官員證實這封信是商務部發出的。此後，模型開發人員關閉了所有客戶對這兩個系統的訪問，以確保合規性。
美國政府從未採取如此嚴厲的措施來限制外國企業取得美國公司開發的突破性人工智慧模型。川普和拜登政府限制了對國外半導體和超級電腦等其他技術的訪問，有些人也討論了阻止訪問人工智慧模型的好處。但對軟體本身的限制引起了憲法和商業方面的擔憂。
Anthropic表示，相信美國政府是在發現有可能「越獄」或繞過護欄後發布了該命令，《神鬼寓言5》是最近發布的Mythos版本，該版本阻止該公司執行網路安全任務。
Anthropic 在其網站上表示：“我們不認為越獄可能性有限應該成為召回已部署到數億人的商業模式的理由。” “如果該標準在全行業範圍內採用，我們相信它將基本上停止所有邊界模型提供商的所有新模型實施。”
根據《華爾街日報》報道，亞馬遜公司的研究人員進行了越獄研究，揭示了 Anthropic 模型中的一些漏洞。
據知情人士透露，在實施管制之前，亞馬遜和美國政府就該漏洞進行了接觸。這些知情人士因討論敏感對話而被授予匿名權。其中一位知情人士稱，亞馬遜執行長安迪·賈西參與了這些交流。 The Information先前報導稱，賈西向美國高級官員表達了他的擔憂。
亞馬遜發言人表示，政府與該公司就安全風險進行磋商並不罕見，但拒絕透露此類討論的細節。
政府決定以國家安全的名義廣泛限制對一系列人工智慧模型的訪問，這可能會為所有主要人工智慧模型開發商樹立先例，包括 OpenAI、Alphabet Inc. 旗下的谷歌和 Meta Platforms Inc.。 Nvidia 公司執行長黃仁勳和 OpenAI 執行長 Sam Altman 等產業領導者過去曾鼓勵美國政府促進全球採用美國人工智慧系統並保護國家的領導地位。
Nvidia Corp. 旗下 Cohere Inc. 聯合創始人艾丹·戈麥斯 (Aidan Gomez) 表示：「對於那些天真的人，或許希望這種影響不會發揮出來的人來說，這是一個巨大的警鐘。」在周六的採訪中，他支持了人工智慧新創公司。 “沒有人能再否認這一點了。”
Anthropic 表示，它於下午 5 點 21 分收到了政府命令。紐約時間週五。該最終指導意見與先前的聲明以及川普總統最近簽署的一項行政命令相悖，該命令表明政府不會推行模型評估的許可製度。
週五的指令也可能加劇人類與川普政府內部一些人之間長期存在的緊張關係。今年早些時候，這家人工智慧開發商因將其技術用於軍事和監視目的而與五角大廈發生衝突。政府宣稱該公司因爆炸對美國供應鏈構成風險，並命令美國機構逐步停止使用其產品。
私人公司 Anthropic 長期以來一直將自己定位為更負責任的人工智慧開發商，該公司於 4 月首次向非常有限的公司和機構群體發布了 Mythos 模型，並警告稱，其發現網路安全漏洞的能力使其風險太大，無法更廣泛地分發。
有跡象表明，有限的發布正在緩解 Anthropic 與川普政府之間的緊張關係：據彭博社先前報道，今年 4 月，美國政府正準備向主要聯邦機構提供 Mythos 的一個版本。
神話也加速了川普政府在人工智慧政策方面的努力，包括最近要求進行自願模型審查的行政命令。該命令明確表示，其中的任何內容均不應被解釋為建立強制許可製度。
川普的前人工智慧沙皇、現任總統科學技術顧問委員會聯合主席大衛·薩克斯 (David Sacks) 表示，Anthropic 拒絕越獄其《神鬼寓言》模型中的護欄。
他在一篇關於《神鬼寓言》的帖子中寫道：“管理員現在的希望是，Anthropic 能夠解決安全問題，取消出口管制，讓《神鬼寓言》回歸全面發行。”
最新的政府限制與美國開發商之間的競賽發生衝突，他們競相提供最先進的人工智慧模型，並向投資者證明該技術可以帶來利潤。繼 SpaceX 歷史性 IPO 之後，OpenAI 和 Anthropic 都計劃最早在今年進行 IPO。
由於急於提供最先進的人工智慧模型，Anthropic 在本月稍早發布了一篇長篇博客，呼籲創建一個系統，由政府和人工智慧開發人員共同決定何時放慢該技術的開發速度，以避免其帶來的風險。
該公司當時在貼文中表示：「如果能夠展示或暫時暫停可能危險的人工智慧工作，這對世界來說將是一件好事。」該公司表示，人工智慧正在發展到可以使人類工作效率提高數千倍甚至取代人類的程度，從而產生一系列新的風險。
歐盟執行部門表示正在評估 Anthropic 的聲明，並繼續與盟友討論與強大的新人工智慧模型相關的潛在風險和網路安全擔憂。歐盟委員會補充說，最新的事態發展凸顯了歐洲對技術主權的需求。
「作為該領域的一個人，我對此並不是特別高興，」Cohere 的戈麥斯說。 “我不認為這是一種夥伴關係，對於過去 80 年發展起來的更廣泛的技術聯盟來說，我認為這不是正確的做法。”
伊斯特蘭和洛文克倫為彭博社撰稿。在 Shirin Ghaffary、Yi Wei Wong、Gian Volpicelli、Spencer Soper 和 Thomas Seal 的幫助下。
