根據一份新報告 交通燈白宮決定對 Anthropic’s Mythos 實施出口限制,部分原因是擔心與中國有聯繫的組織會存取該產品。如果中國政府真的獲得了《神話5》或《神鬼寓言5》,將會構成嚴重的國家安全風險。政府也可以嘗試透過蒸餾對模型進行逆向工程,這是一種用更先進的模型訓練人工智慧「學習者」以重現其行為的方法。

白宮尚未證實該報道,川普顧問戴維·薩克斯 (David Sachs) 在 X 上發布的帖子也沒有提及中國。相反,薩克斯風關注的是據報《神鬼寓言》和《神話》的越獄能力,但 Anthropic 否認了這一點。 Anthropic 沒有回應置評請求,但發言人表示 交通燈 政府在有關出口管制的討論中並未提及中國。

如果中國政府能夠訪問神話,這將不是人類最強大模型的第一次令人尷尬的破壞。該公司表示,Mythos 過於危險和強大,不適合公眾使用,但據報道,在 Anthropic 發現漏洞並關閉訪問之前,一個 Discord 組織已經獲得了訪問權限兩週。

來源連結