聽聽這篇文章
預計 4 分鐘
本文的音頻版本是透過基於人工智慧的技術產生的。可能會出現發音錯誤的情況。我們與合作夥伴合作，不斷評估和改進結果。
ChatGPT 製造商 OpenAI 週五表示，應美國總統唐納德·川普政府的要求，它將限制其新人工智慧模型的發布，這是政府對可能構成網路安全風險的人工智慧產品進行前所未有的審查的最新進展。
OpenAI 表示，其名為 GPT-5.6 Sol 的新人工智慧產品目前僅適用於川普政府批准的「一小群值得信賴的合作夥伴」。
OpenAI 在一份聲明中表示：“我們認為，從長遠來看，這種類型的政府准入流程不應該成為標準。”
該公司表示，它將測試期視為未來幾週內擴大可用性的臨時步驟。
OpenAI 交錯發布了一個強大的新人工智慧系統，此前政府本月早些時候對 OpenAI 競爭對手 Anthropic（Claude 聊天機器人的製造商）採取了行動。
Anthropic 已將其最新的人工智慧模型《神鬼寓言 5》和《神話 5》在公開發布幾天后下線，以遵守川普禁止外國人使用它們的指令。
在教宗利奧的第一封公開信中，教宗利奧敦促各國政府放慢人工智慧系統的發展，表示他們優先考慮衝突和風險，這將導致世界走上無休止的戰爭之路。
白宮週五表示，將繼續與突破性的人工智慧實驗室合作，以應對擴展快速發展技術的挑戰。
自從今年早些時候 Anthropic 警告稱，其 Mythos 模型擅長發現軟體錯誤，這些錯誤可能會被惡意駭客利用並威脅到世界各地的關鍵電腦網絡，此後，官員們變得越來越擔心。
此舉遵循川普的行政命令
川普在 6 月初簽署了一項關於人工智慧監控的行政命令，為聯邦政府創建了一個框架，可以在最先進的人工智慧系統公開發布前 30 天調查其所帶來的國家安全風險。該命令稱人工智慧開發人員的參與是自願的，但該框架尚未完全開發。
總部位於舊金山的 OpenAI 表示，與進行網路攻擊相比，其新的 Sol 模型“在幫助人們發現和修復漏洞方面做得更好”，並且沒有超出公司自身的風險閾值。但該公司承認可能存在不可預見的風險，尤其是當模型與其他工具結合使用時。
該公司週五表示：“這種不確定性，以及該模型在功能上更廣泛的增量變化，就是我們將該模型增強的功能與更強有力的保障措施和分階段發布結合起來的原因。”
當前的一個9:44Anthropic的神話有多強大？
許多網路安全專家批評政府導致 Anthropic 關閉 Fable 的行為，該公司將 Fable 宣傳為 Mythos 的更安全版本。該功能已經兩週無法使用了。
史丹佛大學網路安全專家亞歷克斯·斯塔莫斯（Alex Stamos）本週早些時候在接受記者採訪時表示：“我只是想說，網路安全行業幾乎沒有人相信這一行動有任何事實依據。”
人工智慧安全公司 Corridor 的首席產品長、Facebook 母公司 Meta 的前首席安全官斯塔莫斯表示，他回顧了 Anthropic 的主要雲端運算支持者亞馬遜對 Fable 的研究分析，發現其他公開的人工智慧模型（包括中國製造的模型）不存在任何風險。
史塔莫斯說：“如果政府誠實地表達了希望美國在這場競賽中擊敗中國的願望，那麼這將是他們做過的最愚蠢的事情。”
