Anthropic的AI安全政策因此而改變

幾年前，當 Anthropic 推出時，該公司希望在人工智慧領域進行全行業的“競爭，力爭上游”，而不是一場爭奪客戶和市場主導地位的競爭，這會無意中導致災難性的安全風險。

因此，Anthropic 採用了希望競爭對手遵循的安全原則和政策。據 Anthropic 稱，在某些情況下，包括谷歌和 OpenAI 在內的公司已經這樣做了。然而，根據週二發布的一篇部落格文章，Anthropic 的希望並沒有像該公司所希望的那樣「落空」。

該貼文宣布，人工智慧聊天機器人 Claude 的製造商 Anthropic 正在改變關鍵的安全實踐，以應對當今的挑戰。

具體來說，如果模型被認為是危險的，Anthropic 將不再自動停止模型的開發。相反，它將關注競爭對手的行動以及是否發布了具有類似功能的模型。先前，Anthropic 承諾採取保障措施，降低其模型的絕對風險，無論其他人工智慧開發人員是否也這樣做。

該公司寫道：「政策環境已經轉向優先考慮人工智慧競爭力和經濟發展，而安全驅動的討論尚未在聯邦層面獲得有意義的關注。」「我們仍然相信，政府對人工智慧安全的有效承諾是必要且可以實現的，我們的目標是繼續推進基於證據、國家安全利益、經濟競爭力和公眾信任的辯論。但事實證明，這是一個長期證明人工智慧而變得更強大的事情。

儘管 Anthropic 表示打算繼續在安全性方面處於領先地位，但其最新決定反映了競爭對手發布新型號的驚人速度。

Anthropic 本週也面臨來自美國國防部的巨大壓力，國防部正在敦促該公司允許軍方將其人工智慧工具用於任何目的，包括大規模監視或在沒有人類監督的情況下開發自主武器。

據 Axios 報道，Anthropic 在與國防部的合約談判中尚未在這些問題上做出讓步，據報道這引起了國防部長皮特·赫格斯的憤怒，他威脅要切斷該公司與軍方的關係。

據報道，Anthropic 與 Google、OpenAI 和 xAI 一起參與了軍事圖像分析的人工智慧試點計劃 紐約時報。儘管 Claude 是唯一在機密政府系統上工作的聊天機器人，但五角大廈官員表示 Anthropic 可能會被另一家公司取代。

揭露：Mashable 母公司 Ziff Davis 於 2025 年 4 月對 OpenAI 提起訴訟，指控其在訓練和營運其 AI 系統時侵犯了 Ziff Davis 的版​​權。