NVIDIA 推出「開放安全 AI 聯盟」計畫以改善網路防禦

NVIDIA 匯集了一些全球最大的科技公司，成立了開放安全 AI 聯盟，旨在提高網路安全性。 27 個創始成員包括微軟、SpaceX、戴爾、Linux 基金會和 NVIDIA 本身。 NVIDIA 寫道：“開放安全 AI 聯盟以 Linux 基金會 Akrites 計劃和 OpenSSF 社區工作的領導地位為基礎，將致力於使用開放技術修復和披露漏洞。”

團隊認為，為了更好地防禦 Anthropic 的 Mythos 5 等人工智慧模型時代的攻擊，安全研究人員需要存取開放和封閉邊界模型。作為一個典型的例子，NVIDIA 引用了 OpenAI 最近無情的 Hugging Face 攻擊。 Hugging Face 最初嘗試使用封閉的商業邊界模型來發現並抵禦駭客攻擊，但其請求觸發了護欄並被拒絕。然後他切換到開源模型並能夠阻止攻擊。

NVIDIA 寫道：“當專有人工智慧工具無法區分攻擊者和防御者時，阻礙了基本的取證分析，Hugging Face 在自己的基礎設施上運行開放的 GLM 5.2 模型，以分析 17,000 多個操作並縮小入侵範圍。”

NVIDIA 及其一些合作夥伴正在加緊努力，為該聯盟貢獻不同的元素。 NVIDIA 表示將提供開放式模型、模型權重、資料和新的代理程式網格，以加速新網路安全工具和技術的開發。 HPE 將整合能夠以加密方式驗證 AI 代理和服務的標準和方法，而 Hugging Face 將有助於提供一種安全的 AI 模型權重儲存形式，稱為 Safetensors。微軟、SpaceXAI、IBM 和紅帽也提供開源人工智慧技術。

該組織也呼籲各國政府與企業合作投資共享的開放人工智慧基礎設施。他補充說，監管機構應將開放模型視為“國防資產，而不是負債”，並表示對開放邊界人工智慧系統的全面限制“削弱了防禦能力，並將風險集中在一些封閉的提供者身上”。

根據最近報道，川普政府正在考慮廣泛禁止中國的開源人工智慧模式。這些模型比 OpenAI 和 Anthropic 等封閉模型更受歡迎，因為它們使用起來更便宜。這兩家公司，以及 Meta 和谷歌等其他商業人工智慧公司，顯然沒有出現在新聯盟。