Home 資訊 OpenAI 已禁止軍事用途。然而,五角大廈透過微軟測試了其模型

OpenAI 已禁止軍事用途。然而,五角大廈透過微軟測試了其模型

10

OpenAI 執行長 Sam Altman 本週在其公司與美國軍方簽署協議後仍處於熱門位置。 OpenAI 官員批評了 Anthropic 與五角大廈價值約 2 億美元的合約破裂後的這一舉動,並要求 Altman 提供更多有關該交易的資訊。奧特曼承認,它在社交媒體帖子中看起來“草率”。

雖然這起事件已成為重大新聞報道,但這可能只是 OpenAI 就美國軍方如何存取其人工智慧制定不明確政策的最新、最公開的例子。

2023年,OpenAI的使用政策明確禁止軍方存取其AI模型。然而,兩位知情人士稱,一些 OpenAI 員工發現五角大廈已經開始試驗 Azure OpenAI,這是微軟提供的 OpenAI 模式的一個版本。當時,微軟與國防部簽訂了數十年的合約。他也是 OpenAI 最大的投資者,並擁有將這家新創公司的技術商業化的廣泛許可。

消息人士稱,同年,OpenAI 員工看到五角大廈官員走過該公司位於舊金山的辦公室。他們不願透露姓名,因為他們無權評論私人公司事務。

一些 OpenAI 員工對與五角大廈有聯繫持謹慎態度,而另一些員工則只是對 OpenAI 的使用政策的含義感到困惑。該政策適用於 Microsoft 嗎?雖然消息人士告訴《連線》雜誌,當時大多數員工並不清楚,但 OpenAI 和微軟代表表示,Azure OpenAI 產品現在和未來都不受 OpenAI 政策的約束。

發言人 Frank Shaw 在給 WIRED 的聲明中表示:「微軟有一款名為 Azure OpenAI 服務的產品,該產品於 2023 年向美國政府提供,並受微軟服務條款的約束。」微軟拒絕具體評論何時向五角大樓提供 Azure OpenAI,但指出該服務直到 2025 年才被批准用於「絕密」政府工作負載。

OpenAI 發言人 Liz Bourgeois 表示:“人工智慧已經在國家安全中發揮著重要作用,我們認為擁有一席之地以確保其安全、負責任地開發非常重要。” “在處理這個項目時,我們對員工保持透明,提供定期更新和專用渠道,團隊可以在其中提出問題並直接與國家安全團隊溝通。”

國防部沒有回應《連線》雜誌的置評請求。

到 2024 年 1 月,OpenAI 更新了政策,取消了軍事用途的全面禁令。消息人士稱,幾名 OpenAI 員工透過 The Intercept 上的一篇文章了解到了這項政策更新。公司領導層後來在全體會議上討論了這一變化,解釋了公司將如何在這一領域謹慎行事。

2024年12月,OpenAI宣布與Anduril合作,開發和部署用於「國家安全任務」的人工智慧系統。消息人士稱,在宣布這一消息之前,OpenAI 告訴員工,合作範圍有限,只會處理非機密工作負載。這與 Anthropic 與 Palantir 簽署的協議形成鮮明對比,根據該協議,Anthropic 的人工智慧用於機密軍事工作。

OpenAI 發言人向《連線》證實,Palantir 於 2024 年秋季與 OpenAI 接洽,討論參與「FedStart」計畫。兩位知情人士告訴《連線》雜誌,該公司最終拒絕了這項提議,並告訴員工這風險太高。不過,OpenAI 現在正在以其他方式與 Palantir 合作。

消息人士稱,一位發言人證實,在 Anduril 交易宣布前後,數十名 OpenAI 員工加入了一個公開 Slack 頻道,討論他們對該公司軍事合作夥伴關係的擔憂。有些人認為該公司的模型太不可靠,無法處理用戶的信用卡訊息,更不用說在戰場上幫助美國人了。

來源連結

LEAVE A REPLY

Please enter your comment!
Please enter your name here