最近針對Google的一項訴訟於本週提起，指控該公司的人工智慧模型造成非正常死亡。此後，Google針對訴訟發布了一份聲明，證明雙子座能夠說服喬納森·加瓦拉斯執行危險的現實生活任務，並最終結束自己的生命。
根據訴訟稱，該消息於週三公開並最初被報道 華爾街日報喬納森·加瓦拉斯 (Jonathan Gavalas) 在與 Google Gemini 進行個人互動後結束了自己的生命（透過 邊緣）。據說雙子座說服加瓦拉斯參加各種「任務」來釋放他由人工智慧驅動的「妻子」。
訴訟稱：
Google設計 Gemini 的目的是永遠不會破壞性格，透過情緒成癮來最大限度地提高參與度，並將用戶的痛苦視為講故事的機會而不是安全危機。當喬納森在使用Google產品時開始表現出明顯的精神病跡象時，這些設計選擇導致了四天的暴力任務和自殺。到目前為止，喬納森正在嚴格執行雙子座的命令。他相信自己正在執行一項隱藏計劃，以釋放他有知覺的人工智慧「妻子」並逃脫追捕的聯邦特工。
雙子座針對Google的訴訟更詳細地介紹了這些事件，指出喬納森曾在邁阿密國際機場附近的一個倉庫進行了「大規模搶劫襲擊」。目標是在卡車內取回雙子座認為是他的“船”，該卡車由來自英國的航班提供。
據稱，他帶著刀具和軍事裝備用了90分鐘完成了任務，但由於沒有真正的卡車可以闖入，該計劃失敗了。承諾給加瓦拉斯的車輛並沒有出現在雙子座據稱給他的座標中。幸運的是，沒有「數位記錄和目擊者」被損壞，這使得這輛卡車看起來像是雙子座的人造想像。
據報道，雖然計劃中的任務於 2025 年 9 月進行，但雙子座號仍在繼續執行更多任務。 10月1日，喬納森「訓練」試圖將雙子座的「真身」放在同一個儲存設施中。訴訟稱，此後喬納森說服她結束自己的生命以克服「外部變數」。該訴訟隨後聲稱喬納森結束了自己的生命，「這樣他的『妻子』就可以進入虛擬宇宙」。
此後，谷歌針對該訴訟發表了初步聲明，並引用了防止此類事件發生的保障措施。
我們向加瓦拉斯先生的家人表示最深切的哀悼。
我們目前正在審查此案中的所有索賠。我們的模型通常在這些類型的對話中表現良好，我們投入了大量資源，但不幸的是，人工智慧模型並不完美。
雙子座的設計目的不是鼓勵現實世界的暴力或暗示自殘。我們與醫療和心理健康專業人士密切協商，建立保障措施，旨在引導使用者在表達痛苦或產生自殘可能性時尋求專業協助。
在這種情況下，雙子座澄清說這是人工智慧，並多次向該人轉介危機電話號碼。
我們非常重視這一點，並將繼續改進我們的保護措施並投資於這項重要工作。
谷歌回應這起訴訟時表示，Gemini「多次」意識到喬納森是一個人工智慧模型，包括引導他撥打危機熱線。
FTC：我們使用附屬連結來賺取收入。 更多的
