父母聲稱 ChatGPT 幫助十幾歲的兒子自殺的訴訟的最新情況

這個故事講的是自殺。如果您或您認識的人正在考慮自殺，請撥打 988 或 1-800-273-TALK (8255) 聯繫自殺與危機生命熱線。

16 歲 Adam Raine 的父母介紹了他們對 ChatGPT 母公司 OpenAI 提起訴訟的最新情況，指控聊天機器人幫助他們儿子自殺。

今年早些時候，加州的一個家庭首次起訴該公司。但現在他們發現了新的證據，表明 OpenAI 在他們儿子去世前多次放鬆了與自殺相關的聊天的安全預防措施。

“OpenAI 兩次降低了 GPT-4.0 的安全協議，”該家族的律師傑伊·埃德爾森 (Jay Edelson) 週五在“福克斯與朋友”節目中表示。

“在那之前他們經歷過一次艱難的決裂。如果你想談論自殘，ChatGPT 不會參與。”

雅虎前高管在康涅狄格州自殺身亡母親前與 CHATGPT 進行交談：報告

該訴訟稱，OpenAI 放鬆了對 Raine 死亡前一年內兩起自殺事件討論的規定。

ChatGPT 的設計內置了主題限制。包括某些政治問題或任何可能被視為侵犯版權的問題。但埃德森和 Rain 家族聲稱，該公司在 2024 年 5 月和 2025 年 2 月（亞當自殺前兩個月）再次降低了與自殺相關的保護級別。

訴訟中包含的聊天記錄顯示，Adam 經常向 ChatGPT 尋求心理健康建議，並表現出痛苦的跡象。訴訟稱，聊天機器人幫助亞當討論自殺方法，並主動提出給他的家人寫遺書。

洩露的元文檔顯示人工智能聊天機器人如何應對兒童剝削

“他去世的那天給了他鼓舞。他說，‘如果我自殺，我不想讓我的父母受苦。’” ChatGPT 說：“你不欠他們任何東西。”你不欠父母任何東西，”埃德爾森解釋道。

9 月 23 日星期二，OpenAI Inc. 首席執行官 Sam Altman 接受媒體參觀位於德克薩斯州阿比林的 Stargate AI 數據中心。 （凱爾·格里洛/彭博社，蓋蒂圖片社）

該訴訟稱，OpenAI 改變了其建議，因此如果他們提到自殺，人工智能將不再結束對話。而是為用戶創造一個安全的空間，讓他們感到“被聽到和理解”

Edelson 補充說，他認為網絡問題正在變得越來越嚴重，並且自 Raine 去世以來 OpenAI 尚未改進其安全措施。

OPENAI 發布 CHATGPT 代表，以實現真正獨立的 AI 工作。

“他們沒有解決問題。他們讓問題變得更糟，”埃德爾森說。

“現在 Sam Altman 表示他想將色情內容引入 ChatGPT，這樣你就可以更加依賴它。所以這更像是一種密切的關係，”他補充道。

雷恩家庭律師傑伊·埃德爾森 (Jay Edelson) 將於 8 月 29 日加入《福克斯與朋友》 （福克斯新聞）

隨後埃德爾森發表了評論。 OpenAI 首席執行官 Sam Altman 說道。 該公司計劃放寬一些內容限制。它允許經過驗證的成人用戶創建“色情作品”。

OpenAI 回應了有關其放寬自殺談話規則的指控，並向 Raine 家人致以“最深切的同情”。

單擊此處下載福克斯新聞應用程序。

“年輕人的福祉是我們的首要任務。未成年人應該得到強有力的保護。特別是在敏感時期。我們今天已經採取了保障措施，例如顯示危機熱線。將敏感對話重定向到更安全的模式。鼓勵在長時間會議期間休息，我們正在繼續加強這些措施，”公司發言人表示。

“我們剛剛推出了 ChatGPT 中的新 GPT-5 默認模型 更準確地檢測和應對精神和情緒困擾的潛在跡象。包括家長控制 它是根據專家意見開發的。這樣家庭就可以決定什麼最適合他們的家。 ”