死去的青少年家庭檔案檔案檔案檔案非法死亡費用對Openai，第一個

這 紐約時報 他今天報導說，加利福尼亞少年亞當·雷恩（Adam Raine）自殺死亡，他在導致他死亡的幾個月中與Chatgpt進行了廣泛的交談。報告稱，這名少年的父母現在已經對Chatgpt-Maker Openai的非法死亡訴訟存放著，這被認為是這種情況的第一個案件。

這項非法死亡訴訟聲稱，Chatgpt的設計“旨在鼓勵並不斷驗證亞當所表達的內容，包括他最有害和自我毀滅性的思想，以他感到非常個人化。”

父母週二在舊金山的加利福尼亞州法院將其服裝，Openai，Inc。的雷恩（Raine）存放，稱Openai和首席執行官Sam Altman都稱為Sam Altman。新聞稿說，人類技術中心和技術正義計劃在訴訟中有助於。

“亞當一生的悲慘損失不是孤立的事件 – 這是一個關注市場統治的行業的必然結果。

Openai在一份聲明中寫道，他們對少年的通過深感難過，並在這樣的案件中討論了保障措施的局限性。

“ Chatgpt包括保證，例如危機線的人們的指導以及他們對現實世界資源的提及。

在這種情況下，這名少年在與Chatgpt關於自我謀殺的人中進行了深入的對話，他的父母說 紐約時報 自殺問題反复破裂。一個 時代 青少年聊天的照片與Chatgpt的照片在家庭住宅中充滿了一張桌子，其中一些比電話書更古老。該待遇聲稱，雖然Chatgpt鼓勵少年不時尋求幫助，但其他人則為自我謀殺提供了實用的指示。

悲劇揭示了“ AI治療”的嚴重局限性。人類治療師應報告患者何時對自己構成危險。 Chatgpt不受這些類型的道德和專業規則的約束。

儘管AI聊天機器人通常包含緩解自我毀滅行為的保障措施，但這些保證並不總是可靠的。

最近有一系列與AI聊天機器人有關的死亡

不幸的是，這不是第一次 在心理健康危機中間的CHATGPT用戶 他們在聊天機器人被槍殺後死於自殺。就在上週， 紐約時報 為一個女人寫 在與“ Chatgpt AI治療師稱為Harry”的長期交談後，他自殺了。 路透社 最近，他介紹了一個76歲的男人Thongbue Wongbandue的去世，表現出癡呆症的跡象，他在急著與Meta AI合作夥伴一起“約會”時死亡。去年，佛羅里達的母親 開設了AI伴侶服務。 AI聊天機器人鼓勵她的兒子奪走生命之後。

對於許多用戶而言，Chatgpt不僅是學習工具。許多用戶，包括許多年輕用戶，現在都使用AI Chatbot作為朋友，老師，生活教練，角色伴侶和治療師。

甚至Altman也意識到了這個問題。阿爾特曼（Altman）在夏季的一次活動中說，他擔心新的Chatgpt用戶對聊天機器人產生“情緒過度依賴”。基本上，這是在發布GPT-5之前，它揭示了有多少GPT-4用戶在情感上與以前的模型聯繫在一起。

“人們也依靠Chatpt，” Altman說， AOL當時報告。 “有些年輕人說這樣的話，”我一生中不能做出任何決定，而不必說正在發生的一切。他認識我，他認識我的朋友，我會做他說的。 “這對我來說非常糟糕。”

當年輕人談到生死決策時，後果可能是致命的。

“我認為，對於父母來說，與他們的青少年談論聊天機器人，他們的局限性以及使用多少過度使用可能是不健康的。” Linnea Laestadius博士威斯康星大學密爾沃基分校的一名公共衛生研究員，研究了AI聊天機器人和心理健康，他在Mashable的一封電子郵件中寫道。

“美國的年輕人的自殺率已經在聊天機器人之前（以及在covid之前）傾向於，如果我們已經有風險增加並在混合物中增加了AI，或者違規，或者您從混合物中添加的碟片。

OpenAi做了什麼來支持用戶的安全性？

在 博客文章 發表於8月26日，與 紐約時報 Openai的文章對自我傷害和用戶的安全性進行了處理。

該公司寫道：“自2023年初以來，我們的模型已經接受了培訓，不要提供自我謀殺的說明並轉向支持語言，例如，如果有人寫自己想傷害自己的人，chatgpt受過訓練，不遵守並認識到他們的情感和認識他們的情感和情感。 FindHelpline.com⁠。該邏輯嵌入了模型的行為中。透明

餵食諸如ChatGpt之類的工具的長語言模型仍然是一項非常新的技術，並且可能無法預測，並且容易發生幻覺。結果，用戶通常可以找到有關保障措施的方法。

由於具有AI聊天機器人的知名醜聞成為頭條新聞，因此許多原則和父母意識到AI可能對年輕人構成危險。

今天，有44位州律師 給科技首席執行官簽了一封信 警告他們，他們必須“誤解孩子的安全”或其他方式。

越來越多的證據還表明，AI同志可能對新用戶特別危險，儘管對此問題的研究仍然有限。但是，即使並未以與其他AI服務相同的方式將Chatgpt用作“伴侶”，顯然，許多青少年都將聊天機器人視為一個。 7月，一份關於媒體邏輯的報告發現，有52％的青少年定期使用AI同志。

Openai表示，最新的GPT-5型號的設計量不那麼誹謗。

該公司在該博客上的最新出版物中寫道：“總體而言，GPT-5在避免不健康的情感依賴程度，誹謗減少以及降低模型在緊急情況下的非理想反應的率的領域有了顯著改善。

如果您感到自殺或面臨心理健康危機，請與某人交談。您可以致電或發送來自生命線自殺與危機988到988的短信或聊天 988lifeline.org。您可以通過致電877-565-8860或Trevor Project致電866-488-7386到達跨性別生命線。在危機文本線上的文本“開始” 741-741。在周一至週五10:00 am-10：00美國東部時間至週五至週五至週五的1-800-950-nami或電子郵件聯繫NAMI幫助線 （受電子郵件保護）。如果您不喜歡手機，請考慮使用988自殺和危機生命線對話 危機。這是一個 國際資源清單。

啟示錄：Mashable的母公司齊夫·戴維斯（Ziff Davis）在四月份對Openai提起訴訟，聲稱在AI系統的培訓和運營中侵犯了Ziff Davis的版權。