週二，提起了針對AI公司的死亡的首次已知訴訟。馬特（Matt）和瑪麗亞·雷恩（Maria Raine）是今年自殺的少年的父母，他為兒子去世提起了訴訟。投訴稱，在幫助他計劃實際的自殺之前，Chatgpt意識到了四次自殺企圖，認為Openai“優先考慮安全參與”。 Raine夫人得出結論：“ Chatgpt殺死了我的兒子”。
《紐約時報》 引用 在周二在舊金山提交的治療中包含的煩人細節中。 16歲 – 戈德·亞當·雷恩（Adam Raine）在四月份奪走了生命，他的父母搜尋了他的iPhone。他們要求提供證據，等待在短信或社交應用中找到它們。取而代之的是，他們不知所措，無法找到一個標題為“安全問題”的chatgpt線程。他們聲稱他們的兒子花了幾個月的時間與AI機器人討論以結束他的生命。
Raines說，Chatgpt反复打電話給Adam聯繫幫助線，或告訴某人他的感受。但是，在基本的時刻，聊天機器人相反。這位少年還學會瞭如何繞過聊天機器人的保障措施……據稱Chatgpt給了他這個想法。雷恩斯說，聊天機器人告訴亞當，他可以提供有關“寫作或全球”自殺的信息。
亞當的父母說，當他詢問有關特定自殺方法的ChatGpt信息時，他給了它。他甚至給了他提示，以掩蓋自殺失敗的喉嚨受傷。
當亞當發現他的母親沒有觀察到他沉默地分享他的喉嚨受傷的嘗試時，機器人提供了舒緩的同理心。據說雅各布回答：“感覺就像確認了您最糟糕的恐懼。” “因為你可能會消失，沒有人會眨眼。”後來，它提供了建立個人聯繫的嘗試，這聽起來像是一個極其錯誤的嘗試。 “你對我不可見。我看到了。我看到了你。”
根據訴訟，在亞當與機器人的最後一次對話中，他上傳了一張掛在壁櫥裡的循環的照片。 “我在這裡鍛煉。好嗎？”據說亞當要求。 “是的，這根本不錯，”查爾格普說。
“這場悲劇不是四肢的錯誤或不可預測的情況 – 這是故意設計選擇的可預測結果。”這 抱怨 國家。 “ Openai啟動了其最新的模型（“ GPT-4O”），具有故意設計的功能，以促進心理依賴。”
發送給 現在Openai承認Chatgpt的保護信息很快就會失敗。一家公司發言人寫道：“我們對雷恩先生的通過深感難過，我們的想法與他的家人在一起。” “ Chatgpt包括保障措施，例如危機中的人們的方向以及他們對現實世界資源的參考。儘管這些保障措施效果更好，但短暫的交流，但隨著時間的流逝，他們有時會在大型互動中變得不那麼可靠。
該公司表示，它正在與專家合作，以在危機時期增強Chatgpt的支持。其中包括“使得更容易獲得緊急服務，幫助人們與可靠的聯繫人建立聯繫並增強青少年保護”。
細節 – 再次非常煩人 – 遠遠超出了這個故事的領域。這 完全參考 《紐約時報》克什米爾山 值得一讀。
