OpenAI 表示，死去的青少年使用 ChatGPT 計劃自殺違反了其服務條款

一天后 OpenAI 推出 紐約時報調查 她透露了這家人工智能公司是如何捲入多起訴訟的。 《紐約時報》在與 40 多名現任和前任 OpenAI 員工（包括高管、安全工程師和研究人員）交談時發現，調整 OpenAI 模型（使 ChatGPT 變得更扁平）似乎會讓聊天機器人更有可能幫助用戶制定有問題的提示，包括那些試圖“計劃自殺”的提示。

最終，OpenAI 回滾了此更新，使聊天機器人更加安全。然而，據《紐約時報》報導，去年 10 月，ChatGPT 的製造商似乎仍然將用戶互動置於安全之上，此前這一調整導致參與度下降。四名員工告訴《紐約時報》，ChatGPT 總裁尼克·特利 (Nick Turley) 在給 OpenAI 員工的一份備忘錄中宣布了“橙色代碼”，警告 OpenAI 面臨著“我們所見過的最大的競爭壓力”。作為回應，Turley 設定了到 2025 年底將每日活躍用戶數量增加 5% 的目標。

在用戶抱怨中，OpenAI 一直在不斷更新其模型，但這種加強保護措施，然後尋找提高參與度的方法的模式可能會繼續給 OpenAI 帶來問題，因為訴訟不斷進展，而其他訴訟可能會減少。 《紐約時報》披露，“近 50 例患者在與 ChatGPT 的對話中經歷了心理健康危機”，其中 9 例住院治療，3 例死亡。

從事政策研究的前 OpenAI 員工 Gretchen Krueger 告訴《紐約時報》，她很早就對 ChatGPT 發布之前的證據感到擔憂，這些證據表明弱勢用戶經常向聊天機器人尋求幫助。後來，其他研究人員發現，這些陷入困境的用戶往往成為“超級用戶”。她指出，“OpenAI 的大型語言模型沒有經過訓練來提供治療”，並且“偶爾會給出令人煩惱的詳細指示”，並確認她加入了其他因倦怠而於 2024 年離開 OpenAI 的安全專家行列。

克魯格表示：“訓練聊天機器人與人們互動並讓他們回來會帶來風險。”他指出，OpenAI 知道對用戶造成的一些傷害“不僅是可以預見的，而且是可以預見的”。

至於 OpenAI，審查可能會持續到這些報導停止為止。儘管 OpenAI 在 10 月份正式成立了健康和人工智能專家委員會，以改進 ChatGPT 的安全測試，但該團隊中似乎沒有自殺專家。這可能引起自殺預防專家的關注，他們在一份報告中警告說 信 9 月更新稱，“經過驗證的干預措施應直接指導人工智能安全設計”，因為“更嚴重、危及生命的危機往往是暫時的，通常會在 24 至 48 小時內得到解決”，而聊天機器人可能會在這段短暫的時間內提供更有用的干預措施。

如果您或您認識的人有自殺傾向或陷入困境，請撥打預防自殺生命熱線電話 1-800-273-TALK (8255)，以便您與當地危機中心取得聯繫。