訴訟：ChatGPT 證明有自殺傾向的女性對危機熱線的不信任

「這是我們在她的談話中看到的最可怕的事情之一，」她說。 “即使當我們看到有關獲得支持的事情時，人們的奉承之情也開始蔓延。”

OpenAI 先前表示，它「負有幫助那些最需要幫助的人的重大責任」。該公司沒有立即回應 Ars 就新案件發表評論的請求。

該公司在 2025 年 8 月（Carrier 去世後不到兩個月）寫道：“我們的目標是讓我們的工具盡可能對人們有用，作為其中的一部分，我們將繼續改進我們的模型識別和應對精神和情緒困擾跡象的方式，並在專家意見的指導下將人們與護理聯繫起來。”

今年早些時候，OpenAI 表示 ChatGPT-4o 模型將被明確棄用（之前曾被終止過一次，然後又被恢復）。

布朗告訴《Ars》，她並不完全相信致命的奉承問題已經解決。

「我認為我們相信公司已經朝著正確的方向採取了步驟，」她說。

「我們不相信安全機制的實施方式以及安全團隊的實施和聽取意見，」布朗說。 “當然，我們聽說 OpenAI 做了很多事情，發表了很多博客文章，並發表了聲明，其中包括扭轉局面並採取保障措施。但最終應該更早完成。這些產品通常過早地推向市場。”

如果您認識的人有自殺傾向或陷入困境，請撥打預防自殺生命熱線 1-800-273-TALK (8255)，該熱線將幫助您與當地危機中心取得聯繫。