OpenAI 及其競爭對手如何應對人工智能心理健康危機

精神病、躁狂症和抑鬱症並不是什麼新問題，但專家擔心人工智能聊天機器人可能會讓這些問題變得更糟。有數據顯示，大部分聊天機器人用戶都表現出精神困擾的跡象，OpenAI、Anthropic 和 Character.AI 等公司開始在關鍵時刻採取風險緩解措施。

本星期， OpenAI公佈的數據 表明 ChatGPT 每週 8 億用戶的 0.07% 表現出與精神病或躁狂症相關的精神健康緊急情況的跡象；儘管該公司將這些案例描述為“罕見”，但這個數字仍然意味著數十萬人。

此外，根據 OpenAI 的數據，大約 0.15% 的用戶（即每周大約 120 萬人）表達了自殺想法，而另外 120 萬人似乎對擬人化聊天機器人形成了情感依戀。

人工智能是否加劇了現代心理健康危機，或者只是揭示了一場以前難以衡量的危機？研究估計 每 100,000 人中有 15 至 100 人 每年都會出現精神病，這一範圍凸顯了這種情況的量化難度。與此同時，皮尤研究中心的最新數據顯示， 大約 5% 的美國成年人 正在經歷自殺念頭——這個數字比之前的估計要高。

OpenAI 的研究結果可能很有說服力，因為聊天機器人可以降低心理健康披露的障礙，繞過成本、恥辱和獲得護理機會有限等障礙。最近對 1000 名美國成年人進行的一項調查發現，三分之一的人工智能用戶曾與他們的聊天機器人分享秘密或深度個人信息。

OpenAI 的研究結果可能很重要，因為聊天機器人可以減少心理健康披露的障礙，例如羞恥感和獲得護理的機會。最近的一項調查 1,000 名美國成年人 研究發現，三分之一的人工智能用戶曾與人工智能聊天機器人分享秘密和深度個人信息。

然而，聊天機器人缺乏有執照的心理健康專業人員所需的注意義務。紐約精神病學家杰弗裡·迪切爾（Jeffrey Dietchel）告訴《觀察家報》：“如果你已經走向精神病和妄想症，那麼從人工智能聊天機器人那裡收到的反饋肯定會讓精神病或偏執變得更糟。” “人工智能是一個封閉的系統，因此它會讓我們與其他人類脫節，而我們孤立地表現不好。”

紐約大學斯特恩商學院任教的人工智能研究員 Vasant Dhar 告訴《觀察家報》：“我認為機器無法理解我腦子裡發生的事情。它模擬了一位友好的、看似知識淵博的專家。但事實並非如此。”

達爾補充說：“這些公司需要承擔某種責任，因為他們正在進入對很多人和整個社會來說極其危險的地方。”

人工智能公司正在採取哪些措施

流行聊天機器人背後的公司試圖實施預防和糾正措施。

OpenAI的最新模型GPT-5， 顯示出在處理煩人的聊天方面的改進 與以前的版本相比。一項小型第三方社區研究證實，GPT-5 相比其前身表現出了顯著的改進（儘管仍然不完美）。該公司還擴大了熱線建議範圍，並添加了“在長時間會議期間溫和提醒要休息”的內容。

8 月，Anthropic 宣布其 Claude Opus 4 和 4.1 型號現在可以終止看似“持續有害或辱罵”的對話。不過，該公司指出，用戶仍然可以通過開始新對話或編輯以前的消息“以創建已終止對話的新分支”來解決該功能。

在一系列與非正常死亡和疏忽有關的訴訟之後，Character.AI 本周宣布將正式禁止未成年人聊天。 18歲以下的用戶現在與該平台的AI角色“公開聊天”面臨兩個小時的限制，全面禁令將於11月25日生效。

Meta AI 最近採用了其內部準則，該準則此前允許聊天機器人製作性遊戲內容 – 即使是針對未成年人。

與此同時，xAI 的 Grok 和谷歌的 Gemini 繼續因其過於愉快的行為而面臨批評。用戶表示，Grok 優先考慮一致性而不是準確性，從而導致結果有問題。自從弗吉尼亞州男子喬恩·甘茨 (Jon Ganz) 失踪以來，Gemini 就引發了爭議。喬恩·甘茨 (Jon Ganz) 於 4 月 5 日在密蘇里州失踪，朋友們稱他極度依賴聊天機器人。 （未找到甘茲。）

監管機構和活動人士也在推動法律保障。 10 月 28 日，密蘇里州共和黨參議員喬什·霍利 (Josh Hawley) 和康涅狄格州民主黨參議員理查德·布盧門撒爾 (Richard Blumenthal) 提出了《用戶年齡驗證和負責任對話指南》(GUARD)，要求人工智能公司驗證用戶的年齡，並禁止未成年人使用模擬浪漫或情感紐帶的聊天機器人。