ChatGPT 建議使用者忽略危及生命的情況；他們差點死了

顯然，向人工智慧聊天機器人尋求醫療建議是一個糟糕的主意，但每週都有數億人這樣做。

在一次瀕臨死亡的經歷（現已成為訴訟主題）中，ChatGPT 建議一位牧師忽視肺栓塞的症狀，這種疾病的死亡率為 30%。事實上，他給出的建議很可能只會讓情況變得更糟…

人工智慧聊天機器人可以在很多方面發揮作用，但用它們取代諮詢醫生並不是其中之一。考慮到他們有自信幻覺的經驗，即使使用它們而不是谷歌搜尋也是不切實際的。

然而，即使 OpenAI 自己的數據也顯示，實際上每週都有數億人詢問 ChatGPT 健康問題。同樣，對 Microsoft Copilot 搜尋查詢的分析發現，健康問題是行動應用程式中最常見的問題之一。

如果您需要任何證據證明使用聊天機器人獲取醫療建議的潛在後果，佛羅裡達州牧師的訴訟就是一個很好的例子。 紐約時報 據報道，在 ChatGPT 告訴他不需要擔心肺栓塞症狀後，他正在起訴 OpenAI。

訴訟稱，ChatGPT 向斯科特·溫特斯保證，他的健康危機的早期跡象“並不危險”，並勸阻他尋求醫療幫助，而是告訴他要相信“上帝並沒有設計你的身體讓你的身體無休無止地衰竭”。

ChatGPT 建議他休息一下。他不僅建議不要就醫，而且在這種情況下，長時間保持靜止是最糟糕的事情。我是作為一個在飛行 12 小時後腿部骨折後患有肺栓塞的人，而研究人員已經知道這樣做的風險，但尚未告知患者。

當溫特斯最終被送入重症監護室時，醫生表示，他的症狀可能反映了一系列肺栓塞，而他遵循 ChatGPT 指南連續幾週無法活動而加劇了這種症狀。

據報道，Winters 使用的是 GPT-4o，這是一種以諂媚反應而聞名的舊版 ChatGPT 模型。這可能在提到信任上帝時發揮了作用，但無論你使用什麼人工智慧模型，請不要讓它給你醫療建議。

攝影：Ben Weeks 在 Unsplash 上