貢獻者：人工智慧永遠無法回答的關鍵醫學問題

去年春天，我們中的一個人接到了一位老朋友的電話。這個故事很熟悉：兩名醫生、一台核磁共振成像儀、一個線上人工智慧工具、一堆文章和一個令人焦慮的問題。 “一切都在告訴我一些不同的事情。人工智慧說我可能需要手術。我該怎麼辦？”

我們相信，對於任何人來說，這個非常常見的難題都有一個關鍵答案：“什麼對你來說最重要？”

一陣長長的停頓。

這種停頓是現代醫療保健中最重要的時刻之一，而這正是人工智慧無法解決的問題。

在我們作為醫生和研究人員的職業生涯中，我們反覆清楚地發現，對於許多常見病症，醫學證據並沒有指出單一的「正確」答案。生物學通常就在附近。決定結果成功與否的是選擇是否適合做出選擇的人。

有些背痛患者希望盡快恢復體力需求較高的工作，即使這意味著需要手術。其他人則希望不惜一切代價避免手術，即使恢復時間更長。掃描結果可能看起來是一樣的。掃描背後的生活卻並非如此。

隨著人工智慧深入研究日常健康決策，這些資訊變得至關重要。

在我們對人工智慧和臨床決策的研究中，我們研究了當系統經過訓練以優化醫療結果但忽視人類價值時會發生什麼。通俗地說，今天的人工智慧非常擅長告訴你什麼通常對像你這樣具有相似人口統計和病史的人有效。它更無法理解你試圖保護、避免或優先考慮的內容。

這很重要，因為一些最常見且成本高昂的醫療決策並不純粹是生物學的。低風險前列腺癌患者應該選擇手術、放療還是密切監測？心房顫動患者是否應該接受手術或藥物治療？患有慢性膝蓋或背部疼痛的患者應該立即進行手術還是嘗試數月的物理治療，看看是否可以避免手術？

在這些情況下，選擇之間的醫學差異通常很小或不確定。最大的差異在於治療是否符合患者的目標：風險承受能力、康復意願、堅持長期治療的能力，或只是他們想要過什麼樣的生活。
人工智慧系統可以計算機率。他們無法確定這些機率對特定人意味著什麼。

在某些方面，人工智慧可能比任何個體醫生更了解醫學。它可以在幾秒鐘內合成數百萬篇科學文章、臨床研究和患者記錄。然而，他對坐在自己面前的人所知甚少。人工智慧不知道患者的目標、恐懼、義務、風險承受能力或個人對良好結果的定義。因為你對病人或醫生所知甚少，所以你對他們之間的對話了解得更少：事實、價值觀和信任匯聚在一起，為特定的人做出正確的決定。

第二位病人的故事讓我們明白了這一點。一位退休教師在基於人工智慧的症狀檢查器檢測到心律異常後被轉診，並「傾向於」侵入性手術。病人到達時很害怕，確信有一條正確的道路。當我們交談時，很明顯，最重要的是避免長時間康復並保持健康，以便能夠去看我的孫子。

藥物治療和監測（不太引人注目，但有證據充分支持）最適合這些目標。 AI並沒有錯。我只是不知道什麼重要。
這個盲點並非微不足道。大約四分之一的美國醫療保健支出是透過患者偏好對結果產生顯著影響的決策進行的。當這些偏好被（人或演算法）忽略時，注意力就會錯位。這可能意味著不必要的手術、依從性差、後悔以及在健康狀況不佳的情況下增加成本。

那麼，當「智慧」應用程式、入口網站或工具建議採取行動時，消費者該怎麼做？

從三個問題開始。

第一：「對誰更好？」如果某個工具說某個選項是最好的，請詢問它是否意味著平均而言最好，還是最適合與您優先考慮的人。

第二：“這個系統不知道我什麼？”
AI可以看到實驗室數值和成像結果。他看不到你的工作、你的家庭責任、你的恐懼或你想回到的事。

第三：“如果我等待或做出不同的選擇，會發生什麼？”
許多重要的醫療決定都不是緊急情況。當選擇很少時，花時間反思往往是良好照護的一部分。

人工智慧正成為醫學領域的強大合作夥伴。它可以幫助解釋選項、揭示證據並減少混亂。但它應該為人類決策提供信息，而不是取代它們。

人工智慧比任何醫生懂得更多的醫學。

你對任何病人的了解都少很多。

而他，卻是最不知道他們之間對話的人。

您的醫療保健中最重要的變數並不在任何演算法中。是你。

詹姆斯·N·韋恩斯坦 (James N. Weinstein) 是一名外科醫生，也是達特茅斯健康公司 (Dartmouth Health) 的前執行長。他是西北大學凱洛格管理學院的臨床教授，也是開發人工智慧系統的微軟健康未來全球總監。 Ogan Gurel 是德克薩斯大學阿靈頓分校的醫生和助理教授，他在那裡研究人工智慧、因果推理和患者決策。