要讓人工智慧透過 FDA 檢測憂鬱症並不容易

在過去的七年裡，總部位於加州的新創公司 Kintsugi 一直在開發人工智慧，旨在從一個人的言語中檢測憂鬱和焦慮的跡象。但在未能及時獲得 FDA 批准後，該公司關閉了大部分技術並將其作為開源發布。有些項目可能會在醫療保健之外獲得第二次生命，例如深度偽造音訊偵測。

心理健康評估仍然主要依賴患者問捲和臨床訪談，而不是物理醫學中常見的實驗室測試或掃描。金繼並不關注某人所說的內容，而是分析他們的說話方式。這個想法並不新鮮——停頓、句子結構或節奏等言語模式是各種心理健康問題的已知指標——但 Kintsugi 表示，她的人工智慧可以捕捉到人類觀察者可能不太明顯的微妙變化，儘管她沒有公開詳細說明到底是什麼特徵驅動了她的模型的預測。在同儕審查的研究中，該公司報告的結果與使用簡短語音樣本的憂鬱症自我報告篩檢工具基本一致。

該公司將該技術定位為自我報告篩檢工具的補充或潛在替代品，例如初級保健和精神病學領域的主要產品——患者健康問卷-9（或 PHQ-9）。這些工具旨在與正式的臨床評估結合使用，儘管它們已得到廣泛驗證，但篩檢率可能較低，依賴患者準確描述症狀，並且可能無法捕捉與精神健康障礙相關的全部症狀。 Kintsugi 表示，她的基於音訊的模型可以提供更客觀的訊號，將篩檢範圍擴大到更多患者，並在衛生系統、保險公司和雇主計劃中廣泛部署。然而，這樣做需要 FDA 的批准。

Kintsugi 一直在透過該機構的「De Novo」途徑尋求 FDA 的批准，這是一種為市場上沒有同類產品的新型低風險醫療設備保留的途徑。儘管其目標是讓新型產品的批准變得更容易，但這仍然是一個可能需要多年資料收集和監管審查的過程。 Kintsugi 創辦人兼執行長 Grace Chang 說道 邊緣 監管機構花了大量時間進行人工智慧的教育。該框架也不太適合人工智慧；許多設備在設計時都考慮到了更傳統的設備——例如髖關節植入物、手術器械和起搏器——一旦獲得批准，其設計基本上保持不變。對於人工智慧系統來說，這可能意味著鎖定一個可能隨著時間的推移而不斷改進和更新的模型。

儘管川普政府盡最大努力減少繁文縟節，盡快將人工智慧產品推向現實世界，但張說，監管專家告訴她，「除了從高層大聲喊叫之外，沒有什麼可以幫助他們做到這一點。」由於聯邦政府關閉，審批流程進一步放緩。該新創公司在等待最終申請時耗盡了資金。

隨著公司跑道的縮短，籌集額外資金的努力步履蹣跚。該團隊沒有接受「掠奪性」的短期報價來支付工資——張說，其中一份報價為每週約 5 萬美元，以換取 100 萬美元的股票——該團隊決定開源大部分技術，以便其他人可以繼續工作。投資者並不高興。

心理健康篩檢模式的開源也引發了對濫用的擔憂。從理論上講，旨在檢測憂鬱或焦慮跡象的工具可以在臨床環境之外部署，例如由雇主或保險公司部署，而不提供醫療保健中通常所需的保障措施。顯然這種情況不應該發生，但是一旦這項技術被公開，就幾乎無法阻止該技術以其創建者不希望的方式被使用。

還有其他併發症。倫敦國王學院語音分析和人工智慧健康領域高級講師尼古拉斯·康明斯 (Nicholas Cummins) 表示： 邊緣 開源版本通常缺乏監管機構期望的詳細“書面記錄”，包括如何訓練、驗證和測試模型以確保其完整性的清晰記錄。他說，如果沒有這一點，基於該技術的產品可能很難獲得 FDA 的批准。

康明斯建議，公司更有可能將模型視為起點，並在其之上分層自己的資料和驗證流程。即便如此，他警告說，聲學系統仍然不完善，並且存在「合理」的出錯風險，特別是對於抑鬱症這樣的情況，這種情況在不同的個人、語言和文化背景下表現不同，並且在很大程度上取決於訓練中使用的語音數據的多樣性和結構。

張並不排除對潛在濫用的擔憂，但表示：「實踐中並不像理論上那麼令人擔憂。」她說，最有動機濫用技術的組織也是那些「在實際部署技術方面面臨最高障礙」的組織。在張看來，“最現實的風險是使用不足，而不是濫用。”

雖然 Kintsugi 的心理健康篩檢技術是開源的，但張表示，並非該公司的所有技術都已公開發布。她說，這部分是出於安全考慮，最重要的是可以檢測合成或操縱聲音的技術。

張說，當團隊試驗人工智慧產生的語音來增強心理健康模型時，這種能力就出現了。人工語音缺乏模型經過訓練可識別的聲學線索，這表明它可以用來區分人類聲音和人工智慧生成的聲音。鑑於令人不安的人工智慧技術和尚未可靠解決的深度偽造技術的激增，這是一個日益嚴峻的挑戰。幸運的是，對於不受 FDA 監管的 Kintsugi 來說，這是一個潛在的有利可圖的機會。

張拒絕猜測她的下一步行動，也拒絕推測 Kintsugi 的安全技術是否會重新出現，但她表示，她希望其他人能夠在該公司的工作基礎上繼續發展，並將其帶入 FDA 流程的最後階段。但如果沒有更廣泛的改變，Kintsugi 的關閉不太可能成為新創公司時間表與醫療監管相衝突的最後一個例子，張說，她希望現實不會阻止其他創辦人的嘗試。