英國國家醫療服務體系通常會將其開發的軟體開源。
馬克湯瑪斯／Shutterstock
由於人工智慧模型存在電腦駭客攻擊的風險，英國國家醫療服務體系決定撤回用英國納稅人資金創建的開源程式碼，這項決定引起了越來越多的強烈反對。
上個月，有廣泛報導稱，科技公司 Anthropic 創建的人工智慧 Mythos 能夠檢測幾乎所有軟體中的缺陷，從而有可能讓駭客滲透到其運行的系統中。英國 NHS 已告知工作人員，由於存在這種風險，現有和未來的軟體必須停止向公眾開放，並在 5 月 11 日之前關閉。
這項決定違背了 NHS 的護理標準，該標準要求員工將他們生產的任何軟體開源，以便可以創建、改進和使用工具，而無需重複工作。專家表示，從公共存取中刪除程式碼不會以任何方式提高安全性。
現在，一封呼籲英格蘭國家醫療服務體系（NHS England）改變決定的公開信已經收集了數百名簽名。截至撰寫本文時，這封信已有 682 名簽署人，其中包括作家兼數位權利活動家科里·多克托羅 (Cory Doctorow) 和前英國衛生大臣馬特·漢考克 (Matt Hancock)，我們聯繫他徵求意見 新科學家他指出 LinkedIn 的一篇貼文稱該政策是一個「巨大的錯誤」。
「NHS 近年來所做的最明智的事情之一就是開源其代碼。納稅人為此付費，因此納稅人應該從中受益，」漢考克寫道。 「但實際的論點同樣令人信服：開源經過了更徹底的測試，更安全，並允許世界上任何地方最優秀的人才在此基礎上進行開發。”
英國愛丁堡大學的弗拉德-斯特凡‧哈布茲 (Vlad-Stefan Harbuz) 是這封公開信的合著者。他可以存取 Mythos，並且是最近使用 Mythos 掃描開源 NHS 程式碼以查找漏洞的團隊的一員。他們發現了“幾個相對嚴重的漏洞”，在決定停止開源專案之前，這些漏洞已負責任地向 NHS 披露。
「我不知道我們報告的漏洞是否是造成這種情況的推動因素，但它可能是其中的一部分，」哈布茲說。 「定期的安全審計和公開的（大型語言模型）可以找到我們發現的相同漏洞。Mythos 使這項工作的勞動強度降低了一些。但真正的問題是網路安全方面的系統性投資不足，這種情況在 Mythos 存在之前就一直存在。”
Harbouz 認為，所有 NHS 程式碼的備份副本仍然存在，並用於訓練各種人工智慧模型，但從 GitHub 中提取它們會阻止關心公共服務品質和安全的專家做出貢獻。 “我透過關閉原始碼，我們傷害的是幫助者，而不是攻擊者，」哈布茲說。
英國政府支持的人工智慧安全研究所 (AISI) 對 Mythos 進行了檢查，發現它只能攻擊“小型、保護薄弱且易受攻擊的企業系統”，並得出結論，沒有跡象表明真正安全的網路或軟體會受到損害。
特倫斯·伊登（Terence Eden）在英國公務員系統開放公共資料方面擁有豐富的工作經驗，他也認為此舉不符合邏輯。
Eden 表示：「人們對 NHS 的信任取決於醫療服務的開放性、透明度和誠信度。鑑於我們的醫療保健對數位工具的依賴程度，這意味著開源是不容談判的。我們有權了解這些工具的工作原理。我敦促 NHS 積極回應請願書，信守對社區的承諾。”
英國 衛生和社會保障部沒有回應置評請求，並且 英國 NHS 發言人重申了先前的聲明：“我們暫時限制訪問一些 NHS England 原始碼，以進一步加強網路安全，同時評估人工智慧模型快速發展的影響。我們將繼續在有明確需要的地方發布原始程式碼。”
主題：
