國家衛生服務局製作的軟體通常向公眾開放。
馬雷克佩爾孔/阿拉米
由於先進人工智慧存在駭客攻擊風險，英國國家衛生服務機構正匆忙從公共領域撤回其編寫的所有軟體。安全專家表示，此舉是不必要的，而且會適得其反。
NHS 創建的軟體之前是開源的，並託管在 GitHub 上，因為它是用公共資金創建的。這使得其他組織可以使用它並以更便宜的價格提供更好的服務，而無需重複工作。
但英格蘭國家醫療服務體系（NHS England）發布了新的員工指南，該指南已被分享 新科學家這要求現有和未來的軟體對公眾隱藏並保密。新指南指出：「預設情況下，所有原始碼儲存庫都應該是私有的。除非有明確和特殊的需求並且公共存取得到正式批准，否則儲存庫不應公開可用。」將程式碼設為私有的截止日期是 5 月 11 日。
上個月廣泛報導稱，Anthropic 創建的一種名為 Mythos 的人工智慧能夠檢測幾乎所有軟體中的缺陷，從而有可能讓駭客滲透到其運行的系統中。
英格蘭國家醫療服務體系（NHS）領導人特別指出，採取新措施的原因是謠言。 「公共儲存庫大大增加了無意中洩露原始程式碼、架構決策、配置細節和可能使用的上下文資訊的風險，特別是考慮到能夠大規模程式碼攝取、推理和推理的人工智慧模型（例如，Mythos 模型等開發）的快速發展，」報告指出。 “這條紅線預設建立了一個封閉的程式碼狀態，同時組織評估這些變更的影響，並確保任何公開發布的程式碼都是經過深思熟慮、經過測試和合理的決定。”
然而，英國政府支持的人工智慧安全研究所 (AISI) 對 Mythos 進行了檢查，發現它只能攻擊“小型、保護薄弱且易受攻擊的企業系統”，並得出結論，沒有跡象表明真正安全的軟體或網路會受到損害。
新措施違反了 NHS 護理標準，該標準要求員工將他們生產的任何軟體開源。 「政府服務是用公共資金創建的。因此，除非有令人信服的理由不這樣做，否則它們所基於的程式碼應該可供其他人重用和建構。開源程式碼可以使團隊免於重複工作，並幫助他們更快地建立更好的服務，」先前的指南指出。
政府服務的開源軟體還可以促進信任和透明度。例如，如果導致英國郵局因涉嫌盜竊和欺詐而起訴無辜者的 Horizon IT 代碼已公開，那麼醜聞可能不會持續多年。
特倫斯·伊登（Terence Eden）在英國公務員系統開放公共資料方面擁有豐富的工作經驗，他表示此舉不符合邏輯。
「Mythos 有可能掃描儲存庫並發現錯誤嗎？是的，有 100% 的可能性。這個錯誤會在即時 NHS 服務中的某個地方導致安全問題嗎？幾乎肯定不會，」Eden 說。 “我認為英格蘭國家醫療服務體系中有人陷入了神話將導致我們所知的安全網終結的炒作之中，並感到有點恐慌。”
Eden 表示，開源軟體實際上更安全，因為許多人可以測試它是否有缺陷，而且大多數 NHS 軟體無論如何都不是安全關鍵的。值得注意的是，鑑於該程式碼已公開多年，無論如何它將繼續存在於各種備份和下載中。
「現在把它關掉就像在馬離開後鎖上馬厩的門一樣，」伊登說。 “我和我在 NHS 中交談過的人完全不知道他們想通過這個實現什麼目的。”
英國 NHS 發言人表示：“我們暫時限制存取部分 NHS England 原始碼，以進一步加強網路安全，同時評估人工智慧模型快速發展的影響。我們將繼續在有明確需要的地方發布原始程式碼。”
主題：
