微軟正試圖避免Windows 11 AI客戶端的“新安全風險”

多年來，微軟一直在向 Windows 11 添加人工智能功能，但最近事情進入了一個新階段，生成式和所謂的“代理”人工智能功能深入挖掘了操作系統的底層基礎。昨天向 Windows Insider 程序測試人員發布的新版 Windows 11 包括設置中新的“實驗性代理功能”切換，以支持名為 Copilot Actions 的功能，並且微軟已經… 發表了詳細的支持文章 有關這些實驗性代理功能如何工作的更多詳細信息。

如果你不熟悉，“代理”是微軟反複使用的一個流行詞，用來描述其對 Windows 11 的未來雄心——用更簡單的語言來說，這些代理旨在在後台完成分配的任務，讓用戶的注意力轉移到其他地方。微軟表示，它希望客服人員能夠執行“組織文件、安排會議或發送電子郵件等日常任務”，並且 Copilot Actions 應該為您提供“一個活躍的數字協作者，他可以為您執行複雜的任務，以提高效率和生產力。”

但與其他類型的人工智能一樣，這些代理可能容易出錯且令人困惑，即使實際上並不知道，它們通常表現得好像知道自己在做什麼。用微軟的話說，它們還代表著“新的安全風險”，主要與攻擊者能夠向這些客戶端之一發出指令時會發生的情況有關。因此，微軟的應用程序在允許這些代理訪問您的文件和將它們與系統的其他部分隔離之間走鋼絲。

潛在風險和修復嘗試

例如，在計算機上運行的人工智能代理將獲得與您的個人帳戶分開的自己的用戶帳戶，確保他們無權更改 一切 並為他們提供自己的“桌面”來使用，這不會干擾您在屏幕上處理的內容。用戶需要同意他們的數據請求，並且“所有代理行為都是可觀察的，並且可以與用戶的行為區分開來。”微軟還表示，代理應該能夠生成其活動日誌，並且“應該提供一種監督其活動的方法”，包括向用戶顯示他們為完成多步驟任務而將採取的操作列表。