人工智慧代理肯定會大放異彩。在他最近的病毒式傳播中 開爪, 毛書 和開放人工智慧 計劃呈現他的經紀人的特徵 在下一個層面上，這可能只是經紀人的一年。
為什麼？嗯，他們可以計劃， 寫程式碼瀏覽網頁並 執行多步驟任務 幾乎沒有監督。有些甚至承諾管理您的工作流程。其他人則與桌面上的工具和系統進行協調。
其吸引力是顯而易見的。這些系統不僅僅做出響應。這些 行為 ——為了您並代表您。但當麻省理工學院人工智慧代理索引背後的研究人員對 67 個已部署的代理系統進行分類時，他們發現了一些令人不安的事情。
開發人員很樂意描述他們的代理商可以做什麼 做。他們不太願意描述這些因素是否為 安全的。
研究人員在論文中寫道：“領先的人工智慧開發商和新創公司正在越來越多地開發人工智慧系統，這些系統可以在有限的人力輸入下設計和執行複雜的任務。” “但是，目前還沒有結構化框架來記錄……代表性系統的安全功能。”
這種差距在數字中很明顯：大約 70% 的索引代理提供文檔，近一半發布程式碼。但只有約 19% 的企業揭露了正式的安全策略，不到 10% 的企業報告了外部安全評估。
研究強調，雖然開發人員很快就會宣傳系統代理的功能和實用性，但他們也很快提供有關安全和風險的有限資訊。結果是一種片面的透明度。
什麼才算是人工智慧代理
研究人員研究了晉級的原因，發現並非每個聊天機器人都符合標準。要納入其中，系統必須按照細分目標運行，並隨著時間的推移追求目標。它還必須採取影響環境的措施，而人為幹預有限。這些系統自行決定中間步驟。他們可以將廣泛的指令分解為子任務、使用工具、計劃、完成和重複。
這種自主權使他們變得強大。這也是增加賭注的原因。
當模型僅生成文字時，其失敗通常包含在該輸出中。當人工智慧代理可以存取文件、發送電子郵件、進行購買或修改文件時，錯誤和漏洞可能會造成破壞並跨越多個步驟傳播。然而，研究人員發現，大多數開發人員並沒有公開報告他們如何測試這些腳本。
技能是公開的，護欄不是
這項研究中最引人注目的模式並不是隱藏在一個面板中，而是在整篇論文中重複出現。
開發人員可以輕鬆地共享這些人工智慧代理的演示、基準測試和可用性，但在共享安全評估、內部測試流程或第三方風險控制方面卻不太一致。
隨著代理從原型轉向整合到現實工作流程中的數位代理，這種不平衡變得更加重要。許多索引系統在軟體工程和電腦使用等領域運行，這些環境通常涉及敏感資料和實質控制。
麻省理工學院的人工智慧代理指數並沒有聲稱人工智慧代理整體上是不安全的，但它確實表明，隨著自主權的增加，有關安全的結構化透明度並沒有跟上步伐。
科技正在加速發展。至少在公共場合，護欄仍然很難看到。
