最後的遺傳學 AI模型不僅是創建文本爭議的自動聊天機器人，而且可以輕鬆地連接到您的數據，以提供您的問題的個性化答案。歌劇的 可以登錄chatgpt 在您的Gmail收件箱中，您可以檢查GitHub代碼或在Microsoft日曆上找到約會。但是這些聯繫具有濫用的能力 – 研究人員表明，它只能獲得一個“中毒”文件。
安全研究人員邁克爾·巴格里（Michael Bargury）和塔米爾·伊賽（Tamir Ishay Sharbat）的新發現在今天在拉斯維加斯舉行的Black Hat Hacker會議上透露，OpenAI緊固件的弱點如何允許使用即時直接攻擊從Google Drive帳戶中出口敏感信息。在攻擊中， 被命名為代理Bargury展示瞭如何以API鍵的形式出口開發人員，該開發人員存儲在演示帳戶中。
漏洞強調瞭如何將AI模型連接到外部系統以及更多數據與它們的交換可以增加惡意黑客的攻擊表面，並可能將漏洞插入的方式增加。
Zenity Security Company的CTO Bargury說：“用戶無需採取任何措施即可危及，用戶無需採取任何措施將數據刪除。” “我們已經證明這完全是零點擊。我們只需要您的電子郵件。我們與您共享文檔。這就是。是的，這是非常非常非常糟糕的，” Bargury說。
Openai沒有立即回應Lired的有關連接器脆弱性的評論請求。該公司今年早些時 列表 至少有17種不同的服務可以鏈接到她的帳戶。它說，該系統允許您“將工具和數據帶到chatgpt”和“搜索文件，在對話中精確刪除實時數據並參考內容”。
巴格里說，他在今年早些時候提到了OpenAI的發現，該公司很快引入了緩解措施，以防止其用於通過連接器導出數據的技術。攻擊項目意味著只能同時提取有限的數據的方式 – 作為攻擊的一部分，無法刪除完整的文檔。
Google Workspace產品管理經理Andy Wen表示：“儘管此問題不是針對Google的特定特定的，但它表明了為什麼對直接輸液攻擊的強大保護開發至關重要。” 最近加強了人工智能安全措施。
