安全研究人員從Gmail挖了秘密。幫助chatgpt代理商

安全研究人員使用Chatgpt作為同謀，無需通知用戶即可從收件箱Gmail搶購敏感數據。 Openai封閉了對脆弱性的開發，但這是代理AI固有的新危險的一個很好的例子。

搶劫， 稱為陰影洩漏 和 由Radware Security Company發表它基於AI代理的工作方式。 AI代理人是可以代表您行動而無需連續監督的助手，這意味著您可以瀏覽網絡並單擊鏈接。 AI公司很喜歡他們，因為用戶允許他們訪問個人電子郵件，日曆，工作文件等。

Radware研究人員以一種稱為即時注射的攻擊形式利用了這項服務，這有效地使代理商為攻擊者工作。如果沒有工作剝削的先驗知識，就無法避免強大的工具，黑客已經以創造性的方式開發 同行評審; 執行並控制一個聰明的房子。用戶通常不知道某些問題出現了問題，因為可以簡單地看（對人類）隱藏說明，例如在白色背景上作為白色文字。

在這種情況下，雙重代理是Openai的深入研究，這是一種AI工具，該工具納入了今年早些時候開始的CHATGPT。 Radware研究人員立即將注射到發送給代理商訪問的Gmail的電子郵件中。他在那裡等著。

當用戶試圖使用深入研究時，他們會無意間採用陷阱。代理人將面臨隱藏的說明，該說明通過搜索人力資源的電子消息和個人數據及其在黑客中的走私來委託。受害者還不是最明智的。

讓代理商去流氓 – 並成功管理尚未確定的數據，哪些公司可以採取措施來預防 – 這不是一件容易的事，並且有很多測試和錯誤。研究人員說：“這一過程是失敗嘗試，令人沮喪的路障，最後是一個重大發現的過山車。”

與大多數直接注射不同，研究人員說，陰影洩漏是在OpenAI雲基礎架構中執行的，並直接從那裡洩漏了數據。他們寫道，這使得對標準的防禦防禦能力看不見。

Radware表示，這項研究證明了這一想法，並警告說，其他深入的研究應用程序，包括Outlook，Github，Google Drive和Dropbox-May容易受到類似攻擊的影響。他們說：“可以將相同的技術應用於這些附加鏈接，以消除非常敏感的業務數據，例如合同，會議筆記或客戶文件。”

研究人員說，Openai現在已將Radware在6月強調的漏洞聯繫起來。