AI摘要是為了更輕鬆的生活：他們打算將大量信息切入您可以快速掃描的信息，以便您花費更緊急的時間。問題是您不能總是相信這些結論。通常，這是因為AI的困擾和不正確的信息。在其他情況下，結論可能是黑客。
實際上，這就是Gemini發生的事情，Gemini是Google擁有工作區的所有權。像其他AI模型一樣。雙子座可以在Gmail中總結電子郵件。然而， 如BleepingComputer報導技術有被利用的風險。黑客可以向這些摘要注入危險信息，以驅動這些用戶
這是工作方式：壞演員創建帶有隱形消息的電子郵件。使用HTML和CSS並管理字符的大小和顏色。您將看不到消息的這一部分。但是Gemini將因為Hacker知道它不使用可能設置Google垃圾郵件過濾狀態的鏈接或文件附件，因此該消息很有可能會降落在用戶的信箱中。
因此，您打開電子郵件，而不會注意到藍色的任何內容。但這已經很長一段時間了，因此您選擇給您雙子座來總結您。儘管結論的頂部是可見文本。結尾將總結隱藏的文本。在一個示例中，隱形消息被命令為雙子座，以警告用戶，認為他們的Gmail密碼被入侵。然後專注於電話號碼以調用“支持”
這種危險活動極為危險。我可以看到，使用雙子座的人相信這種警告，尤其是如果他們使用具有未知的AI摘要，騙局的工作方式，看起來像Google等Google的官方輸出（例如Google）設計了AI，以警告用戶在入侵密碼時警告用戶。
Google回應了BleepingComputer的請求； IIT聲稱沒有以這種方式看到雙子座管理的證據，並將出路發送到 郵政博客 關於如何與註射攻擊戰鬥，立即分享以下內容：“我們正在通過紅色的練習來練習我們的模型以防止這種攻擊。”它確認將要使用一些策略。
如何保護自己免受雙子座的安全缺陷。
安全研究人員發現了這些缺陷。 Marco Figueroa為安全團隊提供了建議，以應對這種漏洞。 Figueroa建議刪除旨在隱藏用戶的文本，並使用Gemini的掃描過濾器進行可疑的內容，例如鍊接，電話號碼或警告。
你怎麼認為？
但是，作為最終用戶，您不能為這些建議做很多事情。但是，現在您知道要尋找什麼。如果您使用Gemini AI結論對內部任何緊急消息非常好奇 – 特別是如果這些警告不涉及電子郵件。當然，您可能會收到一封合法的電子郵件，警告您違反信息的情況。 AI生成的摘要也會告訴您。但是，如果得出的結論是，該電子郵件是下周和結論底部的城市事件的問題，您將看到有關Gmail密碼的警告。
像其他釣魚計劃一樣。警告可能有危險信號。在一個集中在爆炸計算機上的示例中，gmail拼寫為“ gmail”一詞。如果您不熟悉Gmail格式化方法，那可能不會使您成為您。但是，尋找不一致的錯誤和其他錯誤，Google沒有直接的電話號碼來解決支持問題。如果您試圖與公司聯繫，您將知道沒有辦法與真實的人聯繫。
除了這種釣魚風格外，您應該想知道總結AI並不意味著應該完全避免它們 – 它們將很有用 – 但是如果沒有失敗，AI可能是錯誤的。如果您正在閱讀的電子郵件很重要，我建議您避免摘要資格，或者至少掃描原始文本以確保結論正確。
