供應鏈、人工智能和雲：2025 年最大的失敗（和一個成功）
第三次引起關注的與人工智能相關的概念驗證攻擊使用閃存注入，使 GitLab 的 Duo 聊天機器人將惡意行添加到合法代碼包中。一種形式的攻擊成功竊取了敏感的用戶數據。
另一項值得注意的攻擊針對的是 Gemini CLI 加密工具。它允許攻擊者使用人工智能工具在開發人員的計算機上執行惡意命令，例如擦除硬盤驅動器。
使用人工智能作為黑客攻擊的誘餌和幫手
其他參與法學碩士的黑客已經使用聊天機器人來使攻擊更加有效或更謹慎。本月早些時候，兩名男子被指控竊取和刪除敏感政府數據。檢察官稱，其中一名男子試圖通過詢問人工智能工具“刪除數據庫後如何清除 SQL 服務器上的系統日誌”來掩蓋自己的踪跡。據稱，不久之後，他詢問該工具：“如何清除 Microsoft Windows Server 2012 中的所有事件和應用程序日誌。”無論如何，調查人員能夠追踪被告的行為。
今年 5 月，一名男子承認對華特迪士尼公司的一名員工進行了黑客攻擊，他誘使員工運行廣泛使用的開源人工智能圖像創建工具的惡意版本。
8 月，谷歌研究人員發現未知攻擊者使用某些憑據訪問來自 Google Workspace 帳戶的電子郵件後，警告 Salesloft Drift AI 聊天代理的用戶考慮連接到該平台的所有安全令牌。攻擊者使用這些令牌訪問各個 Salesforce 帳戶，並從那裡竊取數據，包括可用於其他違規行為的憑據。
LLM 中也存在多起漏洞，對使用它的人造成傷害。在一個案例中，CoPilot 被發現洩露了 20,000 多個私人 GitHub 存儲庫的內容，這些存儲庫來自谷歌、英特爾、華為、PayPal、IBM、騰訊等公司，諷刺的是，還有微軟。存儲庫最初也可以通過 Bing 獲得。微軟最終從搜索中刪除了這些存儲庫，但 CoPilot 仍然繼續檢測它們。
