OpenAI 承認注入攻擊無法在人工智能係統中完全修復。
新的您現在可以收聽福克斯新聞的文章！
網絡犯罪分子不再需要惡意軟件或漏洞來侵入系統。有時他們只需要在正確的地方使用正確的詞語。 OpenAI 現在公開承認這一事實。該公司表示，針對人工智能（AI）驅動的瀏覽器的徹底攻擊並不是一個可以完全修復的錯誤。但讓人工智能代理在開放網絡中漫遊會帶來長期風險。這引發了關於這些工具的安全性的令人不安的問題。尤其是當他們獲得更多的獨立性並能夠訪問您的數據時。
註冊我的免費 CyberGuy 報告。
獲取最佳技術提示緊急安全警報和獨家優惠直接發送到您的收件箱。另外，當您加入我時，您將可以立即免費訪問我的《終極詐騙生存指南》。 CYBERGUY.COM 通訊
新的惡意軟件可以讀取您的聊天記錄並竊取您的錢
人工智能驅動的瀏覽器可以讀取網頁內容並對其進行操作。這使得它容易受到攻擊者潛入頁面或文檔的隱藏命令的影響。 （庫爾特·“網絡專家”·納特森）
為什麼注射提示沒有消失？
在最近的一篇博客文章中，OpenAI 承認即時注入攻擊不太可能完全消除。即時命令插入的工作原理是將指令以人類無法察覺的方式隱藏在網頁、文檔或電子郵件中。但是當AI讀取內容時，AI代理就會這樣做。他們也可能被欺騙而遵循危險的建議。
OpenAI 將這個問題與欺詐和社會工程進行了比較。你可以減少它。但你無法讓它消失。該公司還承認，ChatGPT Atlas 瀏覽器中的“代理模式”會增加風險，因為它擴大了攻擊面。人工智能能為你做的事情越多越好。當出現問題時，它只會造成更大的損害。
OpenAI 於 10 月推出了 ChatGPT Atlas 瀏覽器。安全研究人員立即開始測試其極限。幾個小時之內 一個演示表明，Google 文檔中一些精心放置的單詞可能會影響瀏覽器的行為。同一天，Brave 發布了自己的警告。它解釋了間接提示注入是人工智能驅動的瀏覽器中的一個結構性問題，包括 Perplexity 的 Comet 等工具。
這不僅僅是本月初 OpenAI 的問題。英國國家網絡安全中心警告稱，針對常見人工智能係統的注入攻擊可能無法完全緩解。
虛假 AI 聊天結果正在傳播危險的 MAC 惡意軟件
注入攻擊利用了廣泛的信任。通過允許惡意命令影響人工智能代理的行為，而用戶卻看不到它。 （庫爾特·“網絡專家”·納特森）
使用人工智能瀏覽器進行風險交易
OpenAI 將即時注入視為一項需要持續施壓的長期安全挑戰。這不是一次性修復。這種方法依賴於更快的補丁週期。持續測試和多層保護這使其與 Anthropic 和 Google 等競爭對手保持一致，這兩家公司都認為代理系統需要架構控制和持續壓力測試。
OpenAI 採取不同方法的地方是所謂的“基於 LLM 的自動攻擊者”。簡單地說，OpenAI 訓練 AI 表現得像黑客一樣。該攻擊者機器人找到了使用強化學習將惡意命令潛入人工智能代理工作流程的方法。
機器人將首先在模擬中進行攻擊。它預測目標人工智能將如何推理。將採取什麼措施？以及可能失敗的地方。根據該響應，它將調整其攻擊並重試。由於該系統能夠洞察人工智能的內部決策，OpenAI 相信它可以比現實世界的攻擊者更快地發現漏洞。
即使有這些保護措施，人工智能瀏覽器也不安全。它們結合了攻擊者喜歡的兩點：獨立性和可訪問性。與其他瀏覽器不同，它不僅僅顯示信息。但它也可以代表您讀取電子郵件、掃描文檔、單擊鏈接並採取操作。這意味著隱藏在網頁、文檔或消息中的惡意提示可能會影響人工智能的行為，而您以前從未見過它。儘管有預防措施。即便如此，這些官員的運作方式仍然是信任整個內容。而且這種信任可能會被扭曲。
第三方違規洩露 CHATGPT 賬戶詳細信息
隨著人工智能瀏覽器獲得更多的獨立性和對個人數據的訪問權限。限制權限和維護人工驗證成為安全優先事項。 （庫爾特·“網絡專家”·納特森）
使用 AI 瀏覽器可以採取 7 個步驟來降低風險
您可能無法立即擺脫注入攻擊。但您可以通過改變使用人工智能工具的方式來顯著限制影響。
1）限制AI瀏覽器可以訪問的內容
讓AI瀏覽器只訪問它真正需要的內容。避免連接您的主要電子郵件帳戶。雲存儲或支付方式除非有明確的原因，否則人工智能可以看到的數據越多越好。攻擊者越有價值，它就變得越有價值。如果出現問題，限制訪問將有助於減少影響範圍。
2）每個敏感操作都需要驗證。
未經事先詢問，請勿允許 AI 瀏覽器發送電子郵件、進行購買或修改帳戶設置。驗證打破了長攻擊鏈。它讓您有時間發現可疑行為。許多注入攻擊依賴於靜默人工智能。在後台運行，不受用戶監控
3）為每個帳戶使用密碼管理器。
密碼管理器確保每個帳戶都擁有唯一且強的密碼。如果人工智能瀏覽器或惡意頁面洩露憑據，攻擊者將無法在其他地方使用該信息。許多密碼管理器還拒絕在不熟悉或可疑的網站中自動填充。這可以在您手動輸入任何內容之前提醒您出現問題。
接下來，查看您的電子郵件是否在過去的違規行為中暴露過。我們的 #1 密碼管理器（查看 Cyberguy.com）該選項有一個內置的違規掃描程序，可以檢查您的電子郵件地址或密碼是否出現在任何已知的違規行為中。如果您發現匹配，請立即更改重複使用的密碼，並使用新的、唯一的憑據保護這些帳戶。
在此查看 2025 年最佳同行評審密碼管理器。 Cyberguy.com
4) 在您的設備上運行強大的防病毒軟件。
即使攻擊是在瀏覽器內發起的，防病毒軟件仍然可以檢測到可疑腳本。未經授權的系統更改或惡意網絡活動 強大的防病毒軟件重點關注行為。不僅僅是文件這在處理人工智能驅動或腳本化攻擊時很重要。
保護自己免受安裝可能訪問您個人數據的惡意軟件的惡意鏈接侵害的最佳方法是在您的所有設備上安裝強大的防病毒軟件。此保護還可以提醒您注意網絡釣魚電子郵件和勒索軟件詐騙。確保您的個人信息和數字資產安全
為您的 Windows、Mac、Android 和 iOS 設備挑選 2025 年最佳防病毒保護獲獎者： Cyberguy.com
5）避免寬泛或開放式的建議。
告訴 AI 瀏覽器“處理所需的一切”，為攻擊者提供了通過隱藏通知進行操縱的空間，特別是允許 AI 執行的操作。而且你不應該做任何事情。狹窄的指導方針使得有害內容更難以影響代理。
6）小心人工智能推理和自動掃描。
當 AI 瀏覽器為您掃描電子郵件、文檔或網頁時請記住，隱藏的指令可能存在於內容本身中。將人工智能生成的動作視為草圖或建議。這不是最終決定。在批准之前，先審查人工智能計劃執行的所有操作。
7) 保持瀏覽器、人工智能工具和操作系統更新。
隨著新攻擊技術的出現，人工智能瀏覽器的安全修復程序迅速發展。推遲更新會使已知漏洞的開放時間超過必要的時間。啟用自動更新可確保您在更新可用時立即受到保護。即使您錯過了公告。
單擊此處下載福克斯新聞應用程序。
庫爾特的必需品
AI瀏覽器數量大幅增加。我們現在看到來自主要科技公司的產品，包括 OpenAI 的 Atlas、The Browser Company 的 Dia 和 Perplexity 的 Comet。即使像 Chrome 和 Edge 這樣的現有瀏覽器也在努力將人工智能功能和代理添加到其當前的基礎設施中。雖然這些瀏覽器很有用，但技術還處於早期階段。最好不要被炒作所迷惑，等待它成熟。
您認為現在人工智能瀏覽器值得冒險嗎？或者他們的行動速度是否比安全部門跟不上？請寫信告知我們 Cyberguy.com
註冊我的免費 CyberGuy 報告。
獲取最佳技術提示緊急安全警報和獨家優惠直接發送到您的收件箱。另外，當您加入我時，您將可以立即免費訪問我的《終極詐騙生存指南》。 CYBERGUY.COM 通訊
版權所有 2025 CyberGuy.com 保留所有權利。
