ChatGPT Atlas 是一款人工智能驅動的網絡瀏覽器，可以為您預訂旅行、訂購雜貨或進行研究。 OpenAI 表示，這就像在瀏覽器中內置了一個個人代理。這是安全專家擔心的問題。
儘管人工智能係統非常出色，但它們也並不完美。從幻想到誹謗，人工智能經常會出錯。將網絡瀏覽器的密鑰交給人工智能會帶來許多其他潛在問題，包括注入攻擊、剪貼板攻擊，以及根本不了解某些網站是垃圾郵件。
“Atlas 顯示了我們在其他基於代理的瀏覽器中看到的相同的早期問題，”協作網絡教育和培訓組織 SANS Institute 的首席研究官兼人工智能負責人 Rob T. Lee 說道。 “直接注入和重定向測試取得了成功。值得讚揚的是，OpenAI 迅速採取行動解決了這些報告。”
不要錯過我們任何公正的技術內容和基於實驗室的評論。 添加 CNET 作為首選 Google 來源。
AI Atlas 的發布是新興瀏覽器戰爭的早期跳躍。該領域的其他進入者包括 Perplexity 的 Comet、Google 在 Chrome 中包含 Gemini 以及 Microsoft Edge 中的 Copilot 功能。對於大型科技公司的主要參與者來說，在網絡瀏覽器領域獲得任何形式的主導地位都會給他們帶來重要的用戶數據，他們可以利用這些數據更好地優化他們的產品或銷售有針對性的廣告。這對於 OpenAI 來說尤其重要，該公司已投入數十億美元開發人工智能基礎設施，但創收能力有限，更不用說利潤了。公司放眼四海八方， 包括廣告增加收入以及創建成人文本內容。
（披露：CNET 母公司 Ziff Davis 在 4 月份對 OpenAI 提起訴訟，指控其在訓練和運營其人工智能係統時侵犯了 Ziff Davis 的版權。）
就 OpenAI 而言，普及人工智能驅動的網絡瀏覽器意味著人們會遠離 Chrome，Chrome 是目前全球最受歡迎的瀏覽器，佔據 73% 的市場份額。 全球統計。 ChatGPT Atlas 可以進一步擴展 OpenAI 生態系統。雖然 ChatGPT 已成為 AI 聊天機器人的流行詞，但為了在消費者和企業領域實現 Atlas 的大規模採用，OpenAI 需要確保其瀏覽器與 Chrome 一樣安全可靠。
快速注入、剪貼板攻擊等等
直接注入攻擊 是與人工智能支持的網絡瀏覽器最相關的漏洞。這是一種攻擊行為，不良行為者故意在網站上為人工智能代理放置惡意指令。文本是不可見的，對用戶隱藏。但由於人工智能可以分析網站上的所有內容，因此它吸收了指令並忽略了安全指令。錯誤的指令可能會導致人工智能洩露敏感信息、更改系統設置或採取其他有害操作。
營銷公司 Tinuiti 創新與開發執行副總裁西蒙·波爾頓 (Simon Poulton) 表示：“這裡還存在更廣泛的消費者擔憂，因為這種無處不在的計算機視覺組件與您網頁瀏覽的各個方面都息息相關。”波爾頓擔心消費者不會了解他們的信息是如何存儲的以及這些信息在人工智能中的持久性。
這導致了波爾頓的另一個擔憂：代理。隨著用戶對人工智能係統越來越熟悉，他們開始放棄懷疑並給予人工智能更多的控制權。他將這等同於第一次駕駛 Waymo 自動駕駛汽車。首先，顧客可以仔細觀察，確保汽車運轉正常。但十分鐘後，他們就會轉而使用手機瀏覽。
問題在於人工智能係統並不完美。在測試 Perplexity 的 Comet 時，Poulton 發現當他登錄網站時，瀏覽器開始在電子郵件地址字段中輸入他的密碼。他能夠捕捉到它，但這表明人工智能係統如何錯誤地處理敏感信息。
一個鮮為人知的漏洞是複製到剪貼板攻擊。此時，不良行為者會指示人工智能將惡意鏈接複製到某人的剪貼板。如果用戶不小心，他們可能會意外地將鏈接粘貼到瀏覽器中並被引導至不良網站。正是這些粗心大意的情況可能導致重大漏洞。
布朗大學計算機科學教授塞雷娜·布斯 (Serena Booth) 表示：“使用法學碩士作為互聯網接口的最大危險之一是人們可能不了解其局限性，從而不適當地使用它們。”
布斯提到了使用法學碩士作為治療師的優越性，儘管這些系統並不是為提供這種幫助而建立的。 “我確信這個瀏覽器也會產生幻覺，這可能會傷害那些不能有效管理它的人。OpenAI 應該感到有很大的責任來教育用戶如何正確使用他們的軟件，”布斯說。
當被要求發表評論時，OpenAI 提到了最近發布的 博客文章 關於早期輸液危機。
博文稱，“防禦早期注入是 AI 行業面臨的挑戰，也是 OpenAI 的重點關注點。”
OpenAI 表示正在訓練人工智能模型來調用一個 命令層次結構 其目的是區分可信和不可信的指令。它還開發了多個人工智能驅動的“屏幕”，可以檢測和阻止早期注入攻擊。當用戶訪問在線購物服務等敏感網站時，Atlas 會將控制權轉移給用戶。 OpenAI 表示，它還與內部和外部團隊一起使用紅隊（當安全團隊模擬現實世界的攻擊時，讓黑客與防御者對抗）並提供服務 慷慨 對於錯誤發現者。平均支出為 784 美元。
工作中小心使用人工智能瀏覽器
儘管存在風險，但工人仍面臨採用人工智能係統的壓力。隨著 ChatGPT Atlas 的推出， 27.7% 的企業至少有一個人下載了人工智能驅動的網絡瀏覽器據數據安全公司 Cyberhaven 稱。其中一些可能是 IT 專業人員下載瀏覽器來試用，但員工在工作中使用代理瀏覽器的風險仍然很大。
Cyberhaven 首席執行官 Nishant Doshi 表示：“代理瀏覽器可以簡化和自動化最嚴重的攻擊，以竊取有關客戶、個人、患者、敏感產品設計的高度敏感數據以及具有國家安全影響的高度監管數據。”
多西表示，這種風險不僅限於 ChatGPT Atlas，而且由於人工智能瀏覽器可以代表員工行事，使用他們的憑據來導航公司工具，因此必須採取適當的保護措施。
當前的人工智能和 IT 安全工具通常無法清楚地判斷數據是否敏感或來自何處。 “如果沒有這個重要的框架，他們就無法準確判斷給定的數據是否敏感。將這一重要的弱點與瀏覽器代理自動化工作的強大功能相結合，就會有事件發生，”多西說。
我是否應該使用 ChatGPT Atlas？
SANS Institute 的 Lee 表示，對於個人來說，只要了解 ChatGPT Atlas 的局限性，就可以使用它。它建議避免將 Atlas 與這些系統同步或直接共享“財務、醫療或敏感信息”，並關閉不需要的權限。
然而，在工作中，最好謹慎行事。專家表示，ChatGPT Atlas應該在網絡覆蓋範圍有限的測試環境中使用。 Lee 表示，跟踪所有活動並及時將其納入公司的人工智能治理框架也很重要。
最大的問題是您是否需要 ChatGPT Atlas。雖然功能很好，但如果您必須不斷監控它以確保它正常工作，那麼真的值得這麼麻煩嗎？很有可能，您對互聯網足夠精通，可以自己做事，即使這需要使用大腦中的一些額外突觸。
“很難說為什麼現在有人會使用它，”波爾頓說，他相信它可以更快地點擊網站。 “這是一個創新因素。但是真正輕鬆的消費者體驗從何而來？它不會改變。它不會為我創造任何價值。”
長話短說
消費者可以使用ChatGPT Atlas，但請謹慎操作。未經 IT 部門批准，請勿在工作計算機上使用它，因為可能存在一些漏洞。使用它時，請注意它如何使用敏感信息（例如密碼）來瀏覽網站和執行任務。為了安全起見，請避開銀行或其他敏感站點。
