歡迎來到人工智慧駭客時代，正確的線索可以將業餘愛好者變成駭客大師。
一群網路犯罪分子最近使用現成的人工智慧聊天機器人竊取了近 2 億納稅人的資料。這些機器人提供了繞過防火牆的程式碼和現成的計畫。
儘管明確編程為拒絕幫助駭客，但這些機器人卻被誘騙進一步推進網路犯罪。
根據以色列網路安全公司 Gambit Security 最近的一份報告，駭客上個月使用 Anthropic 的聊天機器人 Claude 從墨西哥政府機構竊取了 150 GB 的資料。
據發現這項漏洞的專家稱，克勞德最初拒絕配合駭客攻擊，甚至拒絕刪除駭客數位軌跡的請求。該組織用 1,000 多條線索轟炸機器人，以繞過安全措施並說服 Claude 讓他們測試系統是否有漏洞。
人工智慧公司試圖在其人工智慧模型中創建牢不可破的鏈條，以阻止他們做一些事情，例如生成兒童色情內容或幫助採購和製造武器。他們僱用整個團隊來嘗試搶在其他人之前破解自己的聊天機器人。
但在這種情況下，駭客不斷地以創造性的方式與克勞德接觸，並且能夠「越獄」聊天機器人來幫助他們。當 Claude 遇到問題時，駭客使用 OpenAI 的 ChatGPT 進行資料分析，並找出需要哪些憑證才能在系統中不被發現。
該組織利用人工智慧來尋找和利用漏洞、繞過防禦、創建後門並分析數據，從而獲得對系統的控制權，然後從墨西哥的 9 個政府系統竊取了 1.95 億個身份信息，包括稅務數據、車輛登記以及出生和所有權數據。
Gambit Security 執行長柯蒂斯辛普森 (Curtis Simpson) 在部落格文章中表示，人工智慧「不會睡覺」。 “它將精煉成本降低到幾乎為零。”
他說：“任何預防投資都不會讓這次襲擊成為不可能。”
Anthropic 沒有回應置評請求。該公司告訴彭博社，經過調查後，已禁止相關帳戶並擾亂其活動。
OpenAI 表示，它知道使用 Anthropic 的模式針對墨西哥政府機構進行的攻擊活動。
OpenAI 發言人在一份聲明中表示：“我們還發現其他對手試圖利用我們的模型進行違反我們使用政策的活動；我們的模型拒絕遵守這些企圖。” “我們已禁止該對手使用的帳戶，並對 Gambit Security 的影響力表示讚賞。”
生成式人工智慧輔助駭客攻擊的案例數量正在增加，機器人自行發動的網路攻擊威脅已不再是科幻小說。當人工智慧發揮作用時，新手可以立即造成嚴重破壞，而經驗豐富的駭客則可以輕鬆發動更複雜的攻擊。
今年早些時候，亞馬遜發現一名技術不佳的駭客利用商用人工智慧突破了 600 個防火牆。另一個人控制了 數千台 DJI 掃地機器人 在克勞德的幫助下，並獲得了來自陌生人的即時視訊、音訊和地圖。
「我們今天看到的這些事情只是人工智慧在幾年內能夠做的事情的第一個跡象，」減輕先進人工智慧風險的專家尼古拉·尤爾科維奇（Nikola Jurkovic）說。 “所以我們迫切需要做好準備。”
去年年底，Anthropic 警告說，社會正在經歷“轉折點在破壞了該公司所說的中國國家支持的間諜活動後，人工智慧在網路安全中的應用，該活動利用 Claude 滲透到 30 個全球目標，包括金融機構和政府機構。
生成式人工智慧也被用來勒索公司、北韓特工創建真實的線上檔案以確保美國財富 500 強公司的工作機會、實施浪漫騙局以及經營俄羅斯宣傳帳戶網路。
近年來，人工智慧模型已經從能夠管理只需幾秒鐘的任務發展到今天能夠自主工作數小時的人工智慧代理。人工智慧執行長時間任務的能力是 每七個月翻一番。
「我們真的不知道人工智慧能力的上限是多少，因為沒有人創建過如此困難以至於人工智慧無法做到的基準，」在 儀表一個非營利組織，致力於衡量人工智慧系統對社會造成災難性損害的潛力。
迄今為止，社會工程是人工智慧駭客最常見的用途。主要語言模式用於編寫有說服力的電子郵件以騙取人們的錢財 八倍 美國老年人的投訴數量增加，到 2025 年，他們因網路詐騙損失了 49 億美元。
南加州大學計算機科學副教授 Cliff Neuman 表示，“現在可以更有效地為每個用戶生成用於引發目標點擊的消息，並且網絡釣魚的跡象更少”，例如語法和拼寫錯誤。
人工智慧公司正在利用人工智慧來偵測攻擊， 審計代碼 並修補漏洞。
「最終，巨大的不平衡來自於好演員需要始終確定，而壞演員只需要一次正確，」紐曼說。
隨著人工智慧滲透到經濟的各個方面，圍繞人工智慧的風險正在增加。許多人擔心，人們對如何確保它不會被不良行為者濫用或被迫走向流氓缺乏了解。
即使是業界頂尖人士也警告用戶人工智慧可能被濫用。
Anthropic 執行長 Dario Amodei 長期以來一直主張正在建構的 AI 系統是不可預測且難以控制的。這些人工智慧表現出了從欺騙和勒索到透過軟體駭客進行陰謀和欺騙等各種行為。
然而，主要的人工智慧公司——OpenAI、Anthropic、xAI 和谷歌——已經與美國政府簽署了合同，在軍事行動中使用他們的人工智慧。
上週，五角大廈命令聯邦機構逐步淘汰克勞德，因為該公司拒絕滿足其不允許其人工智慧用於大規模國內監控和全自動武器的要求。
「今天的人工智慧系統還不夠可靠，不足以製造完全自主的武器，」阿莫迪告訴哥倫比亞廣播公司新聞。
