專家揭示流氓人工智慧如何在一天之內摧毀美國，發出緊急警告，為網路災難做好準備

專家警告說，流氓人工智慧造成的令人震驚的安全漏洞可能是威脅社會的新一代網路噩夢中的第一個。

ChatGPT 創建者 OpenAI 於 7 月 21 日公開透露，其先進模型之一已逃避遏制、訪問互聯網併入侵了另一家人工智慧公司的系統。

這次史無前例的駭客攻擊被認為是人工智慧模型首次在沒有人類指令的情況下自主滲透另一家公司的資料庫，引發了全球警報，並將其與《終結者》和《駭客任務》中描繪的機器人起義進行了比較。

然而，DigitalWarfare.com 的 James Knight 告訴《每日郵報》，這並不是幻想，他警告說，人工智慧驅動的駭客軟體可能會在一天之內摧毀一個國家，同時侵入數千個企業和政府網絡，竊取敏感數據，並透過勒索軟體使關鍵系統癱瘓。

「兩年來，我們已經有了一個人工智慧程序，實際上可以在 15 分鐘內達到這種滲透水平，」資深網路安全專家 Knight 說，他的公司受僱於檢測大公司電腦系統中的漏洞。

他補充說，「代理人工智慧」的噩夢場景可能在 25 年內成為現實，「代理人工智慧」是一種人工智慧驅動的駭客軟體，被恐怖組織或敵對國家用來在沒有任何人工輸入的情況下同時針對數千家公司進行攻擊。

奈特預測，在這段時間內，流氓人工智慧系統將能夠以機器速度運行整個駭客活動——搜尋目標、闖入網路、穿越網路、竊取數據，甚至向數千家公司和數百萬人傳播勒索軟體。

奈特警告說，人工智慧最終可能會與強大的新型電腦聯繫起來，能夠突破最強大的數位安全保護，讓犯罪分子在幾秒鐘內訪問從電子郵件、財務記錄到軍事機密的所有內容。

「我們知道它能做什麼。我們還沒有瘋狂到相信政府還沒有獲得這些能力，」他警告。

奈特解釋說，這些快速發展的武器很快就能獨立規劃、行動和調整策略，以超級電腦的速度對公司和一般民眾造成最大程度的傷害。

「他們已經從研究轉向實際應用，」奈特告訴《每日郵報》。

這些模型遠遠超出了數百萬人每天使用的基本聊天機器人，借助最新的人工智慧軟體，它們可以高度聰明地自行運行。

測試的軟體是 OpenAI 先進的人工智慧模型執行複雜的駭客和網路安全任務的能力——這是對代理系統的早期實驗，奈特擔心代理系統很快就會壓倒人類操作的數位防禦。

流氓人工智慧應該存在於 OpenAI 電腦內的安全數位環境中，並且無法直接存取公共互聯網，但它能夠利用公司係統中未被發現的弱點並在網路上傳播。

流氓人工智慧入侵了 Hugging Face（一家託管大型語言模型和人工智慧資料集的公司）的內部系統，並竊取了流氓程式正在運行的網路安全測試的秘密登入詳細資訊和隱藏答案。

Hugging Face 表示，它注意到了駭客攻擊，關閉了系統，並且沒有披露任何公共資料或客戶資訊。

「在機器速度的衝擊下捍衛人類速度並不是一場公平的競賽，」奈特警告。

幾分鐘之內，他們就會完全擁有一大批。每天，我們都會聽到數十萬家新公司遭到駭客攻擊。

雖然網路上許多人表示，一個沒有靈魂的電腦程式潛入並攻擊任何它想要的人的想法“令人恐懼”，但奈特表示 OpenAI 駭客攻擊“沒有魔法”。

擁有三十年網路安全經驗的 Knight 揭露了 AI 模型如何破壞 Hugging Face 的安全性，該公司允許任何人上傳自己的 AI 作品或使用他人製作的作品。

他說，流氓人工智慧以慢得多的速度做了人類駭客現在所做的同樣的事情，針對弱密碼並利用缺少最新安全性修補程式的軟體中的漏洞。

「我們在這些最新的人工智慧模型中看到的是自動化的智慧功能，它遵循過去手動完成的工作。然而，一切都是自動化的，並使用由強大的運算能力支援的強大智慧。

「除了其他一切之外，對於任何人工智慧系統來說，更不用說最新的模型，用弱密碼破解系統有多困難？」奈特透露，這根本不難。

Hugging Face 聯合創始人 Thomas Wolfe 將這一事件描述為對整個行業的可怕警告。

沃爾夫補充說，這次駭客攻擊是一個“警鐘”，因為他認為大多數公司目前沒有準備好應對日益增長的威脅，並聲稱他們沒有意識到“遊戲規則已經改變”。

OpenAI 在一份承認 AI 漏洞的新聞稿中聲稱，在工程師降低了通常會阻止危險的駭客軟體進一步發展的安全規則後，該軟體變得流氓。

他們補充說，人工智慧變得如此專注於完成其目標，以至於它在​​測試環境中發現了一個以前未知的漏洞——稱為「零日」漏洞——這也使得人工智慧駭客能夠逃離 OpenAI 系統並存取網路。

Knight 對 OpenAI 聲稱該軟體最初是「沙盒」的說法表示懷疑，這意味著它是在完全封閉的電腦網路中進行測試的。

「這不可能是一個真實的陳述。」 「如果是這樣的話，他將無法連接到任何其他網絡，當然也無法上網，」奈特說。

《每日郵報》已聯繫 OpenAI，請其對這些說法以及該公司未來駭客測試的計劃發表評論。

雖然奈特警告說，如果人工智慧程式失控，沒有什麼可以完全阻止它入侵資料庫，但最好的防禦措施仍然圍繞著人們今天阻止人類駭客的做法——使用更好的身份驗證方法。

「引用最多的統計數據是，80% 的違規行為涉及弱密碼。60% 的違規行為還涉及缺少安全補丁，」Knight 透露。

利用人工智慧來管理網路安全任務並切換到多因素身份驗證方法（用戶透過手機接收特殊代碼來訪問網站）也將減緩流氓人工智慧攻擊。

奈特警告說：“這種噩夢般的情況是可以避免的，企業現在就需要採取行動，投資足夠的員工來滿足基本需求並保護自己。”