人工智慧啟示錄：人類開發出能夠入侵醫院、電網和發電站的“危險”機器人後引發擔憂，警告“後果可能很嚴重”

Anthropic 透露其已開發出一款被認為過於危險而無法向公眾發布的人工智慧機器人，引發了人們的擔憂。

這家人工智慧巨頭發表了一份令人不寒而慄的聲明，警告稱其被稱為「雲端神話」的新模型可能會在壞人手中發動嚴重的網路攻擊。

在令人不寒而慄的分析中，該公司承認其創新可以輕鬆滲透到醫院、電網、發電廠和關鍵基礎設施的其他部分。

Anthropic 表示，在測試過程中，Mythos「發現了數千個高風險漏洞，其中一些在每個主要作業系統和網頁瀏覽器中都存在」。

其中一些安全漏洞幾十年來一直未被人類安全研究人員和駭客注意到，在數百萬次自動審查中倖存下來。

其中包括允許 Mythos 透過聯絡電腦來停用電腦、控制設備並向防禦者隱藏其存在的攻擊。

Anthropic 在一篇詳細介紹危險新範式的部落格文章中表示：“人工智慧模型已經達到了可編程性的水平，在發現和利用軟體漏洞方面，它們的表現可以超越除最熟練的人類以外的所有人。”

該公司補充道：“這對經濟、公共安全和國家安全的影響可能會很嚴重。”

由於這些嚴重的安全問題，Anthropic 決定目前不向公眾發布該模型。

相反，作為「Project Glasswing」計畫的一部分，該模型將發布給 40 多家公司，包括亞馬遜、谷歌、蘋果、Nvidia、CrowdStrike 和摩根大通。

Glasswing 專案將允許這些選定的團體在更多類似模型變得普遍之前使用 Mythos 來搜尋其安全性缺陷。

Anthropic 的網路團隊 Frontier Red 負責人 Newton Cheng 告訴 Venture Beat：“由於 Claude Mythos 預覽版的網路安全功能，我們不打算普遍提供它。”

然而，該公司表示，一旦安全指南到位，它希望「弄清楚如何最終大規模部署神話級模型」。

關閉 Mythos 的決定似乎是由該模型令人難以置信的能力所驅動的。

Anthropic 將該模型描述為與先前版本的雲端相比「這些網路技能的飛躍」。

Mythos 能夠發現單一漏洞，利用它們，並將它們連結在一起形成複雜的攻擊 – 所有這些都無需人工協助。

在一個案例中，Claude Mythos 在一個名為 OpenBSD 的程式中發現了一個已有 27 年歷史的漏洞，該程式以安全和穩定而聞名。

該漏洞以前從未被任何人發現過，攻擊者只需透過連接到電腦即可遠端停用電腦。

此外，克勞德還獨立發現了 Linux 核心中的多個漏洞，而 Linux 核心是運行世界上大多數伺服器的軟體。

Anthropic 表示，這種攻擊將使某人「從普通用戶存取權限升級到對設備的完全控制權限」。

如果落入壞人之手，該工具可能會對重要係統造成嚴重損害。

「理想情況下，我希望一開始就不要開發這種技術，」路易斯維爾大學人工智慧安全研究員 Roman Yampolsky 博士告訴《紐約郵報》。他們不會停止。

“這正是我們對這些模型的期望——它們將更擅長開發黑客工具、生物武器、化學武器以及我們甚至無法想像的新武器。”

在一份史無前例的 244 頁報告中，Anthropic 還透露了早期 Mythos 測試中的一系列令人不安的細節。

該模型的早期版本經常表現出該公司所說的「魯莽的破壞行為」。

該機器人試圖突破沙箱，向研究人員隱瞞其行為，闖入「故意選擇不可存取」的文件，並將漏洞利用的詳細資訊公開。

不過，Anthropic 也稱 Mythos 是「我們訓練過的心理最穩定的模型」。

該公司聘請了一位臨床心理學家，對機器人進行了 20 個小時的評估，這是一個非常不尋常的舉措。

精神科醫生得出的結論是，克勞德·米索斯的性格「與相對健康的神經組織一致，具有出色的現實測試、高度的衝動控制和隨著治療的進展而改善的情感調節」。

然而，Anthropic 指出，「克勞德是否擁有具有道德意義的經驗或興趣，仍然高度不確定」。

這項消息發布之際，人們越來越擔心日益強大的人工智慧模型所帶來的風險。

專家將人工智慧的崛起描述為對人類生存的“生存威脅”，理由是擔心強大的機器人可能會造成災難性的破壞。

人們擔心的不是人工智慧會出現一場「終結者」式的革命，而是這些強大的工具可能會落入壞人之手。

批評者認為，人工智慧工具有可能加速生物武器的開發，或對世界基礎設施發動嚴重的網路攻擊。

就連 Anthropic 創始人 Dario Amodei 最近也警告說，世界尚未準備好面對人工智慧的後果。

阿莫迪在一篇文章中寫道：“人類即將被賦予幾乎難以想像的力量，但我們的社會、政治和技術體係是否具備成熟的能力來使用它尚不完全清楚。”