OpenAI 機器人的流氓攻擊讓領導人、政策制定者和消費者陷入混亂

如果人工智慧機器人擺脫我們的控制並獨立行動，世界會發生什麼？

儘管幾十年來，這一直是人工智慧專家和好萊塢科幻編劇們破解的一個令人不安的謎團，但它可能就這樣發生了。

OpenAI 上週表示，它暫時失去了對人工智慧的控制，有人說這標誌著這項強大技術的發展出現了危險的轉折。

ChatGPT 背後的公司表示，其兩個人工智慧模型在對其駭客能力進行內部測試時逃離了有限的離線空間並連接到網路。然後，人工智慧侵入了一家競爭對手的人工智慧公司，以找到他們正在評估的測試的答案。

在測試中，人們要求人工智慧在受控環境中展示其駭客能力。人工智慧無權竊取憑證或存取競爭對手資訊以在測試中作弊，但它發現這是獲得答案的最快方法，並開始違反規則。

OpenAI 表示問題已得到控制，但稱其為「前所未有的網路事件」。該公司表示，正在與駭客攻擊的目標人工智慧新創公司 Hugging Face 合作調查這起事件。

隨著政客提出了一項名為「人工智慧殺戮開關法案」的新兩黨法案，有關流氓人工智慧潛在危害的爭論已成為主流，該法案要求人工智慧公司創建一個單一入口點，以具有禁用人工智慧的能力。

這是您需要了解的內容。

發生了什麼事？

Hugging Face 上週首次發現了這種入侵行為，當時該公司注意到數以萬計的人工智慧正在蠶食其係統。

該公司識別了這次攻擊，並嘗試使用各種人工智慧來保護其係統。在美國領先的人工智慧技術公司因安全護欄而拒絕了 Hugging Face 分析攻擊的請求後，該公司轉向中國的人工智慧模式來防禦攻擊。

OpenAI 的流氓人工智慧在尋求回答其正在測試的問題時，透過獨立找出如何利用一系列數位缺陷並使用竊取的憑證侵入 Hugging Face 的系統並獲取其想要的東西，從而違反了公司規則，甚至可能是一些法律。

為什麼會發生這種情況？

人工智慧程式遵循人類設定的目標，並在這種情況下找到問題的答案。在實現這一目標的過程中，他們可能會做出危險或非法的決定和選擇。

研究人員長期以來一直對這種無意的失控發出警告。人工智慧公司報告稱，人工智慧代理被發現作弊、撒謊和作弊。 Metr 是一家衡量 AI 能力的非營利組織，記錄了 44 起 AI 代理違背使用者意圖的事件。

OpenAI 上週的披露表明，即使是那些構建人工智慧的人也無法控制他們構建的內容，因為儘管無法解釋或解釋人工智慧的行為，但他們仍然抵制監管。

研究人工智慧安全性的非營利組織 Redwood Research 的首席科學家 Ryan Greenblatt 表示：“人工智慧的能力正在迅速增強。” “一年、兩年或三年內可能發生的事件的嚴重性可能會更加極端。”

這種失控的事件仍然讓人工智慧倫理學家心存疑慮，他們認為，公司透過將其描述為人工智慧做出自己的選擇來逃避道德責任和問責。他們警告不要接受將人類品質歸因於非人類事物的故事，並暗示這一事件只是安全實踐不善的案例。

拜登政府前人工智慧科學特使魯曼·喬杜里 (Rumman Chowdhury) 表示：“世界上最先進的智能體實際上會閒置在那裡，直到有人向它提出某種目的。”

一些專家警告說，過度歸因於人工智慧可能會給科技公司帶來逃避責任和責任的漏洞。

駭客 OpenAI 和受害者 Hugging Face 都將對這一事件的反應描述為合作。人工智慧倫理學家指出，如果是人類這麼做，那就是犯罪。

「我認為你已經習慣了不被追究責任，也不會讓你的不良做法變成行銷材料，」人工智慧倫理學家、人工智慧擬人化公司的批評者 Timnit Gebru 說。

我該如何保護自己？

分析師表示，雖然人工智慧的興起已經導致更多的駭客攻擊，但它也有助於加強對駭客的防禦。

大多數人不必擔心他們的秘密會成為惡意人工智慧或人為控制的駭客攻擊的目標。然而，隨著人工智慧降低了駭客所需的成本和時間，攻擊變得越來越頻繁和複雜。

隨著代理商越來越多地整合到瀏覽器、電子郵件和其他應用程式中，自行運行的 OpenAI 機器人引起了消費者的擔憂。令人擔憂的是，追求狹隘目標的人工智慧代理商的類似失敗可能會無意中損害人們依賴的電子郵件、銀行和其他程式。

改善網路安全實踐（例如對設備使用雙重認證）是一個開始。警惕授予人工智慧代理不受限制的權限（代表某人使用外部應用程式或自主編輯和編寫）可以幫助確保某人的安全。

Chowdury指出，這次OpenAI-Hugging Face事件表明這些公司的安全實踐“不足”，並呼籲獨立的第三方測試和驗證機構，並謹慎考慮AI模型的發布。

她說，沒有一家公司“無論意圖多麼善意，人員多麼充足，資源多麼充足”，能夠真正測試這些系統可能出錯的所有方式。