—Douglas Rising—Getty Images 上個月，在亞利桑那大學的畢業典禮上，谷歌前執行長 Eric Schmidt 表示，2026 屆畢業生將塑造人工智慧的未來。人群向他發出噓聲。其他新創公司也遵循了類似的模式：對人工智慧持樂觀態度，然後遭到大眾的拒絕。他們的憤怒是真實且合理的。科技主管告訴我們，人工智慧將重塑我們的工作、學校、人際關係和戰爭。但我們被要求相信，我們都會從未經我們同意或參與的變革中受益。對許多像我這樣的美國人來說，這個承諾並不成立：我們覺得我們的未來是由我們決定的，而不是由我們自己決定的。在過去的幾十年裡，技術政策這一狹隘的技術問題一直被認為是科學家、產業執行長、採購者和律師的領域。今年春天，一位教宗和一位總統將其變成了一個道德和政治問題。 5 月 25 日，教宗良十四世發表了他的第一本關於人工智慧和人類的通諭《Magnifica Humanitas》。隨後，6 月 2 日，唐納德·川普總統簽署了一項題為「促進先進人工智慧創新和安全」的行政命令。這兩份文件截然不同。教宗通諭的重點是人道主義，並要求以道德來調節權力。另一方面，川普的命令則詢問美國如何領先中國。第一個是對尊嚴的思考，第二個是統治的策略。然而，這兩份報告都不僅僅涉及人工智慧。兩者都在推動轉變：權力正在從公民轉移到機器，從公共辯論轉移到私人手中。兩份文件在戰爭和國家安全主題上存在巨大分歧。通諭的強烈警告是，永遠不要將破壞性和不可逆轉的決定委託給人工系統。機器不應該決定誰生誰死。武器可以讀取熱信號、追蹤人物並建議發動攻擊，但它無法理解結束生命意味著什麼。它無法回答家庭、法庭或歷史。用教宗利奧的話來說，「沒有任何方法可以使戰爭在道德上可接受」。就川普而言，他已將美國捲入許多海外衝突，包括正在進行的與伊朗的戰爭。因此，他的命令從更具戰術性的角度處理邊境系統，並規定川普政府官員將秘密測試更先進的模型。它沒有明確支援自主武器，但確實定義了有關前沿人工智慧系統及其在戰爭中的使用的決策將在何處做出：閉門進行。展望未來，有關人工智慧軍事、網路和社會力量的最緊迫問題將透過機密審查和財政部長斯科特·貝桑特等人的個人合作得到解答；陸軍部長皮特·赫克斯；和商務部長霍華德·路德尼克。民主國家應該公開解決這些問題，要麼透過調查、全民投票，要麼透過某人可以保留的記錄。現在，這項命令可能會讓他們進一步進入公眾視野，但很少有公民在傾聽。更廣泛地說，川普的行政辦公室將幾乎整個審查過程交給了政府和少數被貼上「人工智慧開發商和研究人員」或「人工智慧產業」標籤的公司。展望未來，這些機構將與設計這些車型的公司合作，透過分類基準測試流程來決定將哪些車型投放市場。他們共同選擇「值得信賴的合作夥伴」來檢查最先進的系統，政府會在樣本到達這些合作夥伴之前長達 30 天進行檢查。該命令不開放任何評論期，不安排任何聽證會，並且用它自己的話來說，會對其採取任何有效的“概念或實際”行動。參與是自願的，這意味著它是透過邀請進行的，幫助設計框架的開發人員可以選擇其他誰來獲得它。公眾稍後會讀到此事。甚至在訂單簽署之前，這種動態就已充分展現。 Axios 報道稱，馬克·祖克柏、伊隆·馬斯克和大衛·薩克斯在早期草案被擱置之前與川普進行了交談，而《華盛頓郵報》則描述了業界對其中的反對部分的看法。無論這些對話中發生了什麼，它們都揭示了一種嚴重的不平衡：創建這些系統的機構已經可以直接存取管理它們的規則，而公眾仍在等待。這讓我們看到了教宗的通諭。當資料、演算法、平台和基礎設施集中在少數人手中時，那些擴展人類潛力的東西就變成了排斥的工具。智慧是否會成為一種共享基礎設施，足夠開放以供公共機構和社區進行設計？或者它會成為由一些有資金建造它的公司出售給公眾的租賃能力嗎？當然，這種演變已經在進行中。人工智慧已經直接影響人類：機器為人類帶來了什麼，以及它能為人類的生活做些什麼。軟體已經對孩子的學業成績進行排名、貸款費用、對照顧者進行分類，並決定一個人應該查看哪些工作申請。隨著這些系統的激增，我們日常生活中越來越多的人經歷過它們，我們就不可能知道判決是如何得出的。在這裡，利奧對人類尊嚴的百科全書般的捍衛是關鍵。家長、病人、工人、學生、求職者：每個人都可能受到他們沒有選擇的機構的判斷的約束，並且不能上訴。在法庭上，他們中的任何一個人都會站著。在改變生活的自動化決策中，他們可能一無所有。人們擔心，任何暫停評估人工智慧如何影響中國未來的行為都將導致華盛頓和矽谷遭遇同樣的命運：行動更快，要求更少，信任建設者。但自由社會不能將速度視為同意的替代品。這種變化發生得很慢，然後突然發生：在購買協議、模型存取協議和條款中，直到系統配置完成、預設值設定完畢，而這種安排的成本太高而無法撤銷。我們仍處於慢速區域。解決方案是正常的民主：學區購買評分系統之前舉行公開聽證會，採樣員對您進行判斷並有權上訴，對州外分類採樣結果進行公開審查，以及詢問誰受益、誰受到影響以及誰可以質疑決定的採購規則。我們這個時代的『建築工地』上的手是髒的。 「今年春天歡呼雀躍的學生們已經知道政策制定者多年來才承認的事情：建築工地被圍牆圍起來。決定是在內部做出的。自由的人民仍然可以擁有它們，但只能拒絕安靜地等待被告知已經決定的事情。
來源連結
