阿蘭圖靈最大的人工智慧假設可能是錯誤的

在他的新書中， 圖靈的錯誤：擺脫無意識機器的束縛丹寧表示，圖靈在 1950 年提出的兩個基本假設繼續影響著今天的人工智慧研究。首先，心靈可以獨立於身體而存在，因此可以在電腦軟體中重新創建。其次，機器可以透過成功模仿人類的對話來展示智能的想法，後來被稱為圖靈測試。

「這兩種說法影響了人工智慧研究和開發的大部分內容，」丹寧寫道。 “我的前提是，默許這些主張導致了我們今天生活的人工智慧混亂。”

丹寧表示，實現通用人工智慧（AGI）或具有人類水平智慧的機器不太可能成功。相反，他警告說，社會建設所依賴的技術可能會帶來重大的新風險。

隱性知識問題

丹寧論證的核心是隱性知識的概念，即人類的大量理解，不能輕易地用語言表達或以電腦可以處理的方式表示。

他認為，機器學習無法捕捉五個主要類別的隱性知識：常識、與人和環境的日常互動、情感和感知、實踐表現技能以及文化中嵌入的社會和歷史知識。

研究人員長期以來一直試圖將意義組織到資料庫中。其中最著名的努力之一是 Douglas Lenat 的 Cyc 項目，該項目始於 20 世紀 80 年代，目標是創建全面的常識事實集合。經過四十年的努力，該項目已擁有約 2500 萬個條目。

「然而，即使是這個寶藏也無法添加常識背景來使專家系統足夠聰明，成為專家，」丹寧指出。 “Cyc 證實，許多使人們成為專家的知識不能用命題來表達。”

丹寧認為實務技能更具挑戰性。

「我們跨越數千個領域的性能能力無法傳達給機器，」他解釋道。 「雖然對熟練結果（『知道什麼』）的描述通常可以表示為位元並儲存在機器中，但我們不知道如何對熟練表現的具體知識進行編碼（『知道如何』）。

他引用了偉大的音樂家作為例子。

「一位小提琴演奏家可以演奏優美的音樂，但無法向助手描述如何演奏它。

“即使機器人可以觀察和模仿熟練的人類，但如果沒有生物體，機器人也無法理解音樂家演奏優美的音樂或觀眾聆聽他時的感受。”

丹寧也將直覺、本能感覺、想像和自發性創造力納入機器仍然可用的隱性知識形式中。

為什麼人類知識會抗拒編碼

丹寧說，所有這些限制都源自於他所說的「代表性問題」。

電腦只能使用以它們可以識別和處理的物理形式編碼的資料和指令來執行計算。然而，隱性知識並不自動落入該範圍。

丹寧說：“每個詞的背後都有一口深井的隱性知識，賦予了它意義。” “詞語只是意義的符號表示，而不是意義本身。目前使用的大語言模型，如 ChatGPT、Claude 和 Gemini，只能操縱詞語，它們無法知道或理解自己所說的含義。”

丹寧認為，這造成了根本性的分歧。由於科學家仍然無法完全解釋隱性知識在人類中如何發揮作用，因此他們無法將其轉化為機器可以使用的形式。

「我們如何獲得隱性知識在很大程度上是一個謎，」丹寧承認。 “我們所知道的是它是具體化的。我們不知道我們可以在我們的身體中觀察和測量什麼來揭示它。”

文化形式的脈絡和智慧

丹寧認為，智力是有背景的，也就是賦予言語、行動和決策意義的周遭環境。

語境允許諷刺、幽默、真誠和情感。它有助於確定何時外交、開玩笑以及如何解釋各種社交場合。

「當你問當前上下文的假設來自哪裡時，你會發現它是基於先前上下文中的先前對話。它們中的每一個又都基於先前的對話及其上下文。這種模式是無盡的和分形的，」丹寧解釋道。

文化是人工智慧的另一個主要障礙。

丹寧將文化描述為包括價值觀、規範、判斷、歷史、社區、情緒以及涉及權力和關懷的關係。

「有一些基本假設賦予了人類對話中使用的字詞意義和意義，」丹寧解釋。

「用越來越大的神經網路擴展法學碩士將不允許他們捕獲我們稱之為文化的人類知識。法學碩士將無法實現圖靈測試的目標：證明機器思維與人類思維沒有區別。”

人工智慧安全和人類理解的局限性

丹寧的結論是，人類和人工智慧系統最終可能會發展出不同形式的隱性知識，而沒有人能夠完全理解。

「機器無法讀取我們的隱性知識，我們也無法讀取它們的隱性知識，」他寫道。 “我們是處於不可逾越鴻溝中的外國人。”

他表示，這種差距引發了人們對人工智慧安全性的嚴重擔憂。如果機器無法解釋人類意圖背後不言而喻的背景，則可能無法可靠地將先進的人工智慧系統與人類目標保持一致。

「透過人工智慧自動化，機器網路代理很可能開發出自己的機器智能，雖然達不到一般人類智能的水平，但足以給人類帶來嚴重的問題。這種威脅比超級智慧機器所承受的威脅更大，」他解釋道。

「機器智能與我們有著不同的關注點，而我們似乎並不關心。它的思維和解決問題的方式對我們來說似乎很陌生。我們仍然不知道如何安全地與這些機器一起生活。

「我們需要付出很大的努力才能擺脫人工智慧自動化的奇點。隨著智慧機器出現在我們的社會中，我們開始接受流行文化正在消失的事實，而我們不知道會發生什麼。我們拒絕像機器一樣思考或屈服於機器。我們拒絕屈服於不太智能的機器強加的枷鎖。最重要的是，我們收回這些機器差異，收回我們的人類並慶祝我們的人類並慶祝。」