如果人工智能變得有意識而我們永遠不知道會怎樣
- 我們可能永遠不知道人工智能是否真正有意識。 一位研究意識的哲學家說，最誠實的立場是不可知論。沒有可靠的方法來判斷機器是否有意識，而且這種情況可能不會很快改變。
- 這種不確定性為 Hypera 創造了空間。 湯姆·麥克萊蘭博士表示，科技公司可以利用缺乏明確證據的機會將人工智能商業化，以達到“人工智能智能的新水平”，即使沒有證據表明存在實際意識。
- 信任機器會帶來真正的風險。 麥克萊蘭警告說，基於人工智能有意識的信念而建立情感聯繫，而實際上它沒有意識，可能會非常有害，並稱這種效應“存在毒害”。
為什麼定義人工智能意識如此困難？
劍橋大學的一位哲學家表示，我們缺乏確定人工智能是否或何時能夠變得有意識所需的基本證據。湯姆·麥克萊蘭博士表示，測試機器意識所需的工具並不存在，而且沒有理由期望這種情況很快就會改變。
隨著人工智能的概念從科幻小說轉向嚴肅的倫理辯論，麥克萊蘭認為合理的立場是一種不確定性。他將不可知論描述為唯一可以辯護的立場，因為沒有可靠的方法可以知道人工智能係統是否真正有意識，而且這種不確定性可以無限期地持續下去。
人工智能倫理中的意識與感知
關於人工智能權利的爭論通常涉及意識本身，但麥克萊蘭認為，意識本身並不具有道德分量。真正重要的是一種稱為感知的特殊意識形式，它涉及感受快樂或痛苦的能力。
劍橋大學歷史與科學哲學系的麥克萊蘭說：“意識將使人工智能發展感知並變得自我意識，但它仍然可能是一種中立狀態。”
“情感涉及好或壞的有意識體驗，這就是使一個實體能夠受苦或享受的原因。這就是道德的開始，”他說。 “即使我們不小心讓人工智能有了意識，我們也不太可能需要擔心意識。”
他用一個實際的例子展示了其中的區別。能夠感知周圍環境的自動駕駛汽車將是一項了不起的技術成就，但它本身不會引起道德問題。如果該系統本身開始對它要去的地方產生情感依戀，那將是一個根本不同的情況。
關於人工智能的大投資和大主張
科技公司正在投入大量資源來追求通用人工智能，即旨在匹配人類認知能力的系統。一些研究人員和行業領袖表示，有意識的人工智能可能很快就會到來，促使政府和組織考慮如何監管這些系統。
麥克萊蘭警告說，這些爭論早於科學出現。因為我們首先不了解意識產生的原因，所以沒有明確的方法在機器中檢測它。
“如果我們不小心讓人工智能有意識或有感知，我們應該小心避免傷害。但是，當我們大規模傷害真正的有感知的生物時，有效地將烤麵包機視為有感知的生物似乎是一個很大的錯誤。”
AI意識爭論的雙方
麥克萊蘭認為，關於人工意識的討論往往分為兩個對立的領域。一組人認為，如果人工智能係統能夠複製意識的功能結構（通常被描述為自己的“軟件”），那麼即使它在矽而不是生物組織上運行，它也會有意識。
相反的觀點認為，意識取決於活體內特定的生物過程。從這個角度來看，即使是意識結構的完美數字複製品也會模擬意識，而無需實際體驗它。
在該雜誌發表的研究中 智力與語言麥克萊蘭研究了這兩種立場，並得出結論：每種立場都基於遠遠超出現有證據的假設。
為什麼證據不足
“我們對意識沒有深入的解釋。沒有證據表明意識可以通過正確的計算結構產生，或者實際上意識從根本上來說是生物學的，”麥克萊蘭說。
“目前還沒有足夠的證據。最好的情況是我們正處於一場智力革命，遠離任何可行的意識測試。”
麥克萊蘭說，人們在判斷動物的意識時依靠直覺。他以自己的經歷為例。
“我認為我的貓是有意識的，”麥克萊蘭說。 “這不是基於科學或哲學，而是基於常識；這是顯而易見的。”
然而，他認為常識是在沒有人工存在的世界中進化出來的，這使得它在應用於機器時變得不可靠。與此同時，即使是確鑿的科學數據也無法提供答案。
“如果常識和研究都沒有給我們答案，那麼邏輯立場就是不可知論。我們無法知道，也可能永遠不會知道。”
炒作、資源和道德交流
麥克萊蘭將自己描述為“堅定的”不可知論者。儘管他認為意識是一個極其困難的問題，但他並不排除它最終被理解的可能性。
更關鍵的是技術領域如何討論人工意識。他說，這個概念更多地被用作營銷工具，而不是科學主張。
“存在這樣一種風險，即無法證明意識可能會利用人工智能行業對其技術做出古怪的主張。它成為炒作的一部分，以便公司可以推銷更高水平的人工智能智能的想法。”
他說，這種嚴重的行為會產生真正的道德後果。資源和注意力可以從那些痛苦更加引人注目的案件上轉移。
“越來越多的證據表明，蝦可能會遭受痛苦，但我們每年殺死大約 5 億隻蝦。測試蝦的意識很困難，但沒有什麼比測試人工智能的意識更好的了，”他說。
當人們認為機器是有生命的時候
麥克萊蘭表示，隨著對話式聊天機器人的興起，人們對人工智能意識的興趣也隨之增加。他們收到了一些人發來的消息，這些人認為他們的聊天機器人具有感知能力。
“人們讓他們的聊天機器人通過懇求它們具有感知能力來給我寫私人信件。當人們確信他們擁有有感知能力的機器應該享有我們都否認的權利時，問題就變得更加具體。”
他警告說，基於對機器意識的錯誤假設建立情感聯繫可能是有害的。
“如果你對某件事有一種基於意識的情感聯繫，但事實並非如此，那麼這有可能對存在產生毒害。科技行業的大肆宣傳肯定會放大這種情況。”
