BBC/好奇電影/羅裡蘭登
您今天對人工智慧的思考很可能比五年前更多。自 2022 年 11 月推出 ChatGPT 以來，我們已經習慣在生活的大多數領域與人工智慧互動，從聊天機器人和智慧家庭技術到銀行和醫療保健。
但正如數學家兼廣播員漢娜·弗萊在她的書中所表明的那樣，如此快速的變化帶來了意想不到的問題。 漢娜·弗萊 (Hannah Fry) 講述人工智慧的秘密英國廣播公司 (BBC) 拍攝了一部由三部分組成的新紀錄片，其中她與那些生活因技術而改變的人們進行了交談。她與 新科學家 我們應該如何思考人工智慧、它在現代數學中的作用，以及為什麼它將徹底改變全球經濟。
Bethan Ackerley：在這個系列中，您將探討人工智慧對我們的人際關係和現實感的影響。部分原因與「人工智慧阿諛奉承」有關——這些工具提供給我們的是我們想聽的東西，而不是我們需要聽到的東西。這是怎麼發生的？
Hannah Fry：早期的模特兒非常阿諛奉承。你寫的所有東西都會像，「天哪，你太棒了，你是我見過的最好的作家。」現在好了一些，但是有一個根本的矛盾。我們希望他們幫助、鼓勵，讓我們覺得自己很重要，而這正是你從真正良好的人際關係中所得到的。
同時，真正良好的人際關係會大聲談論困難的事情。如果你在人工智慧中投入太多，它就會不再有用，並且變得有爭議和無趣。還有大量的人與伴侶分手，因為他們把他當作治療師，人工智慧說「擺脫他」。
有人辭職了。有些人試圖利用人工智慧來賺錢，但卻因為過於相信人工智慧的能力而失去了財富。一旦你開始把所有這些人都包括在內，它就會變成一個非常大的群體。我想我們都認識一些受到社群媒體泡沫和激進化影響的人。我認為這是一個新版本。
看到這些問題是否改變了您使用人工智慧的方式？
改變的是我的建議方式。所以現在我常常請他告訴我我錯過了什麼，找出我的偏見。別阿諛奉承，把困難的事告訴我。
如果我們不希望人工智慧成為我們希望它成為的樣子？
答案可能取決於具體情況。科學界有很多令人驚訝的例子——我指的是 AlphaFold（預測蛋白質結構的人工智慧）。數學已經取得了令人難以置信的進步：演算法具有不同於人類智慧的智慧。但我認為除非它在概念上與人們對世界的理解交叉，否則你不可能有一個好的推理模型。所以我覺得應該要更人性化一點。
」
在某些情況下，人工智慧可以做超人的事情，但堆高機也可以。
」
似乎每天都有關於數學問題的新聞，該問題多年來一直沒有解決，但現在已經在人工智慧的幫助下解決了。這與您有關嗎？
我喜歡把它想像成一張宏偉的數學地圖，而人類數學家就在某個區域並圍繞著它旋轉。他們並不總是能看到與附近事物的連結。令人驚嘆的數學家在地圖的兩個區域之間發現了橋樑，例如在谷山-志村猜想中，日本數學家在兩個原本不相關的數學領域之間發現了橋樑。然後我們從這裡知道的一切都適用於那裡，反之亦然。
我認為人工智慧非常擅長說：“看這裡，這看起來像是肥沃的土地，但尚未充分開發”，這實際上非常有趣。人工智慧不擅長突破界限。他真正不擅長的是……完全抽象，建立更廣泛、更大的理論。人們總是說，如果你把 1900 年之前的一切交給人工智慧，它就無法創造廣義相對論。所以我仍然很高興我們正處於最佳位置，人工智慧將使人類數學更快、更有效率、更有趣，但它仍然需要我們。
人們對人工智慧存在著許多誤解。如果可以的話你會驅散誰？
人們想像他無所不能，幾乎無所不能。 「人工智慧說了；人工智慧建議我買這些股票。」在某些情況下，人工智慧可以做超人的事情，就像堆高機一樣。我們創建的工具可以完成人們長期以來無法完成的事情。這並不意味著他們是神一樣的或擁有不可接觸的知識。
你不會讓堆高機存取你的銀行帳戶……
不！確切地。我認為這一切都與這些東西的設計有關。因為他們說我們的語言並與我們交談，所以他們感覺就像是生命。維基百科不存在這個問題。最好將其視為一個真正實用的 Excel 電子表格，而不是一個生物。
為什麼我們傾向於將人工智慧擬人化？
我們的身體天生就具有認知社會關係的能力。我們是個聰明的社會物種。這似乎是一個聰明的、看似社會的實體。當然，我們在那裡添加了一個角色。在我們的過去和我們的設計中，沒有什麼會迫使我們做任何不同的事情。
難道真的沒有辦法抵禦這種擬人化的衝動嗎？
我認為把它交給個人是不公平的。這就像說垃圾食物是免費提供的，你有責任確保你沒有吃太多垃圾食物。這些介面的設計方式，他們與你的對話，我們現在有真正令人信服的證據表明，所有這些都導致人們越來越陷入這個陷阱。我認為只有透過這些系統的設計才能防止人們掉進這些兔子洞。
人工智慧凸顯了許多社會問題，例如人們非常孤立和孤獨。但人工智慧不能幫助解決這些問題嗎？
如果你說，“好吧，如果你感到孤獨，你就不能與任何聊天機器人交談，讓我們禁止它吧”，那麼你仍然有孤獨的人。當然，如果每個人都有很多人際關係，那就太好了，但這種情況並沒有發生。因此，考慮到我們所處的世界，我認為在某些情況下，與聊天機器人交談可以緩解與孤獨相關的一些最嚴重的問題。但這些都是敏感話題。當你開始使用科技來解決真正的人類問題時，一切都變得異常脆弱。
我們來談談遙遠的未來吧。我們經常思考極端的人工智慧場景——例如，一個旨在製作回形針的超級智慧人工智慧將我們所有人都變成了迴紋針。思考這樣的末日場景有多大用處？
曾經有一段時間，我認為這些瘋狂、遙遠的場景分散了我們對真正重要的事情的注意力，即決策是由影響人們生活的演算法做出的。過去幾年我改變了想法，因為我認為只有擔心這樣的事情，我們才能創建技術安全機制來預防它。
所以擔心並不是沒有意義的，擔心其實是有力量的。人工智慧確實會帶來一些非常糟糕的潛在後果，我們對此越誠實，我們就越有可能減輕這些後果。我希望它像千年蟲一樣，你知道嗎？我希望這成為我們擔心和擔心的事情，所以我們已經做了工作以確保它不會發生。
您認為我們會實現通用人工智慧嗎？
對於什麼是 AGI，我們還沒有明確的定義。但如果我們相信 AGI 意味著在任何與電腦相關的任務中至少與大多數人處於相同的水平，那麼是的，我們真的就快到了。有些人認為，AGI 意味著人類在執行每項可能的任務時能力的優越性。我不知道這個。但我認為 AGI 實際上非常接近。我真的認為我們將在未來五到十年內看到翻天覆地的變化。
有什麼變化？
我認為我們在人類歷史上已經習慣的經濟模式將會發生深刻的變化。我認為科學方面將會出現真正的巨大飛躍，對此我感到非常興奮，藥物開發方面也是如此。我們社會的整個結構是建立在這樣的理念之上的：你用你的勞動、知識和人類智慧來交換金錢，然後你用金錢來購買東西——我認為這有一些脆弱性。
人工智慧幾乎肯定會改變我們與工作的關係。我們需要做什麼，才能讓人工智慧讓我們所有人減少工作，而不是讓某人失業？
對於這個問題我有一個答案：我只是看看如果我大聲說出來會惹上多少麻煩。好吧，我告訴你我的版本。這是不可否認的事實，對嗎？到目前為止，社會一直建立在以勞動力換取金錢的基礎上。我們的稅收制度是基於對收入徵稅，而不是對財富徵稅。我認為這兩件事必須改變。
主題：
