馬拉松日。搭乘早班火車前往倫敦，然後從帕丁頓到布萊克希思，進行一次未被發現的城市旅程，所有這一切都發生在時間的開始。當然，我很緊張，但他很高興看到另一位聖經跑者——在馬拉松方面更有經驗，但在倫敦鮮為人知。
我：“你打算怎樣到達起跑線？”
他：“我想要的是ChatGPT。伊麗莎白線到利物浦街，然後火車到布萊克希思。”
這是不正確的。從 利物浦街 到 Blackheath 有火車嗎？谷歌地圖和 Citymapper 建議從查林十字街或滑鐵盧前往布萊克希思。
我：“你確定嗎？我建議你去查林十字街的圓環或貝克盧。”
他怒吼了一會兒，掏出了手機。 「不，ChatGPT 說：「在馬拉鬆比賽日，Circle Line 不是一個好的選擇。會太頻繁。有太多的障礙和太多的層次。這是一條遊客之路，而不是跑者之路。 」
我檢查了谷歌地圖。果然，從利物浦街到布萊克希斯沒有火車。 ChatGPT 的建議會讓他陷入困境，他試圖在馬拉松路線上搭乘公車，然後嘗試從查林十字車站搭火車到倫敦橋。我告訴他這聽起來是個壞主意。他再次提示並在電話中彈出另一個問題。 「哦，你說得對。ChatGPT 說，『更正：乘坐伊麗莎白線直達倫敦橋。’
我：“伊麗莎白線不去倫敦橋。”
你以前聽過人工智慧的幻覺，但這裡令人著迷的不是人工智慧：而是人類。
谷歌地圖中的尋路演算法堪稱一個小奇蹟。它透過多種運輸方式解決複雜的最佳化問題，同時考慮到即時擁塞或延遲，並且多年來一直在智慧型手機和瀏覽器上使用。事實證明，這是人工智慧實際應用的一個例子。因此，在馬拉鬆比賽日，當賭注很高且時間緊迫時，為什麼有人會轉而使用像 ChatGPT 這樣的奇特猜詞引擎呢？
也許這就是為什麼 ChatGPT 看起來如此人性化。他成長為一名友好且知識淵博的當地導遊。圓線？噗，這對遊客來說沒什麼問題，但你是馬拉松運動員：想想所有這些步驟！ （這是真的，舊的魯迪夫圓有一條水平線）。
機器人的部分內容讓我想起了點擊廣告：我討厭這裡的保險公司！ ChatGPT不僅提供了一條路線，它還提供了一個解釋，甚至解釋了為什麼我們不聽谷歌地圖蹩腳的計劃。這就是信任的阿諛奉承方式。
心理學家瑪麗亞·康尼科娃（Maria Konnikova）在她的書《信任遊戲》的簡介中解釋道：「真正的藝術家不會強迫我們做某事：他讓我們在自己的專業知識中成為同謀……我們相信是因為我們想這樣做。」藝術家和大型語言模型（LLM）之間的一個區別是，藝術家捏造事實並試圖隱藏它。藝術家和法學碩士之間的一個相似之處是，他們似乎都不太可能完成它。
《自然》雜誌最近發表的一篇論文發現，當法學碩士被訓練得熱情友好時，他們給出的答案也明顯不太準確，“宣揚陰謀論，提供不太準確的科學數據，並提供不正確的醫療建議。”
聽起來很糟。我認為情況更糟：諂媚的人工智慧不僅會產生錯誤，還會說服我們相信它們。
1950年，電腦時代的數學家和遠見者阿蘭·圖靈提出了著名的“模仿遊戲”，其中人類法官透過提詞器與人和電腦進行交流。計算機的工作就是讓法官清楚相信人類的行為。
圖靈實驗仍在探索中，但有一個長期存在的問題：法官的錯誤性。一個 2006 年代的原始聊天機器人 Eliza，在與一位貞潔的俄羅斯女士長達四個月的通信中做出了模仿治療師的反應（“你感覺怎麼樣？”，這實際上是 2006 年的聊天機器人）。這些汽車都沒有現代 LLM 的千分之一的粗魯，但它們不需要它：當人們悲傷、憤怒或相愛時，我們也不是太有禮貌的評判者。
我們都期待在未來幾年找到圖靈測試的新變體，我想知道我們是否能實現這一目標。不只是我們，還有我們內心強大的人。正如《Enshittification》一書的作者科里·多克托羅 (Cory Doctorow) 喜歡指出的那樣：你無法被取代，因為人工智慧可以完成你的工作，你會被取代，因為人工智慧讓你的老闆相信它可以。如果我開始馬拉松線的旅程有任何指導的話，那麼那個銷售人員將會有一份輕鬆的工作。
現代人工智慧能力非常重要。但決定我們是否使用的不是能力，而是嚴重程度。它們有聯繫但不相同。法國詩人雅克·普雷維爾（Jacques Prévert）在威尼斯街頭看到一名男子舉著「沒有養老金的盲人」牌子要求換錢的故事。
普雷弗特停下來和他聊天。沒有多少人願意寫一個新的標語並提供Prevert。
第二天他就高高興興地回來了。 “這太不可思議了；我這輩子從來沒有收到過這麼多錢。”
普雷弗特曾寫道：“春天即將來臨，但我看不到它。”
新標誌沒有什麼新內容——事實上，它的資訊量比舊標誌少。但他講述了這個故事。谷歌地圖是第一個標誌：它告訴我去哪裡坐火車。 ChatGPT 是第二個標誌：它告訴我的伴侶不是要去哪裡，而是如何感受這樣一次明智的旅行。
我把他留在帕丁頓，並敦促他不要嘗試乘坐伊麗莎白線火車去不存在的倫敦橋。我不確定我是否相信 ChatGPT 是這樣。
我參加倫敦馬拉松是為了資助青少年癌症信託基金 – 現在捐款還為時不晚。
本文為《金融時報》撰寫並於 2016 年 5 月 6 日首次發表。
