大人工智能 企業向我們承諾，2025年將是“人工智能代理年”。原來這是他的一年 談論 人工智能代理並推動 2026 年或更晚的變革時刻到來。但是，如果“我們的生活何時會被人工智能機器人完全自動化，為我們執行任務並基本上管理世界”這個問題的答案呢？就像《紐約客》的漫畫一樣，“你會說什麼？”
這基本上是幾個月前發表的一篇論文所傳達的信息，當時正值“人工智能代理”的雙曲線年中，這篇論文沒有大張旗鼓地發表。題為“幻覺站：基於 Transformer 的語言模型的一些基本限制”，旨在從數學角度表明“法學碩士無法執行超過一定複雜性的計算和代理任務”。雖然這門科學超出了我的理解範圍，但作者——一位前 SAP 首席技術官，在該行業的創始人之一約翰·麥卡錫 (John McCarthy) 和他十幾歲的神童兒子的指導下研究了人工智能——用數學的確定性來衝擊代理天堂的願景。他們說，即使推理模型超越了法學碩士的純單詞預測過程，也無法解決問題。
“他們不可能可靠，”父親維沙爾·西卡 (Vishal Sikka) 告訴我。除了 SAP 之外，他還曾擔任 Infosys 首席執行官和 Oracle 董事會成員，目前領導著一家名為 Vianai 的人工智能服務初創公司。 “那麼我們應該忘記運行核電站的人工智能代理嗎？”我問。 “完全正確，”他說。也許你可以這樣做來歸檔一些文件或其他東西以節省時間，但你可能不得不放棄一些錯誤。
人工智能行業卻有不同的看法。首先，人工智能代理領域的一大熱門是編碼，它於去年起飛。就在本週的達沃斯論壇上，谷歌的諾貝爾獎獲得者人工智能負責人 Demis Hassabis 報告了減少幻覺方面的創新，而超大規模企業和初創公司正在推動代理敘事。現在他們有了一些備份。一家名為 Harmonic 的初創公司報告了人工智能編碼方面的突破，該突破也依賴於數學和頂級基準 可靠性。
Harmonic 由 Robinhood 首席執行官 Vlad Tenev 和斯坦福大學數學家 Tudor Achim 創立，該公司聲稱，最近對其名為 Aristotle 的產品進行的改進（沒有傲慢！）表明有辦法保證人工智能係統的可信度。 “我們是否注定要進入一個人工智能只會製造混亂而人們無法真正控制它的世界？那將是一個瘋狂的世界，”阿希姆說。 Harmonic 的解決方案是使用數學推理的形式化方法來驗證法學碩士的輸出。具體來說，它用精益編程語言對輸出進行編碼，該語言以其驗證編碼的能力而聞名。可以肯定的是，Harmonic 迄今為止的關注點一直很狹窄——其核心使命是追求“數學超級智能”，而編碼在某種程度上是一種有機的延伸。像歷史論文這樣無法用數學驗證的東西超出了它們的範圍。目前。
儘管如此，阿希姆似乎並不認為值得信賴的代理人行為像一些批評者認為的那樣是一個大問題。 “我想說，目前大多數模型都具有思考預訂旅行行程所需的純智能水平，”他說。
雙方都是對的——或者甚至可能是同一邊的。一方面，每個人都同意幻覺將繼續成為一個令人不安的現實。 OpenAI 科學家在去年 9 月發表的一篇論文中寫道：“儘管取得了重大進展，但幻想仍然困擾著該領域，並在最新模型中持續存在。”他們通過要求包括 ChatGPT 在內的三個模型提供主要作者的論文標題來證明這一不滿的說法。這三個人都編造了假書名，而且出版年份都寫錯了。 OpenAI 在一篇有關該論文的博客中表示，在人工智能模型中，“準確率永遠不會達到 100%”。
