Anthropic 的執行長兼創始人 Dario Amodei 剛剛發表了一篇線上文章，首先將人工智慧與哈比人進行了比較 魔戒。如果 Anthropic 自己的克勞德神話模型中的系統卡可信的話，這可能不是唯一的小說。
阿莫迪寫道：「人工智慧與我們的政治體系的交集有點像《哈比人》和《Dentrogenia》。」也就是說，樹鬚樹人的行動如此緩慢，以至於他甚至無法理解快速的哈比人。但阿莫代隨後轉向了一項有爭議的主張——即，為了繼續 魔戒 打個比方，這意味著哈比人正在移動 一直以指數速度較快。
阿莫迪聲稱：「人工智慧的縮放定律預測，隨著運算能力的增加，一般認知能力將呈指數級增長，現在已經有十多年的經驗證據支持了。」 「如果這些升級法律再持續一兩年，我們就有可能得到我所說的 強大的人工智慧。」
這並不是一個獨特的參考。阿莫迪即將兌現 Bonnza Anthropic 的 IPO，他在文章中六次使用“指數”一詞。這包括標題“指數人工智慧政策”。但這是真的嗎？
讓我們暫時擱置 2020 年可疑的 OpenAI 連結來證明他的主張，或者其他人工智慧專家提供的大量證據表明大多數大型語言模型的「認知能力」發展得沒有那麼快（如果有的話）。阿莫代的文章似乎與人類自己的話相矛盾。
不斷變化的人工智慧氣候是真實存在的：為什麼反對聲音越來越大
在 Claude Mythos (PDF) 預覽的系統卡中，Amodei 在關於其引發的網路安全問題的文章中吹捧的模型，您會發現以下聲明：「我們可以認識到的（情報）收益是 這絕對是人類研究的結果，而不是人工智慧的幫助… 最初關於人工智慧取得重大勝利的說法並沒有成立。（強調我們的。）
可混搭光速
你可能會認為沒有比這更明確的了——除非你閱讀了 Anthropic 的另一個新前沿模型《神鬼寓言 5》的系統卡。 Anthropic 研究人員透過一項名為「時代能力指數」的測試，專門開始研究是否存在反饋循環的證據，該循環會導致人工智慧專家所謂的 AGI 或數位超級英特爾。結果再清楚不過了。
Fable 系統卡 (PDF) 表示：“我們在 AI 領域的進展速度並沒有看到持續 2 倍的 AI 加速。”
那麼 Amodei 從哪裡獲得指數資訊呢？我們聯繫 Anthropic 尋求澄清，但執行長使用的參考文獻是 2020 年一篇名為《神經語言模型的縮放定律》的論文，該論文由 Jared Kaplan（當時與 OpenAI 合作，現在是 Anthropic 的聯合創始人）合著。過去四年來，另一位領先的人工智慧研究人員加里·馬庫斯（Gary Marcus）一直對這篇論文的結論提出質疑。
馬庫斯在 2022 年寫道：“升級論點存在嚴重漏洞。” 已經 在深度學習的規模極限下運行，它可能已經接近收益遞減點。 」他引用了 OpenAI 的 GPT-3 模型的研究，該模型「表明擴展在某些指標上開始出現問題，例如毒性、真相、邏輯和常識。 」
馬庫斯當時受到人工智慧忠實信徒的擁護，但後來被證明是正確的——尤其是在 GPT-5 發布之後，這並不是一些用戶所希望的超級智慧。
從那時起，尋找人工智慧指數級成長的證據可能比穿越魔多還要困難。
由 Timothy Werth 提供的補充報告
主題
人擇人工智慧
