最近有跡象表明，作為人類成就最稀有領域之一的高等數學的一些分支很容易受到人工智慧的影響。反過來，數學家也一直在思考如何應對。
週二，由 16 名數學家組成的小組在與世界各地的同事和數學組織協商後，發表了《人工智慧和數學萊頓宣言》。作者之一、牛津大學數學家和計算機科學家烏蘇拉·馬丁夫人 (Dame Ursula Martin) 表示，它的目的是「構建關於未來方向的對話」。
這項努力正值人工智慧模型在研究級數學領域取得成功成果成為頭條新聞之際。 5 月下旬，ChatGPT 的製造商 OpenAI 宣布，其模型之一反駁了組合幾何領域 80 年前的著名數學猜想。
該猜想是匈牙利數學家 Paul Erdos 提出的約 1,200 個問題之一。雖然其中一些「鄂爾多斯問題」被認為是一次性問題且興趣有限，但其他問題已被證明在該領域具有影響力和決定性。除了描述證明的研究論文外，OpenAI 還發表了幾位獨立數學家的配套論文。多倫多大學的雅各布·齊默曼（Jacob Tsimerman）是數論相關子領域的專家，他評論道：“這確實是一項令人印象深刻的工作，我會毫不猶豫地在任何期刊上接受它。”
該領域的其他數字則不那麼樂觀。哈佛大學數學家梅蘭妮·馬切特·伍德 (Melanie Matchett Wood) 對此充滿熱情，但也表達了擔憂。例如，他評論說 OpenAI 文章沒有適當引用「文獻中密切相關的思想的歷史」。
「這是一個強大的工具，我認為它將成為加速數學研究的一個很好的工具，」馬切特·伍德博士在接受採訪時說。但他指出，社區需要弄清楚如何「以保持人類對數學理解的方式」使用人工智慧。
《萊頓宣言》的作者提出的潛在威脅包括準確性和可靠性：期刊編輯已經在抱怨大量看似合理的人工智慧生成的論文和測試結果證明是不正確的，而且數學家難以辨別。
也許最重要的是，作者提出了這樣的問題：許多從事數學業務的人工智慧公司（OpenAI、Google DeepMind 和 Anthropic 等大公司，或者 Harmonic、Math, Inc. 和 Axiom Math 等新創公司）是否考慮到了該領域的最大利益。他們寫道：「科技公司參與研究，增加了研究問題被優先考慮和受到激勵的風險，因為它們對人工智慧方法和模型的適應性，而不是它們對理解的更深層意義。」他們指出，這反過來又損害了選擇不使用該技術和無法使用該技術的研究人員。
對於荷蘭萊頓大學計算機科學和人工智慧歷史學家、人類學家、該聲明的作者之一 Rodrigo Ochigame 來說，最新的 OpenAI 測試說明了為什麼這種類型的集體認可在該學科中是必要的。 「這個故事與商業人工智慧開發商發布的許多其他公告遵循相同的模式，」Ochigame 博士說。 「人工智慧模型是專有的，公司以外的任何人都無法獲得。我們收到了一段引人注目的宣傳視頻，而評估結果的科學意義所需的基本信息卻是保密的。公司沒有透露任何有關方法、人工編寫的提示、訓練數據或消耗的計算資源的信息。”
以下對話是透過視訊會議和電子郵件與 Ochigame 博士、Martin 博士和哥倫比亞大學數學家 Michael Harris（Substack 時事通訊“Silicon Reckoner”的作者以及聲明工作組的另一位成員）進行的，為了清晰起見，經過編輯和精簡。
什麼是萊頓宣言？
馬丁 這是一種挑釁，是一種辯論的刺激。媒體上關於人工智慧數學成就的文章越來越多，許多數學家感到不舒服。
OpenAI 所做的就是投入大量資源來尋找這個特定猜想的反例。這是值得注意的，給專家留下了深刻的印象。我們沒有被告知該模型的失敗。如果您在這個問題上投入了大量的人力，您可能會以相同的方式解決它。但在數學中，人類的努力是稀缺的，並且往往花在不同的事情上。
用精確、清晰的問題來思考數學，例如高中考試或鄂爾多斯的問題清單，就是誤解和低估數學如此強大和重要的原因。數學不僅僅是解決問題：它也是思想、理解、判斷和人類洞察力的培養。
哈里斯 在我看來，目的是從人工智慧產業重新獲得對數學價值觀和目標的敘述的控制權。數學家們擔心這個職業的價值觀被歪曲，這並不是故意的，而是由於該行業的一場媒體宣傳活動，該行業似乎想要宣揚他們有能力改變數學的信念：正如不久前的一個標題所說，「數學領域的人工智慧革命」。
如果資助決策者僅根據大多數新聞報導中的內容做出決定，他們很容易就會產生人工智慧是數學的未來的印象。
我們希望確認該行業所特有的某些價值觀：開放、誠實、應得的信用、共享、方法的透明度以及對結果進行獨立驗證的機會。
數學家欣賞數學的一個面向是，它是禮物經濟為數不多的成功例子之一。也就是說，它的經濟在某種程度上是我們社會中一個理想主義的孤島。身為哥倫比亞大學數學系的研究生主任，我每年都會閱讀數百名申請者的個人陳述，他們仍然是理想主義的。
科技業按照商業邏輯進行，這與數學價值是對立的。
奧奇遊戲 幾家人工智慧公司正在投資專門研究數學的團隊，使用問題作為基準，並使用出版物作為訓練資料。他們訓練模型來證明定理，不是因為他們想要提升數學知識，而是因為他們希望這種訓練能整體提升模型的推理能力。
這些公司在投資者演講中多次闡明了這一策略，因此，OpenAI 在該公司準備申請首次公開募股的消息傳出的同一天發布有關單位距離猜想的公告，這或許並非巧合。
這種情況使數學家處於令人擔憂的道德境地。未經您的同意，您發表的作品將被用作開發通用人工智慧的戰略培訓數據。由此產生的模型有多種用途，包括軍事應用，這引起了嚴重的道德問題。大多數數學家從未想像過，更不用說同意他們的工作會被用於這樣的目的。
馬丁 重要的是不要忽視這樣一個事實：人工智慧公司正在做的事情以及利用這項技術可以實現的目標絕對是非凡的。我不認為我們正在挑戰這一點。我們正在挑戰框架，我們正在挑戰圍繞它的行為。
奧奇遊戲 作者群體中包括許多對新數學結果的潛力感到興奮的人，甚至為該技術的發展做出了貢獻。但公眾的討論主要集中在人工智慧公司非常有效的公關活動及其所推動的敘事。我們感到有義務發出表達嚴重關切的聲音。但我們當然理解這種熱情。
哈里斯 我想補充一點，大部分的熱情和興奮都是企業人為產生。聲明對此提出警告：「不要相信炒作。」重要的是，數學界對數學上什麼是令人興奮的、什麼是不令人興奮的擁有最終決定權。
您是否擔心這項聲明可能會被視為數學家正在進行一場徒勞的努力：跟風拯救人工智慧威脅要淘汰的過時職業？
哈里斯 部分取決於故事的敘述方式，產業支持者可能會這樣建構它，但這種框架不僅對數學家，而且對作為智力成就的數學充滿敵意。
馬丁 這不是非此即彼，而是兩者兼具。數學家幾個世紀以來的持久工作支撐著現代科學、生活和社會的各個方面。該宣言的作者與世界數學組織一起致力於確保數學透過學術嚴謹性和實際應用繼續蓬勃發展。我們本著宣言的精神，歡迎人工智慧企業成為負責任的合作夥伴。
奧奇遊戲 數學是一種豐富的文化表達形式，有著悠久的歷史，我並不擔心某些技術會使其過時。它最寶貴的方面，例如對理解美麗複雜的想法和探索人類想像極限的集體追求，永遠無法自動化。讓我擔心的是，少數公司正在調動其龐大的財政資源，如此強烈地強加一種貧乏的數學觀點（在科學研究已經受到政治攻擊的時候），以至於它們最終很可能會摧毀讓數學蓬勃發展的社會制度。有什麼抵抗是無用的呢？
