為什麼梵蒂岡邀請 Anthropic 參加教宗關於人工智慧的通諭演講

當利奧教皇 XIV 週一在梵蒂岡發布了第一本關於人工智慧的通諭，並邀請 Anthropic 聯合創始人 Christopher Olah 發表演講。此舉標誌著天主教會與矽谷之間前所未有的聯盟。但要了解這段合作關係是如何產生的，我們必須回到 Anthropic 的創立時期。

為什麼是人擇？

Anthropic 於 2021 年推出，此前包括 Dario 和 Daniela Amodei 在內的一組 OpenAI 研究人員離開並組建了一個競爭對手實驗室。他們懷著明確的信念這樣做：人工智慧模型已經變得太強大了，不能只根據競爭和速度的邏輯來發展。

從那時起，Anthropic就圍繞著人工智慧安全的概念樹立了自己的公眾形象。該公司的目標不僅是創建強大的模型，而且是可審計並受道德原則指導的模型。這就是憲法人工智慧概念的由來：訓練系統的想法是使用一種由原則和規則組成的憲法，而不是僅僅手動糾正最有風險和最危險的反應。

與梵蒂岡的和解是如何開始的？

奧拉出現在梵蒂岡顯然不是偶然的，也不是最後一刻象徵性舉動的結果。這是梵蒂岡長期深思熟慮努力的結果，梵蒂岡逐漸尋求將自己從科技的道德觀察者轉變為人工智慧產業的直接對話者。

2020 年，羅馬宗座生命學院與微軟、IBM 和其他國際組織共同發起了一項倡議，即“人工智慧道德羅馬呼籲”，邁出了第一步。其目的是為人工智慧的發展建立一個共同的道德原則基礎，包括透明度、包容性和問責制。

當時，梵蒂岡似乎主要在生物倫理學和道德問題領域運作。然而，在接下來的幾年裡，情況發生了巨大變化。 ChatGPT的崛起、中美之間的技術領先地位之爭以及大型科技公司不斷增長的力量逐漸讓羅馬教廷相信，這個問題不再僅僅是技術倫理問題，而是人類的未來。

從這個意義上說，人擇被梵蒂岡視為特別重要的對話者。與其他主要圍繞創新和成長建立聲譽的矽谷公司不同，Anthropic 將人工智慧安全作為其身分的核心部分。

近年來，梵蒂岡特別關注科技辯論的一個特定面向：人工智慧模型的協調。

奧拉的角色

這就是 Christopher Olah 的用武之地。與更多接觸媒體的 Amodei 兄弟不同，Olah 代表了人工智慧研究更理論化、近乎哲學的一面。他是世界上模型可解釋性領域最著名的研究人員之一，或者說試圖了解日益複雜的神經網路內部到底發生了什麼事。

Christopher Olah 在他的個人網站上將自己描述為試圖「將神經網路轉變為人類可以理解的演算法」。很難想像還有哪個數字更符合教宗良十四世通諭的核心：這項反思集中在建構技術變得過於強大而難以理解、控製或治理的危險。

據各種新聞消息來源稱，在人工智慧安全世界峰會期間，接近羅馬教廷和人類學界的接觸可能會加強。梵蒂岡在Anthropic身上看到了一家至少願意公開承認人工智慧問題僅靠科技業無法解決的公司。