人擇已度過 在過去的五年裡，我們一直在警告世界，先進的人工智慧可能會造成大規模毀滅、破壞社會穩定，並造成許多其他嚴重傷害。但同時，它已成為推動人工智慧能力向前發展的最強大力量之一。該公司目前是最先進人工智慧模型的領先開發商和分銷商之一，也是美國軍方等法院的客戶。最近它的估值接近1兆美元。
乍一看，Anthropic 強烈的訊息和行動似乎本質上是相反的。
但在公司內部，很多人並不認為有矛盾。要理解其中的原因，您必須先了解人擇的運作是基於兩個核心信念。首先，人工智慧是人類歷史上最具變革性的技術，它的到來是必然的。唯一真正的問題是它是否會導致災難或異常繁榮。
第二，根據幾位不願透露姓名的《連線》前員工透露，Anthropic 相信，如果它保持在人工智慧競賽的前沿，世界將會變得更好。兩位消息人士稱，在內部，公司的領導者和員工通常被稱為“好人”，這意味著他們是人工智慧技術的負責任的管理者。該公司認為，累積權力——無論是資本、電腦、研究人才還是政治影響力——本身並不是目的，而是履行其使命的代價：“確保世界透過變革性人工智慧安全地實現轉型。”
喬治城安全與新興技術中心執行董事、前 OpenAI 董事會成員 Helen Toner 以一個類比來描述 Anthropic 的世界觀。它將強大的人工智慧比喻為充滿魔法寶藏和危險怪物的森林。附近的村民都被寶藏所吸引，湧了進來。在其敘述中，Anthropic 希望比其他任何人都更深入森林，同時投入巨資馴服怪物——也就是說，在獲得人工智慧的好處的同時遏制其破壞性風險。
「Anthropic 的典型特點是，他們說，『無論如何人們都會去森林，我們必須先這麼做。』」這顯然是他們的策略：打造尖端人工智慧，成為談判桌上的重要參與者，能夠談論尖端人工智慧系統的樣子、它們帶來的風險，並推動合理的保障措施，」Toner 告訴我。「他們對此非常清楚。這只是一個足夠奇怪的策略，人們很難聽到。 」
Anthropic 執行長 Dario Amodei 在公司招聘頁面上發布的與聯合創始人的對話中清楚地描述了這種方法：「你必須找到一種真正具有競爭力的方法，在某些情況下真正引領行業，並且仍然能夠安全地做事，」他說。 “如果你能做到這一點，那麼你施加的引力就非常大了。”
Anthropic 於 2021 年由一群 OpenAI 前員工創立，他們對公司領導層（尤其是執行長 Sam Altman）安全地將變革性 AI 推向世界的能力失去信心後叛逃。這種情緒至今仍影響著公司。與我交談的兩名前員工表示，在內部討論中，Anthropic 高層經常引用 Altman 和 OpenAI（以及較小程度的 Meta 和 Elon Musk 的 xAI）作為有助於定義 Anthropic 自身責任感的警示性例子。
在很多方面，Anthropic 與其他矽谷公司一樣。許多新創公司標榜自己是大衛家族，與他們想要顛覆的行業中過時的、根深蒂固的歌利亞作鬥爭。 Google、臉書和蘋果都是建立在理想主義原則之上的，但隨著它們變得更富有、更大、更有影響力，這些原則後來變得混亂或完全被拋棄。
