我們如何知道世界何時發生了變化？
6 月 1 日，一組科學家發表了一篇預印本科學論文，聲稱他們對人類胎兒 DNA 的編輯比之前的任何嘗試都更加精確。作為一項技術成就，這項工作無疑令人印象深刻，很大程度上避免了先前基因編輯胚胎嘗試中出現的陷阱。隨著進一步的發展，這種胚胎處理可以使未來的孩子免受致命或使人衰弱的遺傳疾病的困擾，但正如資深科普作家卡爾·齊默本週晚些時候在《紐約時報》上報道的那樣，真正的消息是該項目“可以為具有特殊特徵的嬰兒鋪平道路”，換句話說，是設計兒童。
在《泰晤士報》發表文章的同一天，人工智慧公司 Anthropic 發表了一篇文章，聲稱人工智慧已經在加速人工智慧的發展，作者認為這可能代表著朝著追溯性自我改進（RSI）邁出的早期一步——人工智慧系統可以越來越快地設計和建構自己的繼任者。目前，運行 Anthropic 的 Claude 的大部分程式碼都是由 Claude 本人編寫的，這幫助該公司的工程師交付的程式碼比兩年前多了八倍。雖然越多不一定越好，克勞德距離接受指導還有很長的路要走，但人工智慧自我改進的可能性即將到來——而且“可能會比大多數機構準備的更早到來”，Anthropic 聯合創始人 Jack Clark 和 Anthropic Institute 負責人 Marina Favaro 寫道。
這兩篇論文是由兩個不同學科的學術生物學家和一家人工智慧公司的員工發表的，但它們仍然指出了不久的將來可能與我們現在所處的世界根本不同。
這兩件事都可能是邁向前所未有的力量的關鍵步驟——並非所有這些力量都是我們能夠牢牢控制的：新設計的智慧和新設計的人類。他們所共有的不僅是結果，還有矛盾心理──奇蹟和災難的可能性。生物學上的精確性可以消除像亨廷頓氏舞蹈症這樣的遺傳性疾病，也可以為遺傳種姓制度鋪路。人工智慧能力可以加速數十年的科學進步，但也可能完全剝奪其創造者——我們——的權力。
上週，隨著這兩項進展，世界可能已經跨入了歷史性的大門。但我們仍然不知道是哪個物種。
首先採取生物學步驟。除去頭條新聞——這些頭條新聞來自媒體，而不是科學家本身——而且實驗的範圍相當狹窄。
哥倫比亞大學遺傳學家 Dieter Egli 和他的團隊使用所謂的鹼基編輯器，在基因鏈上做一個小標記，而不是像 CRISPR 那樣剪切整個部分，編輯了兩個基因：PCSK9 和 HBG。您可能聽過前者。 PCSK9 產生的蛋白質會影響人體從血液中清除膽固醇的能力，而該基因的某些突變可能會使 LDL 膽固醇水平達到危險的高水平。 HBG 編碼身體在出生前所依賴的一種血紅蛋白，通常在出生後就會失去活性。能夠控制這些基因可以防止增加心臟病風險的突變（PCSK9），並在成年後重新激活這種胎兒血紅蛋白，從而緩解（儘管不能治愈）鐮狀細胞病和β地中海貧血（HBG）。
研究人員將他們的關鍵編輯器傳遞給受精卵和兩細胞人類胚胎，在某些情況下能夠進行改變，而不會造成與先前使用 CRISPR 編輯嘗試相關的染色體損傷。
這篇尚未經過同行評審的論文是在更精確地對人類胚胎基因使用基因編輯技術的努力中向前邁出的令人印象深刻的一步。但打擊遠非完美，甚至安全——一些修改落在了基因組中的錯誤位置，並且相對較少的胚胎能夠正常發育。 （這些胚胎是由 IVF 患者捐贈的，發育到非常早期的階段，並且沒有植入。）Egli 和他的同事在論文中明確表示，任何使用現在的基本處理技術進行治療的想法都「為時過早」。但論文表明，這種處理現在顯然可以在不切割染色體的情況下完成。
當中國科學家賀建奎在 2018 年使用傳統 CRISPR 編輯人類胚胎並創造出三個孩子時，他的工作不僅在倫理方面而且在技術方面都遭到了廣泛拒絕，因為他笨拙的基因編輯造成了真正的基因損傷。如果新工作的結果得到證實，工程胚胎的技術障礙就會開始消失。
沒有人知道接下來會發生什麼事。鐮狀細胞疾病等一些遺傳性疾病可以透過單一基因修飾來修復，但預防更複雜的健康問題——或某些人可能夢想的工程特徵，如身高或智力——需要編輯數百甚至數千個我們尚未完全理解的基因組合。但如果技術壁壘持續下降，那就只剩下道德壁壘了──而道德很少會長期阻礙一項技術的發展。
儘管改造真實人類的能力具有革命性，但生物學的發展仍然緩慢。對於上週發布的另一份文件的主題，情況並非如此。
Anthropic 的貼文使用了 5000 多個單字和 Claude 製作的許多（我猜）圖形來表達一個觀點：構建人工智慧所消耗的人力百分比在每個階段都在縮小。曾經寫程式的工程師現在大多看Claude自己寫的東西。曾經手工設計的實驗現在越來越多地由模型建議和執行。儘管人們仍在判斷什麼值得建設，但 Anthropic 認為，即使這種情況也開始發生變化，因為工人們越來越關注模型建議他們下一步要做什麼。
人工智慧本身日益主導的研究循環可能會發展得更快。科技總是隨著人類的步伐而改變——他們思考、計劃和行動的速度有多快。能夠改進的人工智慧消除了這種速度限制，使其有可能比任何人類或任何負責治理的人類運作的機構能夠跟上的速度更快。智能本身至關重要——每一個更聰明的模型都會創造一個更聰明的模型，其反應是自我維持的。
對於一家人工智慧公司幾個月的內部編碼數據來說，這似乎是一個很大的數字，該公司對使其模型看起來盡可能強大和智慧有著既得利益。 （特別是如果該人工智慧公司碰巧即將進行可能破紀錄的首次公開募股。）在這篇文章中，Anthropic 自己也承認，僅僅計算程式碼行數只能到此為止，而且這種速度充其量只是衡量成功的一部分。然而，獨立研究表明，人工智慧模型能夠在單一任務上花費越來越多的時間，這使得它們不僅可以更快地工作，而且可以更深入地工作。我們可以質疑人工智慧的速度，但不能質疑人工智慧正在快速前進的想法。
強大而快速的人工智慧可能會帶來快速的經濟、科學和醫學進步——Anthropic 執行長 Dario Amodei 在自己的著作中闡述了所有這些夢想。
但它也可能對我們大多數人的生存構成危險，並且極大地削弱我們的能力，而不是對那些被排除在外的人來說，它可能會增強人類的基因。這種變化的潛在速度是如此之快，以至於 Anthropic 提出了一個不同尋常的建議，要求人工智慧公司考慮集體放慢甚至暫時停止前沿人工智慧的發展，以便社會結構和人工智慧一致性研究能夠跟上步伐。 《人擇》一文的作者特別提到了為控制過去的危險技術（例如核武）而建立的國際制度，儘管核武有種種問題，但迄今為止使世界免於滅絕。但這些機構，例如國際原子能機構，花了幾十年的時間才建立起來，正如 Anthropic 的領導人指出的那樣，當談到自我改進的人工智能時：“我們沒有那麼長的時間了。”
我們如何知道世界何時發生了變化？
有時它是立即的。 1938 年 12 月，當奧托·哈恩 (Otto Hahn) 和弗里茨·斯特拉斯曼 (Fritz Strassmann) 實現核裂變時，專家們幾乎立刻就明白了其中的含義：核彈將成為可能。有時科學家能看到它，而世界其他地方卻看不到。當 Jennifer Doudna 和 Emmanuelle Charpentier 在 2012 年發表了詳細介紹 CRISPR 的開創性論文時，最初的媒體關注幾乎不存在，最終需要管理它的機構也不知道剛剛發生了什麼。
其中最困難的情況是即使是專家也只能看到一半的情況。裂變指明了一條道路，指向了一種武器，而理解它的人卻無力阻止它。上週的兩次進展都同時顯示了兩種方式。可以使兒童免受致命疾病侵害的處理技術最終也可以將兒童按遺傳種姓進行分類。正如阿莫迪曾經說過的那樣，同樣的智能可以為我們帶來“數據中心裡的天才之地”，但也可能讓我們成為世界的旁觀者。
因此，我們仍停留在起點，處於一個無法逾越的門檻。危險不僅在於我們可能走錯門了。就是我們路過的時候沒有註意到有一個。
這個故事的一個版本最初出現在 未來完美 圓。 在這裡註冊！
