人工智慧領導人呼籲針對人工智慧驅動的生物武器採取更嚴格的保護措施

人工智慧產業的一些最大競爭對手已經為了一個共同的目標拋開了許多不滿：讓人們更難利用他們的技術來開發生物武器。在一封緻美國立法者的公開信中，技術領導人敦促國會制定規則，以縮小他們所說的令人不安的生物安全差距，這可能有助於引發全球大流行。

Anthropic 的 Dario Amodei、OpenAI 的 Sam Altman 和微軟的 Mustafa Soliman 等簽署者敦促美國立法者要求銷售 DNA 和合成 RNA（可在線訂購並在實驗室組裝的遺傳物質）的公司篩選可用於製造危險病原體的序列。人們擔心人工智慧工具可以更容易地設計潛在危險的序列，從製造商那裡訂購它們，並以以前需要更專業的專業知識的方式使用它們。

其他簽署者包括 Meta AI 執行長 Alexander Wang 和Google DeepMind 的 Demis Hassabis，後者因基於人工智慧的蛋白質預測工作而獲得 2024 年諾貝爾化學獎。這封信的簽署者還包括著名科學家、國家安全和政策專家以及 Twist Bioscience 和 Ansa Biotechnologies 等生物技術公司的高階主管，這兩家公司都是合成遺傳材料的主要供應商。據報導，這封信是由兩個智庫組織的：美國創新基金會和進步研究所。

科學家長期以來一直警告說，合成生物學的進步可以使科學家更容易設計危險的生物體，甚至復活早已死亡的病原體——如果濫用、處理不當或意外釋放，這些工作可能會造成嚴重破壞。但這種力量很大程度上仍然掌握在熟練的科學家手中，他們可以使用先進的實驗室、設備和資源。現在的擔憂是，隨著生物工具變得更便宜、更容易取得，人工智慧模型變得更強大，濫用它們的障礙開始瓦解。專家也警告說，人工智慧可能有助於製造化學武器等其他威脅。

雖然這封信承認許多最大的合成 DNA 和 RNA 供應商已經在篩選申請，但這是在自願而非強制的基礎上進行的。信中稱，還必須保留所有訂單的詳細記錄，以便追蹤任何逃避初步篩選的威脅。

信中說：“考慮到基礎技術變化的速度，我們認為這種需求是緊迫的。” “這是經常發生爭執的利益相關者之間罕見的達成一致的時刻。我們希望政策制定者能夠採取果斷行動來應對。”