其董事總經理 幾家主要的人工智慧公司正在敦促國會議員通過新的法律，使不良行為者更難利用他們的技術開發生物武器。
Google DeepMind 的 Demis Hassabis、OpenAI 的 Sam Altman、Anthropic 的 Dario Amodei 和 Microsoft AI 的 Mustafa Suleyman 等人簽署了一封公開信，呼籲制定法律，要求銷售合成 DNA 和 RNA 的公司對客戶進行篩選，並下令防止遺傳物質的濫用。
這封由無黨派進步研究所和右翼美國創新基金會組織的信件承認，鑑於人工智慧的發展速度，“歷史上阻止壞人獲取生物武器的知識障礙確實有可能被大幅削弱。”
科學家 Arthur Kornberg 是 20 世紀 50 年代第一個成功合成 DNA 的人。現在，這個過程已經自動化，世界各地有數十家公司使用商業合成器來「列印」和銷售用於科學研究、藥物開發和診斷的客製化基因序列。許多供應商只向合格的研究人員、生物技術公司和教育機構出售產品，而不向所有獸醫客戶或他們訂購的基因序列出售。
2017年，加拿大研究人員使用價值10萬美元的郵購DNA重建已滅絕的天花病毒時發出了警告。批評者說，同樣的方法可以用來製造天花，一種密切相關的致命病毒。從那時起，基因合成變得越來越便宜。
再加上人工智慧的進步，現在可以使用大型語言模型設計危險的新毒素和病原體，儘管可能需要一些生物學培訓才能從頭開始創建有效的病毒。儘管生物恐怖攻擊很少見，但它們有可能造成大規模傷亡、公眾恐慌和經濟損失。一個主要擔憂是人工智慧工程病原體可能有意或無意引發全球大流行。
簽署這封信的史丹佛大學微生物學家和生物安全專家 David Relman 表示：“人工智慧工具使用戶能夠非常快速地識別到哪裡訂購不受篩選的序列。” “如果詢問得當，他們還可以告訴你如何改變你的命令的性質，這樣即使是審查員也很難發現你想要做什麼。”
簽署者包括其他科學家、國家安全專家以及基因合成公司 Twist Bioscience 和 Ansa Biotechnologies 的高階主管。這些公司是國際基因合成聯盟的成員，該聯盟成立於 2009 年，旨在實施自願篩檢實踐。許多公司已經使用軟體來篩選可能導致生物體毒性或致病能力的「關注序列」訂單。
Twist Bioscience 政策和生物安全副總裁 James Diggans 表示：「如果你擁有能夠合成 DNA 的技術，那麼你需要確保以負責任的方式使用它，其中一部分就是確保你了解自己在製造什麼以及為誰製造。」該公司多年來一直支持官方規則的實施。
拜登政府期間推出的聯邦指導方針要求接受聯邦資助的科學家和公司從控制市場的提供者訂購合成基因序列。今年稍早在參議院提出的一項兩黨法案將要求所有在美國營運的基因合成提供者篩選訂單和客戶中是否存在不良試劑或危險病原體。
但篩選工具並不完美。去年，微軟研究人員發表的一項研究表明，人工智慧蛋白質設計工具能夠產生潛在危險的基因序列，並透過該公司的篩選軟體。這些模型提出了與已知危險蛋白質結構相似的新蛋白質序列。
Y Combinator 前總裁兼 Safe AI Fund 合夥人 Geoff Ralston 認為，擁有生物學模型的人工智慧實驗室應該自己對使用者進行審查。
「要求一個模型來幫助你做一些直接危險的事情，即使不是不可能，也應該是非常困難的，」拉爾斯頓說，他也簽署了這封信。
雷爾曼同意，有關篩檢程序的規定只是解決方案的一部分。 「由於檢查在某些情況下可能會失敗，因此我們必須有其他檢查點，」他說。 “這就是人工智慧公司應該挺身而出的地方。”
