對於全球範圍內追求通用人工智能（或人類水平的人工智能）來說，這是一個重大消息。 OpenAI，其中 描述 其“確保 AGI 造福全人類”的使命昨天完成了長期企業重組計劃。它可以徹底改變我們應對人工智能風險（尤其是生物風險）的方式。
首先快速回顧一下：OpenAI 最初是於 2015 年作為非營利組織成立的，但四年後收購了一個營利性部門。該非營利組織現在將被稱為 OpenAI 基金會，而營利性子公司現在將成為一家 公益法人稱為 OpenAI 集團。 （與其他結構不同，中國人民銀行有平衡使命和利潤的法律要求。）該基金會仍將控制 OpenAI Group 並擁有 26% 的股份，在資本重組結束時估值約為 1300 億美元。 （披露：Vox Media 是與 OpenAI 簽署合作夥伴協議的幾家出版商之一。我們的報導保持編輯獨立性。）
OpenAI 在文章中寫道：“我們相信，世界上最強大的技術應該以反映世界集體利益的方式開發。” 一篇博文。
畢竟是 OpenAI 的第一步舉措之一 微軟大交易 該基金會斥資 250 億美元加速健康研究，並支持“人工智能彈性的實用技術解決方案，即最大限度地發揮人工智能的好處並最大限度地降低其風險。”
加入這裡，探索世界面臨的重大、複雜的問題以及解決這些問題的最有效方法。每週發貨兩次。
最大化效益和最小化風險是開發先進人工智能的關鍵挑戰，沒有什麼學科比生命科學更能代表這一前沿。人工智能在生物學和醫學中的應用可以增強疾病 檢測改進 回答並促進新療法和疫苗的發現。但許多專家認為，先進人工智能的最大風險之一是它有可能幫助 創造 危險的生物製劑， 降低 進入壁壘 發射 致命的生物武器攻擊。
AI前沿公司有 已確立的 ChatGPT 代理的保證，但我們正處於 AI-bio 功能實現的早期階段。因此最近的另一則新聞——OpenAI 啟動資金與 Lux Capital 和 Founders Fund 一起， 提供 紐約生物防禦初創公司獲得 3000 萬美元融資 一個錯誤 – 可能證明幾乎與公司複雜的企業重組一樣重要。
Valthos 旨在打造下一代”技術棧”用於生物防禦——而且速度很快。“隨著人工智能的進步，生命本身已經變得可編程，”該公司在介紹性博客中寫道 位置 上週五走出隱身狀態後。 “世界正在接近普遍獲得能夠根除疾病或創造疾病的強大的兩用生物技術。”
您可能想知道最好的行動方案是否是完全停止這些工具的破壞性潛力。但當我們以不斷加快的速度推動人工智能的進步和投資時，這是不現實的。歸根結底，這裡的關鍵賭注將是我們開發的人工智能是否能夠減輕我們開發的人工智能所帶來的風險。隨著 OpenAI 和其他公司向 AGI 邁進，這個問題變得更加重要。
人工智能可以保護我們免受人工智能風險嗎？
Valthos 設想的未來是，對人類的每一種生物威脅都可以“立即識別和消除，無論其來源是外部的還是我們體內的。我們正在構建人工智能係統，以快速表徵生物序列並實時更新藥物。”
這可以讓我們更快地應對疫情爆發，從而有可能防止疫情爆發成為流行病。我們可以在創紀錄的時間內重新定義治療方法並設計新藥，幫助數十名患有難以有效治療的疾病的人。
我們甚至還沒有接近生物學（或其他任何東西）的通用人工智能，但我們不需要這樣做，因為人工智能生物能力會帶來重大風險，例如故意創造比自然界中任何其他東西都更致命的新病原體，這些病原體可能會有意或無意地釋放。像 Valthos 這樣的努力是朝著正確方向邁出的一步，但人工智能公司仍有很長的路要走。
他說：“我對人工智能-生物能力的上行潛力和社會可以從中獲得的好處非常樂觀。” 海梅·亞西夫核威脅倡議全球生物政策和計劃副總裁。 “然而，與此同時，我們負責任地開發和部署這些工具也很重要。”
（披露：我曾經在 NTI 工作。）
但亞西夫認為，要提高人工智能工具對生物學的預測能力，還有很多工作要做。
人工智能目前無法單獨發揮其優勢——必須繼續對其他結構進行投資 運動的改變。人工智能是更廣泛的生物技術創新生態系統的一部分。研究人員仍然需要做大量的濕實驗室工作，進行臨床試驗，並評估新療法或疫苗的安全性和有效性。他們還必須將這些醫療對策傳播給最需要的人群，這是眾所周知的困難，並且充滿官僚和資金問題。
另一方面，不良行為者可以在此時此地運作，並且影響數百萬人的生活的速度比人工智能的好處實現的速度要快得多，特別是在沒有明智的干預方式的情況下。這就是為什麼旨在防止有用工具被利用的保障措施如此重要：a) 最初開發；b) 跟上快速技術發展的步伐。
SaferAI，對人工智能公司的風險管理實踐進行評級， 類 OpenAI 擁有僅次於 Anthropic 的第二好的框架。但每個人還有更多的工作要做。 “這不僅僅是關於誰處於領先地位，”亞斯夫說。 “我認為每個人都需要做得更多。”
隨著 OpenAI 和其他公司越來越接近比人類更聰明的人工智能，如何最大限度地提高生物學的收益並最大限度地降低其風險的問題變得前所未有的重要。隨著重新設計生命本身的工具變得越來越複雜，我們需要對人工智能生物防禦和生物安全進行更大的投資。所以我希望用人工智能來解決人工智能風險是一個有回報的賭注。
