薩姆·奧爾特曼僱人來擔心人工智能的危險

OpenAI 正在招聘一名 準備負責人。或者，換句話說，這個人的主要工作就是思考人工智能可能會犯下多麼可怕的錯誤。合而為一 在 X 上發帖Sam Altman 宣布這一立場時承認，人工智能模型的快速改進帶來了“一些真正的挑戰”。這篇文章接著特別指出了人工智能驅動的網絡安全武器對人們心理健康的潛在影響和危險。

這 任務清單 表示該職位的人員將負責：

“監控和準備可能造成新的嚴重危害風險的前沿能力。您將直接負責構建和協調能力評估、威脅模型和緩解措施，形成連貫、嚴格且可操作擴展的安全管道。”

奧特曼還表示，展望未來，此人將負責運行公司的“準備框架”，確保人工智能模型釋放“生物潛力”，甚至為自我改進系統設置護欄。他還表示，這將是一項“壓力很大的工作”，這聽起來像是輕描淡寫的說法。