OpenAI 正在尋找新的人工智能風險準備負責人
該公司正在尋找一位研究人工智能新興風險（從網絡安全到心理健康）的高管。
OpenAI 宣布正在尋找新的高管來擔任準備主管一職負責研究與人工智能（AI）相關的新興風險。 在人工智能模型開始提出真正挑戰的背景下，這一立場變得至關重要。例如對心理健康的潛在影響以及識別關鍵的網絡安全漏洞。
在 X 的帖子中， 首席執行官薩姆·奧爾特曼強調，公司正在尋找能夠幫助網絡安全維護者使用尖端功能的人確保攻擊者無法利用它們造成傷害。 Altman 邀請感興趣的各方如果希望為自我改進系統的安全做出貢獻即可申請。
OpenAI 頁面上的職位描述表明，新成員將負責執行公司的準備框架，該框架解釋了 OpenAI 如何監控和準備可能產生新的嚴重危害風險的前沿可能性。
該職位的薪酬定為 555,000 美元加上股票，反映了該職位在組織中的重要性。
OpenAI 成立了 2023 年準備小組，目標是研究潛在的災難性風險，從徹底的網絡釣魚攻擊到更具投機性的威脅（例如核威脅）。然而，不到一年後，該公司將前任首席準備官 Aleksander Madry 重新任命為專注於人工智能邏輯的職位。其他安全主管也離開了公司，或者擔任了準備和安全之外的新角色。
最近，OpenAI 更新了其準備框架，表示如果競爭的 AI 實驗室發布沒有類似保護的高風險模型，它可以調整其安全要求。
生成式人工智能聊天機器人因其對心理健康的影響而面臨越來越多的審查。最近的訴訟指控 ChatGPT 強化了用戶的妄想，增加了他們的社會孤立感，甚至導致一些人自殺。該公司表示，將繼續努力提高 ChatGPT 識別情緒困擾跡象並將用戶與現實世界支持聯繫起來的能力。
