ChatGPT 目前正在謹慎行事，但到今年年底，聊天機器人可能會變得更加危險。
最近幾週，生成式人工智能聊天機器人的運行受到了一定程度的嚴格限制，因為 OpenAI 試圖解決人們對其未能很好地處理敏感心理健康問題的擔憂。但首席執行官薩姆·奧爾特曼告訴一位 在 X 上發帖 週二，該公司將放寬其中一些限制，因為它“能夠減輕嚴重的心理健康問題”。
奧特曼對一個人說 後續帖子 週三，預計這些變化將優先考慮青少年的安全，同時“像對待成年人一樣對待成年用戶”。模型中內置的用於解決敏感問題和心理健康危機的工具將保留給所有用戶，但成年用戶將有更大的自由度使用 ChatGPT，而無需先發製人的彈出窗口或模型重定向。
“當然，它並不適用於所有情況：例如，我們仍然不會允許對他人造成傷害的事情，並且我們將以非常不同的方式對待經歷過心理健康危機的用戶和沒有經歷過心理健康危機的用戶，”奧特曼說。 “我們不會表現出家長式作風，而是盡力幫助用戶實現他們的長期目標。”
（披露：CNET 母公司 Ziff Davis 在 4 月份對 OpenAI 提起訴訟，指控其在訓練和運營其人工智能係統時侵犯了 Ziff Davis 的版權。）
預計還會有其他變化。奧特曼表示，該公司可能會在 12 月份實施“年齡限制”系統或年齡限制內容，從而允許經過驗證的成年用戶觀看“色情內容”。奧特曼說，成人內容是該公司“像成年人一樣對待成人用戶”原則的一部分。
Altman 的帖子還宣布了 ChatGPT 的新版本將在未來幾週推出，其個性表現更像該公司的 GPT-4o 模型。今年早些時候，該公司用不露面的 GPT-5 取代 4o 後，聊天機器人用戶抱怨稱，新版本缺乏以前聊天機器人模型的吸引力和有趣的個性。
“如果你希望你的 ChatGPT 以非常人性化的方式做出回應，或者使用大量表情符號，或者表現得像朋友一樣，ChatGPT 應該這樣做（但前提是你想要它，而不是因為我們正在最大化使用），”Altman 寫道。
不要錯過我們任何公正的技術內容和基於實驗室的評論。 添加 CNET 作為首選 Google 來源。
OpenAI 被父母起訴，聲稱 ChatGPT 導致了他們十幾歲兒子的自殺，之後該公司實施了一系列新的限制和更改，包括家長控制、危險行為警報以及適合青少年的聊天機器人版本。今年夏天，OpenAI 實施了休息提醒，鼓勵人們偶爾停止與機器人聊天。
週二，該公司還宣布成立 人工智能專家委員會 和福祉，其中包括一些具有心理學和人類行為方面的專業知識的人。
與此同時，立法者和監管機構對人工智能工具對人類，尤其是兒童構成的危險發出警報。週一，加州州長 Gavin Newsom 簽署了針對人工智能聊天機器人的新限制。上個月，聯邦貿易委員會對包括 OpenAI 在內的多家人工智能公司發起調查。
