Openai，聊天機器人的適應在敏感問題上的青少年問題的答案

據公司稱，OpenAI和META將調整聊天機器人功能，以更好地應對危機中的青少年，此前有多次引導新用戶傷害自己或他人的機器人的報告。

“我們最近提出了 真實 – 時間路由器 可以在有效的對話模型和基於對話框的推理模型之間進行選擇，” Openai在A中寫道 星期二的博客 位置。

“很快，我們將開始啟動一些敏感的對話，例如當我們的系統發現急性不適的推理模型（例如GPT-5-Shinking）的跡象時，無論首先選擇的人的模型如何，它都可以提供更有用的和有益的答案。”

今年早些時候，Openai成立了繁榮和AI的專家委員會以及我們的全球醫生網絡，以促進與大型語言模型的健康互動，並指出，來自60個國家 /地區的250名醫生為當前的表演貢獻了其貢獻。

新措施是在加利福尼亞州16歲以下的，他與Openai Chatgpt聊天后死於自殺。他的父母聲稱該平台鼓勵他奪走生命。

家庭律師週二將OpenAI公告描述為“模糊的承諾會做得更好”，“只不過是試圖改變此事的OpenAI危機管理團隊” 美聯社 報告。

他們呼籲董事總經理山姆·奧特曼（Sam Altman）“無疑指出他認為Chatgpt是安全的或立即退出市場”。

據報導，單獨聊天機器人鼓勵了類似的暴力趨勢案件 佛羅里達 和 德克薩斯州。

梅塔說 技術 它將告知其政策，以反映許多問題後對青少年的最合適承諾。該公司表示，它將不再允許青春期用戶討論自殺，自殺，干擾的消費或可能與聊天機器人進行不適當的浪漫對話。

梅塔·斯蒂芬妮·奧特威（Meta Stephanie Otway）發言人在商店中說：“隨著社區的發展和技術的發展，我們一直在不斷學習年輕人如何與這些工具進行互動並相應地提高我們的保護。”

“隨著我們繼續改善系統，我們會增加更多的保護信息，因為其他預防措施，包括我們的AIS培訓，不要在這些問題上與青少年打交道，而是指導他們進行專業資源並限制AI的訪問。我們將繼續適應我們的方法，以確保我們的青少年有安全的AI，這是AI的及時體驗。”

來源連結