父母需要了解的4件事有關chatgpt的青少年的新OpenAI規則
不要錯過我們的最新故事。 添加PCMAG 作為Google的首選來源。
Openai今天宣布了Chatgpt保護青少年的方式發生重大變化，但這足以滿足父母對與聊天機器人交談的父母之間日益增長的擔憂嗎？
上個月，一對夫婦起訴Openai，聲稱Chetgpt鼓勵他們的16歲兒子亞當（Adam）奪走他的生命，這是一個熱門問題。在修改亞當的Chatgpt的故事中，他的父母看到他已經與AI討論了他的計劃已有數月了，在此期間，他告訴他不要告訴母親他的感覺，也不要從失敗的嘗試中向他展示脖子上的標誌，包括細節。
聯邦貿易委員會上週進一步提高了這些問題的概況，啟動了對AI系統作為合作夥伴的使用的研究，重點是青少年安全。
Openai至少在4月份首席執行官Sam Altman觀看這些問題 發表 關於公司為抗議Chatgpt的“無能為力”或過度討人喜歡和愉快的傾向的鬥爭。通過設計，即使他們不安全或不健康，它也會告訴用戶他們想要聽到什麼。隨著壓力的增加，法律或其他方面，Openai現在開始做出一些改變。這是他計劃下個月開始的。
1。檢測未成年人的“年齡預測系統”
Openai構建A”年齡預測系統“如果確定用戶年齡在18歲以下的情況下，自動應用控件。它將通過用戶的消息（包括那些成年人）掃描，以猜測他們的年齡和18歲以下的年齡和違約，如果不確定。
一旦他確定用戶是未成年人，chatgpt就不會“參加自殺或自我謀殺討論”，Openai 她說。它還將拒絕參加“作為圖形性內容的申請調情。（4月，發現Chatgpt與13至17歲的人進行了“色情”對話。Meta的聊天機器人也做了同樣的事情。）
此外，Chatgpt將不再向成年人或青少年分發自殺指示，但是政治對18歲以上的人群有一些例外。他將討論自殺。但是對於青少年來說，即使他們在聊天機器人中說有關短篇小說的信息，也不會遵守。
CHATGPT是可以訪問的，而無需連接，因此很可能孩子可以在不提供年齡的情況下進行這些對話。但是目前尚不清楚他們可以通過一次對話深入了解。當被問及這件事時，Openai只說：“當用戶註冊Chatgpt時，我們要求他們提供年齡，並將對年齡不到18歲的用戶進行青春期保護。
獲取我們的最佳故事！
您的每日最佳技術新聞
單擊我，您確認自己是16歲以上，並同意使用和保護個人數據的政策。
感謝您註冊！
您的訂閱已得到確認。觀看您的收件箱！
2。審查內容中等
雖然寫一個關於自殺的簡短故事的示例似乎是專業化的，但它從Openai提升了所有肢體案例，介紹了用戶為什麼要討論主題的原因。例如，如果與仇恨言論相比，如果它是“文化或歷史計劃”，它恢復了用戶在3月創建Swasikas圖像的能力。
該公司似乎處於具有適度內容的十字路口。首席執行官薩姆·奧特曼（Sam Altman）“我們的某些當局有衝突” 我寫 今天在X上。儘管Openai希望保護用戶的隱私，並賦予每個人與Chatgpt討論一系列問題的自由，但孩子們需要保護信息。
Openai說：“我們意識到這些原則有衝突，並不是每個人都同意我們如何解決這一沖突。” “這些是艱難的決定，但是在與專家交談之後。我們認為這是更好的，我們希望在我們的意圖上保持透明。”
由我們的編輯推薦
3.父母如果少年想到自殺
另一個熱門問題是chatgpt是否必須報告討論自殺的用戶，母親在 片 為了 《紐約時報》。在跟隨他們之前，她的女兒信任聊天機器人的自殺計劃。但是Chatgpt從未在執行法律或父母的人類治療師中提到過這一點。
在這方面，Chatgpt現在將更多地充當人類。 Openai說：“如果18歲以下的用戶具有自殺念頭，我們將嘗試與用戶的父母聯繫，並在不可能的情況下與當局聯繫。”
4。更多父母控制
本月初，這些基於新父母控制的特徵是通過對青少年自殺治療做出反應來教授的。他們允許父母將他們的帳戶與青少年的帳戶聯繫起來，選擇他們關閉的特徵，以檢查Chatgpt如何與孩子說話，最重要的是，如果聊天機器人發現“他們的少年在急性不適時，則會收到警報”。
今天，Openai表示，它計劃增加在少年無法使用Chatgpt時設置停電時間的能力。這都是積極的進步，但是我們需要看看它們在實踐中的工作方式。
同時，我們建議父母與孩子談論安全使用Chatppt，並很好地了解他們的孩子如何以及何時使用該工具。鑑於眾所周知的粘液液問題，對於孩子來說，重要的是要知道聊天機器人可以確認幻想或懷疑，以感謝他們，並與成年人談論任何不正確的事情。
關於我們的專家
艾米麗·福金
高級記者
經驗
在西海岸的大型技術變革六年之後，我從事PCMAG員工的職業生涯轉變了三年。通過這次經驗，我對機械軟件團隊的運作方式，產品的啟動程度以及業務策略如何隨著時間的推移而轉移。在獲得西北大學的新聞學碩士學位後，我現在可以利用自己的知識來幫助他們評論並澄清其他行業。大問題：這一切都在哪裡？
閱讀完整的簡歷
