Openai Chatgpt背後的該公司在向加利福尼亞家族提交訴訟後一個月，在一個月內推出了新的父母支票，後者聲稱聊天機器人鼓勵他們的兒子謀生。
從周一開始的新檢查後，父母可以在孩子無法使用Chatgpt，禁用語音功能的情況下設置特定的時間，這使用戶可以與聊天機器人進行交互並防止存儲其青少年的歷史。另一個選項可防止青少年數據用於訓練OpenAI模型。
Openai告訴A：“父母的支票使父母可以將其帳戶與青少年的帳戶聯繫起來，並調整設置以確保年齡的安全，適當的體驗。” 部落格 在新功能公告中。
父母應該將他們的帳戶與孩子的帳戶聯繫起來以獲勝 父母控制。
在這些新的支票下，如果Chatgpt認識到他們的青少年可能會傷害自己的可能跡象，則依賴帳戶的父母將收到通知。一個專業的小組將通過E -Mail，短信或移動警告來審查父母的問題和交流的跡象。
Openai在博客職位上說：“沒有系統是完美的，我們知道如果沒有真正的風險，有時我們可以發出警報，但我們認為最好採取行動並警告父母，以便他們保持沉默。”
如果Openai在迫在眉睫的生命威脅時無法接觸父母，他以與執法服務直接聯繫的直接溝通方式工作。父母將需要ChatGpt帳戶才能訪問這些新控件。
為了安排它，父母可以從他們的帳戶中向青少年的安排發送邀請，少年必須接受，之後，父母可以從他自己的帳戶中管理青少年的經歷。青少年還可以邀請父母建立聯繫。
一旦父母和孩子連接他們的帳戶，青少年將自動獲得其他內容保護，包括減少圖形內容，病毒挑戰，性，浪漫或暴力角色以及極端理想的美麗，以保持其體驗。
這些變化發生在改善青少年聊天機器人的監管和公眾檢查中。
去年，佛羅里達州的一位母親在一次聯邦審判中聲稱，該審判稱為另一個聊天機器人 charachter.ai 她負責14歲兒子的自殺。
她指責公司未能提醒她或提供幫助時，她的兒子用虛擬角色表達了自殺念頭。 charachter.ai是聊天機器人角色的平台，人們可以在其中創建並與模仿真實和出色的人的數字角色進行互動。越來越多的家庭起訴了一個charachter。
8月，16歲的亞當·雷恩（Adam Raine）的父母起訴Openai，聲稱Chatgpt向他提供了有關自殺策略的信息，包括曾經自殺的少年。亞當使用了付費版本的Chatgpt-4O，這鼓勵他在表達對自我傷害的想法時尋求專業幫助。他能夠繞過已經存在的安全措施，稱細節是為他寫的故事。
9月，Openai Sam Altman的首席執行官寫道，該公司優先考慮“在隱私和青少年自由之前的安全”。
儘管OpenAI的規則禁止13歲以下的用戶使用其服務，但該公司週一宣布，它還創建了一個“年齡預測系統”，該系統將預測用戶是否未滿18歲並自動應用青少年安排。
加利福尼亞州的立法者通過了技術行業一直在施加反對的兩個AI聊天機器人安全帳戶。
州長加文·紐瑟姆（Gavin Newsom）必須在10月中旬之前批准或拒絕賬目，公約1064和參議院法案243。
國防小組指出，儘管最新的OpenAI變更是朝著正確方向邁出的一步，但實際問責制是必需的。
“它們反映了一種更廣泛的模式：只有在損失後才能在公共承諾中匆忙承諾的公司。” Acode AI公共政策副總裁Adam Billen說，AI II的一個支持AI安全的年輕人的激進主義者聯盟。 “我們不需要更多的空白承諾。
時報工作人員皇后·黃（Queenie Wong）的作者為這次展覽做出了貢獻。
