ChatGpt育兒控制並不意味著孩子需要AI同志

AI申請的聊天機器人受傷的兒童人數很難知道，但不是零。但是，將近三年的時間，Chatgpt都是免費的，所有年齡段的人無需任何保護。該物種在星期一發生了變化，當時 Openai引入了父母控制套件其中一些旨在防止青春期的自殺，例如16歲的加利福尼亞人亞當·雷恩（Adam Raine） 在廣泛與Chatgpt交談之後 關於如何做。然後在星期二，Openai與 新應用程序稱為Sora 那 看起來很像Tiktok除了它由AI產生的“超現實”提供動力。

Openai宣布了這些父母的支票，並在Instagram和YouTube競爭時宣布了這些父母的支票。從某種意義上說，該公司發布了一個新應用程序，旨在使人們更加迷戀AI生產的內容，但通過給父母稍微獲得更多的控制來減輕打擊。新安排主要在Chatgpt上有效，儘管父母可以選擇對孩子在Sora上看到的東西施加限制。

和新的 作弊檢查 這並不是很簡單。除其他外，父母現在可以將孩子的帳戶與自己的帳戶聯繫起來，並增加免受敏感內容的保護。如果在任何時候，OpenAI工具確定有嚴重的安全風險，則人類協調員將審查並在必要時向父母發送通知。但是，父母無法閱讀孩子與Chatgpt的對話的抄錄，少年可以隨時將其帳戶與父母脫節（Openai說父母會收到通知）。

我們尚不知道所有這些都會在實踐中發揮作用，而且有義務做得更好。但是Openai盡其所能確保孩子的安全？

我與之交談的幾位專家說。可能，新的ChatGPT安全功能可以乾預未來的潛在悲劇，但是當AI同志與新用戶變黑時，它將如何找到OpenAI， 就像他們傾向於這樣做。

“在許多情況下，我們已經看到青少年和成年人都陷入了AI的依賴都是偶然的，” 機器人。常識媒體AI計劃的高級經理告訴我。 “許多依賴AI的人沒有放棄AI。他們開始使用AI來幫助工作或工作，並慢慢滑倒將其用於其他目的。”

同樣，當AI聊天機器人提供一個快樂，誹謗性的朋友時，即使是成年人也會受到調節的問題，他每天的每個小時都可以交談。您可能已經閱讀了最近的成人報告，這些報告與AI聊天機器人建立了越來越緊密的關係 在他們有精神病休息之前。這種合成關係代表了技術和人腦的新邊界。

想想那些額葉樹皮的孩子會發生什麼，這是令人恐懼的 尚未完全開發使它們特別脆弱。超過70％的青少年使用 AI聊天機器人陪伴根據最近的一項常識研究，這種風險對那些“真實，認真和有記錄的人”有風險。這就是為什麼AI Companion應用程序（例如 特點。他們默認情況下對新用戶有一些限制。

父母的控制措施也有一個更廣泛的問題，這會使將孩子保護給父母而不是技術公司本身。通常取決於父母在其設置和反向開關中進行挖掘。然後由父母監視他們的孩子如何使用這些產品以及在Chatgpt的情況下，他們如何在聊天機器人中獲得癮君子。這種情況要么很混亂，要么很費力，所以大多數父母只是簡單地 請勿使用父控件。

父母控制的真正目的小的

值得指出的是，Openai將這些支票和新的申請作為重要的AI安全法案坐在加利福尼亞Gavin Newsom Gavin Newsom辦公室，等待他的簽名。 Newsom簽署了該法案 宣布父母控制的同一天。 Openai News也在參議院聽證會上關於AI聊天機器人的負面影響的緊隨其後，在此期間 呼籲立法者施加更強大的法規 給Openai等公司。

他說：“這些育兒工具的真正目標，無論是chatgpt還是Instagram，實際上並不是確保孩子的安全。” 顯示目標非營利兒童國防團隊Fairplay的執行董事。我們會說自我調節很好。您知道，“不要規範我們，不要通過法律。” “戈林繼續描述了Openai對與Chatgpt建立情感關係的孩子的趨勢的任何事情。（我到達Openai進行評論，但沒有收到答案。

通過管理所有這些安排，圍繞父母的職責的一種方法是默認情況下，Openai將保護性安全消息。該公司表示，他從事它的一種版本。他說，將來，經過一定量的輸入，ChatGpt將能夠確定用戶的年齡並添加安全功能。目前，每次創建一個帳戶時，孩子都可以通過鍵入生日（或一個）來訪問chatgpt。

您可以在這裡嘗試解釋OpenAI的策略。無論是試圖在設置後面促進，父母的檢查都會使用Chatgpt對青少年進行一些摩擦。它是內容的一種形式，它也會影響青少年用戶的隱私。像這些青少年一樣，該公司也可能會在成年後繼續使用Chatgpt和Sora，因此他們不想過多地降級體驗。允許青少年在這些應用程序中做得更多，而對企業的好處也不少。

所有這些都使父母遇到困難。他們需要知道自己的孩子將Chatgpt用於初學者，然後了解哪種安排足以使孩子更安全，但嚴格來說，孩子只是創建一個假裝成年的燃燒器帳戶。似乎沒有辦法讓孩子停止對這些聊天機器人建立情感依戀，因此父母應該與孩子交談並希望最好。然後是等待Sora應用程序的東西，Sora應用似乎是為了展現高質量的AI斜坡，並使孩子上癮的另一個無盡的食物。

生產父母軟件的公司主任萊斯利·泰勒（Leslie Tyler）說：“沒有父母的控制能夠做一些完全安全的事情。” “父母不能將其分配給第三方。父母必須參加。”

在某種程度上，這一刻代表了技術行業和政策制定者的第二個機會。 不可調節的社交媒體應用程序二十年 他們已經煮熟了我們所有的思想，並且有越來越多的證據表明他們為年輕人造成了心理健康危機。公司喜歡 後 – 和 tikitok 他們知道他們的產品傷害了孩子們，並且很長一段時間以來，他們多年來什麼都沒做。 Meta現在有青少年的Instagram帳戶，但是最近的研究 建議安全功能不起作用。

無論是太少還是太晚，Openai都會輪流保護孩子的安全。同樣，做某事總比沒有好。

這個故事的一個版本也發表在用戶 – 友好的新聞通訊中。 在這裡註冊 因此，您不會錯過下一個！