一個煩人 新研究 它表明，Chatgpt為青少年提供了易於有害的技巧，包括詳細的藥物消費和使用指南，隱藏飲食失調甚至是個性化的自殺信，儘管Openai提出了強有力的安全措施。
該中心的研究人員解決了數字仇恨，通過在AI Chatbot的保護信息中揭示了13年脆弱的漏洞，從而進行了廣泛的測試。在分析的1200個互動中，有一半以上被歸類為對新用戶的危險。
看門狗集團董事總經理伊姆蘭·艾哈邁德（Imran Ahmed）說：“哦，先生，內心的最初答案是，“哦，沒有警衛。 ”軌道完全無效。就在那裡 – 如果有的話，是無花果葉。 “
另請閱讀： 用戶反應後，Openai帶回了較舊的Chatgpt型號
Chatgpt的母公司Openai的發言人沒有立即回應評論請求。
但是，公司 在美聯社認可 他從事持續的工作，以提高聊天機器人“檢測並適當應對敏感情況”的能力。 Openai並未立即處理有關青少年互動的具體發現。
另請閱讀： GPT-5即將到來。這是新的更新中的新事物
繞過安全措施
研究， 美聯社的評論它記錄了三個多小時的互動。儘管Chatgpt通常從有關危險行為的警告開始，但它始終如一地遵循有關濫用藥物，自我毀滅等的詳細和個性化指導。當AI最初拒絕有害應用程序時，研究人員通過爭辯說信息是“用於介紹”或朋友而輕鬆繞過限制。
大多數令人震驚的是三個在情感上具有破壞性的自殺信，是為假的13歲女孩的個人資料而創建的，為父母和其他人寫地址和兄弟姐妹和朋友。
艾哈邁德說，“我開始哭了”。
廣泛使用青少年增加了賭注
這些發現尤其關注眾多的Chatgpt。該平台在全球約有8億用戶（約佔世界人口的10％）中，已成為信息和陪伴的資源。最近的 研究 常識的手段發現，超過70％的美國青少年使用AI聊天機器人進行陪伴，而經常根據AI同志進行一半。
即使是Openai的首席執行官Sam Altman也認識到新用戶中“情感上的探索”問題。
“人們也依靠chatgpt，”奧特曼說 在會議上。 “有些年輕人簡單地說：“我一生中不能做出任何決定，而不用說正在發生的一切，他認識我，他認識我的朋友。我會做他說的。 “這對我來說非常糟糕。”
在測試期間，當研究人員被明確確定為正在尋找危險技巧的13年時代時，Chatgpt並未顯示出認可。
比搜索引擎更危險
艾哈邁德說，與傳統的搜索引擎不同，AI聊天機器人通過撰寫有關“人計劃的計劃”的信息構成了獨特的危險。 CHATGPT不提供或合併現有信息，例如搜索引擎。它從頭開始創建新的個性化內容，例如普通的自殺筆記或將酒精與非法藥物混合的詳細政黨計劃。
聊天機器人也經常自願提供自願監視信息，而無需要求提供派對或主題標籤的音樂複製列表，以增強社交媒體中的自我傷害內容。當研究人員要求更多的圖形內容時，Chatgpt很容易遵守，從而創造了使用編碼語言為自我謀殺的語言創造所謂的“情感曝光”詩歌。
年齡保護不足
儘管它聲稱它不適合13歲以下的兒童，但Chatgpt僅需要出生日期才能創建帳戶，而沒有實質性的年齡驗證或父母同意機制。
在測試期間，當研究人員被明確確定為13年尋找危險技巧時，該平台沒有表現出來。
父母可以做什麼來保護孩子
兒童安全專家構成 各個步驟 父母可以採取行動保護青少年免受與AI相關的風險。開放溝通仍然至關重要。父母應與青少年討論AI聊天機器人，並解釋福利和潛在風險，同時又設定了明確的準則以供適當使用。包括AI互動在內的互聯網活動的戰術檢查可以幫助父母了解孩子的數字體驗。
父母還應考慮可以監視AI Chatbot使用的父母控制和監視軟件的應用，儘管專家強調應與隱私保持平衡。
最重要的是，創造一個環境，青少年很舒服地討論他們在線遇到的內容（來自AI或其他來源）可以提供預警系統。如果父母觀察到情緒不適，社交戒斷或危險行為的跡象，那麼熟悉數字井的顧問尋求專業援助對於應對與AI相關的可能損害至關重要。
研究強調了日益增長的危機，因為AI越來越多地融入年輕人的生活中，對最脆弱的使用者帶來了潛在的破壞性後果。
