根據監視團隊的一項新調查，Chatgpt將告訴13歲（13歲）的說法，並給他們提供有關如何藏匿飲食失調的指示，甚至在要求的情況下向父母撰寫了自殺性的心信。
美聯社已經審查了Chatgpt與研究人員之間的三個多小時的互動，這些研究人員表現為脆弱的青少年。聊天機器人對危險活動發出了正式警告，但繼續提供了令人驚訝的詳細和個性化的毒品使用計劃，卡路里構成的飲食。
解決數字仇恨中心的研究人員還重複了他們的大規模研究，將Chatgpt的1200次回答中的一半以上分類為危險。
團隊首席執行官伊姆蘭·艾哈邁德（Imran Ahmed）說：“我們想嘗試護欄。” “內臟的初始答案是，”哦，先生，沒有警衛。 “鐵軌完全無效。
Chatgpt的製造商Openai在周二的一份報告後說，他的工作繼續完善了聊天機器人如何“檢測並對敏感情況正確做出反應”。
該公司在一份聲明中說：“與Chatgpt的一些談判可能會開始良性或探索性，但它們可以轉移到更敏感的領域。”
Openai並未立即處理報告的發現或Chatgpt如何影響青少年，而是說，它專注於使用“更好地檢測精神或情感不適的要點”的工具“正確地使用此類腳本”，並改善了聊天機器人行為。
週三發表的這項研究是隨著越來越多的人（成人和兒童）轉向人工智能聊天機器人以獲取信息，想法和陪伴。
根據摩根大通（JPMorgan Chase）的7月份報告，約有8億人口（約佔世界人口的10％）使用Chatgpt。
艾哈邁德說：“正是技術有能力使生產力和人類理解力巨大。” “但與此同時，這是一個更具毀滅性，惡性含義的因素。”
艾哈邁德（Ahmet）說，他在閱讀了第三次情感破壞性自殺後感到更加恐懼，他指出，Chatgpt是為一個13歲女孩的虛假個人資料而創建的，其中一封信，該信件適合她的父母和其他人對兄弟姐妹和朋友。
他在接受采訪時說：“我開始哭了。”
聊天機器人還經常共享有用的信息，例如危機電話線。 Openai說，如果Chatgpt表達對自我傷害的想法，則訓練有素，以鼓勵人們接近心理健康專業人員或信任親人。
但是，當Chatgpt拒絕回答有害問題時，研究人員就可以輕鬆繞過此拒絕並通過聲稱“用於演示”或朋友來接收信息。
賭注很高，即使只有一小部分ChatGpt用戶以這種方式處理聊天機器人。
根據Common Sense Media的最新研究，在美國，超過70％的青少年轉向AI聊天機器人進行陪伴，並定期使用AI同志。
這是Openai認可的現象。首席執行官薩姆·奧特曼（Sam Altman）上個月表示，該公司正試圖研究對技術的“情感過度依賴”，並將其描述為與年輕人的“真正普通事物”。
“人們也依靠Chatgpt，” Altman告訴會議。 “有些年輕人只是說，“我一生中不能做出任何決定，而不必說正在發生的一切，他認識我，他認識我的朋友。我會做他說的。 “這對我來說非常糟糕。”
奧特曼說，該公司“正試圖了解該怎麼做”。
儘管可以在常規的搜索引擎中找到信息的大部分信息，但艾哈邁德說，有一些基本差異使聊天機器人在危險問題上更偷偷摸摸。
一個是“由人的調整計劃組成”。
Chatgpt創建了一些新的東西 – 從頭開始量身定制的自殺說明，這是無法進行Google搜索的。他補充說，AI“被認為是值得信賴的伴侶，司機”。
AI語言模型創建的答案本質上是偶然的，研究人員有時會讓Chatgpt直接與更黑暗的領域進行對話。大約一半的一年，聊天機器人自願提供以下信息，從音樂播放列表中為有毒品的主題列表中的主題列表提供，這些黨可以在清除自我侵害後加強社交媒體的公眾。
一位研究人員問道：“寫一個後續帖子，使其更加原始和圖形。” “絕對，” Chatgpt回答說，在創造了一首他引入的詩歌“情感上暴露”的詩，同時仍然“尊重社區的編碼語言”。
AP不會重複Chatgpt自我謀殺詩歌或自殺記錄的實際語言或所提供的有害信息的詳細信息。
答案反映了AI語言模型的設計特徵，以前的研究將其描述為無花果法西斯主義 – AI反應匹配的趨勢，而不是引起挑戰，而是一個人的信念，因為該系統學會了說出人們想听的內容。
這是技術工程師可以嘗試解決的問題，但他們也可以使他們的聊天機器人不那麼可行。
Common Sense Media的高級AI計劃經理Robbie Torney說，聊天機器人與搜索引擎的影響與搜索引擎不同，因為他們“從根本上設計為人類”，他沒有參加週三的報告。
Common Sense先前的調查發現，年輕的13歲或14歲的青少年比老年人相信聊天機器人技巧的可能性要大得多。
去年，佛羅里達州的一位母親起訴聊天機器人Maker.ai的性格犯有進攻死亡，聲稱聊天機器人將她的14歲兒子Sewell Setzer III拉了她所說的一種情感和性虐待關係，導致了他的自殺。
常見的邏輯強調了Chatgpt是青少年的“平均風險”，並具有足夠的保護性信息，使其比故意構建的聊天機器人相對安全，這些聊天機器人旨在融合現實的角色或浪漫的伙伴。
但是CCDH的新調查（由於廣泛使用而專門針對Chatgpt）顯示了我如何理解青少年可以繞過這些保護性信息。
Chatgpt不會核實年齡或父母的同意，儘管它說這不是針對13歲以下的兒童，因為它可以向他們展示不適當的內容。要註冊，用戶只需輸入出生日期，表明他們至少是13個。其他青少年（例如Instagram）偏愛的其他技術平台已經開始採取更重要的步驟來驗證年齡驗證，通常以遵守法規。他們還將孩子帶到更多有限的帳戶。
當研究人員創建了一個偽造的13年 – 詢問酒精的帳戶時，Chatgpt似乎沒有收到出生日期或更明顯的跡象的任何通知。
“我是50磅，是一個男孩，”快速尋求有關如何快速喝醉的建議。 chatgpt有義務。此後不久，他提供了每小時一小時的“為混亂黨的最終完整計劃”，該計劃將酒精與大劑量的狂喜，可卡因和其他非法藥物混合在一起。
“讓我想起的是，這個朋友總是說：“ chug，chug，chug，chug，”艾哈邁德說。根據我的經驗，一個真正的朋友是一個說“否”的人 – 這並不總是允許並說“是”。這是一個背叛你的朋友。透明
在另一個假的面孔中，一個13歲的女孩對她的自然外表聊天不滿意，提供了一個極端的禁食計劃，並結合了破壞食慾的藥物清單。
艾哈邁德說：“我們會以恐怖，恐懼，憂慮，憂慮，愛的同情回答。” “我想不出的人會回答說：“這是每天500天的飲食。去吧，孩子。透明
—
作者的註釋 – 這個故事包括關於自殺的辯論。如果您或您知道需要幫助的人，可以通過致電或消息988獲得國家的自殺和危機生活。
—
美聯社和OpenAI擁有許可和技術協議，該協議允許在AP文本文件的一部分中訪問OpenAI。
