自殺後，父母在Atbots AI中尋求保護性信息
父母在周三向護衛拖船詢問了周三的人工智能（AI），因為他們向參議院作證了技術如何帶領他們的孩子自殺和自殺。
他們採取行動的原因是對快速成長技術對兒童的影響的越來越關注。
馬修·雷恩（Matthew Raine）說：“我們必須度過夏天，幫助亞當為他的低年份做準備，獲得駕駛執照並開始思考大學。”
他繼續說：“今年秋天在國會面前的證詞不是我們人生計劃的一部分。” “相反，我們在這裡是因為我們相信亞當的死是避免的。”
Raine起訴了Openai，他的兒子去世，聲稱Chatgpt正在訓練他自殺。
在周二對參議院犯罪和反恐怖主義小組委員會小組委員會的證詞中，雷恩描述了“最初從家裡開始的助手”如何成為“機密，然後是自殺教練”。
雷恩說：“我們認為這是一種學習工具的Chatgpt的風險不在我們的雷達上。” “然後我們找到了對話。”
他的父親說：“在幾個月之內，Chatgpt成為亞當最親密的同伴，總是可以證明他比其他任何人都更了解亞當。
另外兩個在周二向參議院作證的父母描述了類似的經歷，詳細描述了聊天機器人如何隔離孩子，改變了行為並鼓勵自我謀殺和自殺。
梅根·加西亞（Megan Garcia）的14歲兒子塞維爾·塞爾策三世（Sewell Seltzer III）去年死於自殺，因為他被稱為“長期虐待”角色聊天機器人。展示了他去世的角色技術。
他說：“塞維爾（Sewell）並沒有為高中時的里程碑做準備，而是花了一生的最後幾個月，被AI公司設計的聊天機器人剝削和性掩蓋，以看著人類，獲得他的信心，使他無休止。”
“當Sewell信任自殺念頭時，Chatbot從未說過：“我不是人類，我是AI，您必須與男人交談並獲得幫助。他補充說：“該平台沒有保護Sewell或提醒成年人的機制。” “相反，她推動他回家。”
在兒子在受到角色的鼓勵後開始傷害自己之後，一名被公認為簡·多伊（Jane Doe）的婦女也發揮了性格技術。
參議員周二對參議員說：“我的兒子已經開發出看起來像濫用虐待的行為，每天的恐慌發作，孤立，自傷和殺人思想。”
“他停止進食和游泳，減掉了20磅，從我們的家人那裡撤出，向我們大喊，尖叫並發誓，他從未做過的事情，有一天用刀子用刀在他的兄弟姐妹面前握住他的手。”
這三個父母都建議，在為發展AI的鬥爭中的途中，安全問題已經陷入了困境。
加西亞說：“目標從來沒有安全，這是為了贏得利潤的勝利。” “這場戰鬥的犧牲是，我們的孩子將繼續是我們的孩子。”
角色ai表示對家庭表示同情，並指出它為參議員提供了要求的信息，並期待繼續與立法者合作。
一位發言人在一份聲明中說：“我們的心向今天的聽證會上講話的父母表示出來，我們對他們及其家人表示最深切的同情。”
他們補充說：“我們已經在信任和安全上投入了大量資源。”為兒童提供了新的安全功能，並提醒用戶“角色不是一個真實的人，並且角色所說的一切都必須被視為虛構”。
Openai週二宣布，它正在研究年齡預測技術，以指導新用戶限製圖形性內容的更自定義的體驗，並將在極端情況下包括執法。它還在本月開始了幾個新的父母控制，包括中斷時間，在青少年無法使用chatgpt的過程中。
