Openai在起訴少年死後進行更改

Openai表示，在一名16歲父母提起的案件殺死了自己之後，它正在與用戶互動的方式進行一系列變化。

亞當·瑞恩（Adam Rhine）的父母聲稱，吉普普特（Chatgpt）以自我防禦方法教練，最終於4月11日被殺害。他說，該公司去年啟動了其人工智能聊天機器人的GPT-4O版本時故意從安全中受益。

OpenAI增強心理健康安全措施

Sam Altman的公司現在發布了一個博客 網站“在最近的心臟痛苦的情況下，我們在強烈危機中使用聊天的情況下的重量很重，我們認為現在分享更多的人很重要”。該博客提供了試圖解決OpenAI情況的方法的詳細信息。

博客說：“我們的目標是對我們的設備盡可能地幫助我們 – 作為其中的一部分，我們將繼續改善模型如何識別精神和情感危機的跡象，以及如何與護理人員做出反應和聯繫，專家以投入為指導，”該博客說。

該公司表示，它將更新聊天以識別聊天，並應對不同的方式，可以表達精神危機的人 – 例如解釋睡眠不足的危險，並建議如果用戶提到他們在兩個晚上感到無敵，則可以放鬆。該公司還表示，它將加強圍繞關於自殺的對話的安全措施，並將致力於加強在長時間互動中破裂的欄杆。

該博客說：“我們正在不斷改善模型對敏感對話的反應，目前正在許多領域進行針對性的安全改革，包括情緒依賴，心理健康緊急狀況和助理。”

Openai還將很快介紹父母的控制權，這使父母可以選擇更多的見識和塑造他們的青少年如何使用聊天。另外，對於青少年（父母的監控）也可以選擇在任務中指定可靠的緊急聯繫。這樣，在急性危機的時刻，Chatgpt可以做更多的事情，而不僅僅是指向資源及其可靠的專家，還可以幫助青少年直接與可以移動的人建立聯繫。

Openai將為表達損害自己打算的人提供更多的本地幫助。該公司表示：“我們已經在美國和歐洲開始了本地化資源，我們正計劃擴展到其他全球市場。我們還可以通過一鍵式訪問緊急服務來增加獲得緊急服務的訪問。”

“我們正在尋找如何首先乾預並在遇到危機迅速危機之前將人們與認證醫師聯繫起來。這意味著超越危機，並且考慮到我們如何建立一個有執照的專業人員網絡，人們可以通過聊天直接到達，這將努力工作。它將努力工作。”

在萊茵河審判中，一家公司發言人說：“在這個艱難時期，我們對萊茵家族表示深切的同情，並正在審查備案。”

彭博社的一份報告指出，萊茵案案將有關危險行為的大量聊天機器人用戶的報導聯繫起來。 40多位州檢察長向十二家頂級AI公司發出了警告，他們在法律上必須保護兒童免受性不適當與聊天機器人的互動。