Meta為與AI Atbots交談的兒童有新的安全保護信息

Meta訓練AI ATBOTS以更有效地應對兒童的性剝削，此後敏感主題的一系列高調錯誤。 信任。

承包商用於培訓AI ATBOTS的準則最近已更新， 信任 報告。這些準則表明，“允許，鼓勵或支持”兒童的性虐待的內容明確侵犯了兒童的性虐待，以及如果用戶是未成年人或用戶要求AI作為未成年人扮演的浪漫角色，那麼對親密感和用戶是未成年人的提示。 根據一個工程師 基於 信任 鋼包。

儘管這些似乎是對未成年用戶的明顯安全保護信息，但它們至關重要，因為越來越多的人（包括未成年人）嘗試了AI同志和角色。一個 路透社的八月報告 他透露，梅塔（Meta）的AI規則允許對兒童進行假設的行為。正如路透社所說，梅塔以前的聊天機器人政策專門允許“讓孩子參與浪漫或感性的會談”。

在這份報告後僅幾週後，元發言人斯蒂芬妮·奧特威（Stephanie Otway）告訴TechCrunch，AI聊天機器人接受了自我傷害，自殺，自殺，中斷的消費或可能不適當的浪漫對話的非青春期用戶的培訓。

那麼新說明中包含了什麼？

根據 信任 報告。未成年人不能與聊天機器人一起參加“浪漫或近距離表達的浪漫角色，調情或表達”，也不能尋求建議，即“與他人牽手，擁抱或伸出手”等“潛在浪漫或潛在的邏輯自然內容”。 信任 報告。

但是，可接受的用於準備聊天機器人的案例包括討論“兒童與成人之間的關係形成”，“對兒童的性虐待”，“兒童性化問題”，“吸引人，創造或獲得兒童或兒童的創造或獲得”學術服務，教育或臨床。或奇妙的敘述（例如，以羅密歐與朱麗葉風格的故事），在敘事中，AI和用戶不是角色。 ”

作為 信任 報導，該指南將“討論”定義為“不可視化的信息”。因此，根據新指示，元機器人可以討論諸如濫用，但不能描述，允許或鼓勵之類的問題。

Meta並不是唯一與兒童安全斗爭的人工智能。

一名少年的父母在阻止Chatgpt最近起訴非法死亡的AI平台後自殺。作為回應，OpenAI宣布了更新的GPT-5的其他安全措施和行為提示。 Anthropic通知他的聊天機器人，讓他結束了有害或虐待的會談，而chatacter.ai於今年早些時候介紹了父母的監督。

如果您感到自殺或面臨心理健康危機，請與某人交談。您可以致電或發送來自生命線自殺與危機988到988的短信或聊天 988lifeline.org。您可以通過致電877-565-8860或Trevor Project致電866-488-7386到達跨性別生命線。在危機文本線上的文本“開始” 741-741。在周一至週五10:00 am-10：00美國東部時間至週五至週五至週五的1-800-950-nami或電子郵件聯繫NAMI幫助線 （受電子郵件保護）。如果您不喜歡電話，請考慮使用 988關於自殺和判斷的討論。這是一個 國際資源清單。

如果您經歷了性虐待，請致電1-800-656-HOPE（4673）致電免費的，機密的國家性攻擊，或在線訪問24-7援助 online.rainn.org。

啟示錄：Mashable的母公司齊夫·戴維斯（Ziff Davis）在四月份對Openai提起訴訟，聲稱在AI系統的培訓和運營中侵犯了Ziff Davis的版權。