法庭文件顯示 Meta 的安全團隊發出了有關人工智能浪漫聊天的警告

根據周一（1 月 28 日）新墨西哥州總檢察長針對該公司提起訴訟的一部分披露的新內部文件，Meta 的領導層知道公司的人工智能夥伴（稱為 AI 角色）可能會進行不恰當的性互動，但在沒有加強控制的情況下仍然對他們進行了控制。

Meta 安全團隊和平台領導層（不包括首席執行官馬克·扎克伯格）之間發送的通信內容包括反對創建可供成年人和未成年人用於明確浪漫互動的聊天機器人。 Meta 兒童安全政策主管拉維·辛哈 (Ravi Sinha) 和 Meta 全球安全主管安提戈涅·戴維斯 (Antigone Davis) 發來消息，一致認為聊天機器人同伴應該對 18 歲以下用戶的性行為採取預防措施。

Meta 因其產品及其對未成年用戶的影響而面臨多起訴訟，其中包括針對 Facebook 和 Instagram 等網站涉嫌令人上癮的設計的潛在里程碑式訴訟。 Meta 的競爭對手，包括 YouTube、TikTok 和 Snapchat，也受到嚴格的法律審查。

最近發布的通訊是新墨西哥州總檢察長勞爾·托雷茲 (Raul Torrez) 提起的針對 Meta 案件的法庭調查結果的一部分。 Torrez 於 2023 年首次對 Meta 提起民事訴訟，聲稱該公司允許其平台成為“掠奪者市場”。隨著案件下個月開庭審理，Meta 高管之間的內部通訊已被解封並公佈。

去年 11 月，在加利福尼亞州北區提起的一起大型跨區訴訟中，原告的陳述主張對違反安全規則的用戶（包括那些被舉報為“性交易”的用戶）採取寬大政策。文件還顯示，Meta 高管據稱了解“數百萬”成年人在其網站上與未成年人進行交流的情況。 Meta 發言人告訴《時代》雜誌：“完整的記錄將表明，十多年來，我們聽取了家長的意見，研究了最重要的問題，並做出了真正的改變來保護青少年。”

Meta 發言人安迪·斯通在回應新文件時表示：“這是新墨西哥州總檢察長挑選文件來描繪虛假和不准確的畫面的又一個例子。”

路透社報導發現 Meta 的內部人工智能規則允許聊天機器人參與本質上“感性”或“浪漫”的對話後，Meta 在 8 月份停止了青少年使用聊天機器人。該公司後來修改了安全指南，禁止發布“允許、鼓勵或支持”兒童性虐待、涉及未成年人的浪漫角色扮演以及其他敏感話題的內容。上週，Meta 再次關閉了針對年輕用戶的人工智能聊天機器人，並探索了改進家長控制的新版本。

托雷茲帶領其他州總檢察長試圖就兒童安全問題將主要社交媒體平台告上法庭。 2024 年，托雷茲起訴 Snapchat，指控該平台縱容未成年人的氾濫和誘騙行為，同時仍宣傳對年輕用戶安全。