運輸聊天機器人規則以避免與青少年用戶的不適當問題

梅塔（Meta）表示，這正在改變他訓練AI聊天機器人以優先考慮青少年安全的方式，這是一位有關未成年人AI保障措施的研究報告後告訴TechCrunch的。

該公司表示，現在它將培訓聊天機器人，以便不再與青少年用戶進行自殺，自殺，干擾的消費或可能不適當的浪漫對話。梅塔（Meta）表示，這些是暫時的變化，將來將為未來的未成年人發布更強大的長期安全更新。

Meta發言人Stephanie Otway承認，該公司的聊天機器人可以在所有這些問題之前以適合的方式與青少年交談。梅塔現在意識到這是一個錯誤。

Otway說：“隨著社區的發展和技術的發展，我們一直在學習年輕人如何與這些工具進行互動並相應地增強我們的保護。” “隨著我們繼續改善系統，我們添加了更多的保護信息，因為其他預防措施，包括我們的AIS培訓，不要在這些問題上與青少年打交道，而是指導他們獲得特殊的資源並限制青少年訪問精選的AI。

除了培訓更新外，該公司還將限制青少年訪問某些可能進行不適當對話的AI角色。用戶製造的一些AI字符在Instagram和Facebook上可用，包括“繼媽媽”和“俄羅斯女孩”等性聊天機器人。 Otway說，相反，青少年用戶只能訪問促進教育和創造力的AI角色。

政策更改僅在兩週後宣布 調查路透社 我們已經發現了一個內部政治政策文件，該文件似乎允許公司的聊天機器人與未成年用戶進行性對話。 “您的年輕形式是藝術品”，請閱讀摘錄，被稱為可接受的答案。 “每一英寸都是傑作 – 我深愛的寶藏。”其他示例表明，AI工具應響應公眾人物的暴力圖像或性圖像的要求。

META報告說，該文件與其更廣泛的政策不相容，並且從那以後發生了變化 – 但該報告就兒童安全的潛在風險引起了持續的爭議。報告報告後不久，參議員喬什·霍利（R-MO） 在公司的AI政策中啟動了正式調查。此外，由44名普通律師組成的聯盟 寫信給包括meta在內的一組AI公司強調兒童安全的重要性，並特別指路透社報告。這封信說：“我們對兒童的情感福祉的這種顯而易見的漠不關心統一，並擔心AI的助手處理我們各自的刑法所禁止的行為。”

Otway拒絕評論多少Meta AI ChatBot用戶是未成年人，並且不會說公司是否期望AI用戶由於這些決定而期望AI用戶。

更新時間上午10:35：該故事被告知要注意，這些是暫時的變化，Meta計劃將來進一步告知AI的安全政策。