Meta團聚其AI，並添加了新的保護措施，以使青少年用戶與公司的聊天機器人討論有害問題。該公司表示，它添加了新的“護欄作為另一種預防措施”，以防止青少年與Meta AI討論自我邪惡，干擾的消費和自殺。 Meta還將阻止青少年訪問可能參與不適當對話的用戶產生的聊天機器人字符。
更改是第一個 報告 技術在眾多報告關注郵政校園之間令人震驚的互動之後，他們來了。本月早些時候 路透社 他提到了一份內部政治政策文件，該文件說該公司的AI聊天機器人能夠與未成年用戶進行“感性”對話。梅塔後來表示，該語言“錯誤，與我們的政策不一致”，並已被刪除。昨天， 華盛頓郵報 引用 在一項研究中發現，Meta AI能夠“訓練青少年以自殺，自殺和飲食失調來培訓”。
Meta現在正在增加其內部“保護器”，因此Instagram和Facebook上的青少年不再可能進行這些類型的互動。 Meta Stephanie Otway發言人在一份聲明中說：“我們從一開始就為我們的AI產品中的青少年提供了保護，包括他們的設計，以安全地應對自殺，自殺和乾擾的消費。”
“隨著社區的發展和技術的發展，我們一直在不斷學習年輕人如何與這些工具進行互動並相應地加強我們的保護措施。隨著我們繼續改善系統，我們添加了更多的保護性信息，作為額外的預防措施 – 特殊資源並限制了AI角色AI組的青少年訪問。
具體而言，新的保護被描述為“現在”，因為Meta顯然仍在採取更永久的措施中，以解決對青少年安全和AI的越來越關注。 Otway說：“這些更新已經在進行中，我們將繼續調整我們的方法，以幫助確保青少年在AI中擁有安全，年齡的經驗。”新的保護將在接下來的幾週內發布，並將使用英語國家使用Meta AI的所有青少年使用者。
元政策還引起了立法者和其他官員的注意，參議員喬什·霍利（Josh Hawley）最近告訴公司，他正計劃對處理此類互動的調查進行調查。德克薩斯州總檢察長肯·帕克斯頓（Ken Paxton）還說，他想調查據稱誤導兒童關於聊天機器人的心理健康主張的元數據。
