Meta 為青少年添加人工智能聊天機器人安全功能

Instagram 和 Facebook 的母公司 Meta 計劃為其人工智能 (AI) 聊天機器人開發新的安全功能，以幫助保護青少年，因為人們越來越擔心技術對年輕用戶的影響。

這家社交媒體巨頭週五宣布，將為人工智能聊天機器人添加新的家長控制功能，允許家長關閉孩子與人工智能角色的一對一對話，並深入了解孩子與該公司的人工智能產品談論的內容。

這些新功能將於明年初推出，首先是 Instagram。

Instagram 負責人 Adam Mosseri 和 Meta 人工智能負責人 Alexandr Wang 寫道：“我們認識到，在與孩子安全地上網方面，父母已經有很多事情要做，我們致力於為他們提供有用的工具和資源，讓他們的事情變得更簡單，特別是當他們考慮人工智能等新技術時。” 博客文章。

該公司指出，家長將能夠阻止與所有 Meta AI 角色的對話或針對特定角色。即使人工智能角色被禁用，該公司的人工智能助手仍可供青少年使用。

Meta 還強調了其最近宣布的針對青少年賬戶的 PG-13 方法，該公司將使用 PG-13 電影評級來指導青少年在其平台上默認觀看的內容。

該科技公司指出，人工智能角色的設計目的是不讓年輕用戶參與自殺、自殘或飲食失調的討論，並在必要時引導他們尋找資源。

據 Meta 稱，青少年只能與有限的角色就“教育、體育和愛好等適合年齡的話題進行互動，而不能與愛情或其他不適當的內容互動”。

今年早些時候，一份政策文件提出了一些例子，表明人工智能聊天機器人可以讓兒童參與“浪漫或感性”的對話，Meta 因此受到批評。

該公司當時表示，這些示例不正確，最終被刪除。

近幾個月來，人工智能聊天機器人全面面臨審查。加州一名青少年的家人於 8 月起訴 OpenAI，指控 ChatGPT 鼓勵他們的兒子自殺。

這位父親馬修·雷恩 (Matthew Raine) 是上個月在參議院委員會作證的幾位家長之一，他們稱人工智能聊天機器人導致他們的孩子殺人或自殘，並敦促立法者對這項新技術採取保障措施。

鑑於這些擔憂，加州州長加文·紐瑟姆（民主黨）本週早些時候簽署了一項法案，要求聊天機器人開發人員制定協議，以防止他們的模型與兒童討論自殺和自殘，並反复提醒他們不是在與人交談。

然而，州長否決了一項單獨的措施，該措施將禁止開發商向兒童提供其產品，除非他們能夠確保不會參與有關有害話題的討論。紐瑟姆表示，“廣泛的限制”將“無意中導致全面禁止”兒童使用聊天機器人。

來源連結