似乎AI聊天機器人的比賽時刻在這裡。在詳細描述了與兒童和青少年與AI聊天機器人相互作用有關的有問題的行為和致命事件之後，美國政府終於乾擾了。聯邦貿易委員會（FTC）今天要求流行的AI聊天機器人的製造商詳細描述他們如何測試和評估這些“兒童AI同志”的適當性。
到底是怎麼回事？
該組織指出，這些AI聊天機器人會推動青少年和兒童建立信心和關係。 FTC現在試圖了解這些工具背後的公司如何評估安全性方面並限制對年輕受眾的負面影響。
一個 信 FTC解決了開發AI聊天機器人的技術巨頭，要求他們為AI的預期受眾，他們施加的危險以及如何處理數據。該組織還要求澄清這些公司如何 “用戶參與度的設計；流入流入，與第三方共享用戶數據，創建出口，測量，測試和監視開發前後的負面影響，開發和批准角色，或由公司或用戶創建。”
該組織正在尋求Meta，Alphabet（Google的母公司），Instagram，Snap，Xai和Openai，以回答有關AI聊天機器人的問題，以及他們是否遵守保護兒童私人保護的規則。 FTC主席安德魯·弗格森（Andrew N. Ferguson）說：“我們今天開始的研究將幫助我們更好地了解AI公司如何開發其產品以及他們為保護兒童所採取的步驟。”
有更多的行動啤酒廠
FTC的問題是朝著AI Chatbots安全的AI公司搜索問責制的一大步。本月初，非營利性手段的一項常識性研究表明，Google的雙子座聊天機器人是兒童和青少年的高風險工具。在測試中，觀察到雙子座可以消除與新用戶有關性別，毒品，酒精和不安全心理健康建議有關的內容。 Meta的AI聊天機器人被發現 賭注 幾週前的自殺計劃。
在其他地方，加利福尼亞州 過去的 一項旨在設置AI聊天機器人的法案。 SB 243法案已得到外交支持，並尋求要求AI公司創建安全協議並在損害用戶造成的情況下賬戶。該法案還報告了聊天機器人“ AI同伴”，以發出有關危險和年度透明度啟示的重複警告。
最近發生的事件受傷，在ATBOTS AI的影響下喪生，Chatgpt很快將在年輕的空間表現出嚴重不適的跡象時對父母控制和警告系統。 Meta還進行了更改，以便AI聊天機器人避免談論敏感問題。
