美國 37 個州對 Grok CSAM 做出反應，蘋果需要採取行動

至少 37 個美國州總檢察長正在對聊天機器人 Grok 創建兒童性虐待材料 (CSAM) 的持續問題做出回應。

在此之前，該應用程序已在兩個國家被禁止，並且英國和歐盟都已啟動調查，但蘋果和谷歌迄今為止都忽略了暫時從其應用程序商店中刪除 Grok 和 X 的請求……

Grock 的 CSAM 問題

如今，大多數人工智能聊天機器人都能夠根據文本提示生成圖像，xAI 的 Grok 也不例外。這可以直接在應用程序、網絡上或通過 X 完成。

然而，不同尋常的是，Grok 的圍欄極其鬆散。這導致它被用來製作未經同意的真實人物（包括兒童）的裸體圖像。據估計，短短 11 天內就創建了約 23,000 個 CSAM 圖像。

兩個國家已屏蔽該應用程序，英國和歐盟正在進行調查。

有線據報導，在大多數州和領地簽署公開信後，目前至少有 37 個美國州和領地呼籲該公司解決這一問題。

今年早些時候，人們使用其聊天機器人 Grok 創建一系列色情圖像後，至少 37 個美國州和領地總檢察長正在對 xAI 採取行動 (…) 除了這封信的 (35) 名簽署人之外，加利福尼亞州和佛羅里達州總檢察長告訴《連線》雜誌，他們也採取了行動。

這封信呼籲 xAI 採取六個步驟：

採取一切必要措施，確保 Grok 不再能夠製作未經同意的親密圖像（包括不涉及全裸或性行為描繪，而是描繪穿著比基尼、內衣、暴露的衣服或處於猥褻姿勢的人物的未經同意的圖像）和兒童性虐待材料；
消除已經創建的此類內容；
阻止創建這些材料的用戶；
在適用的情況下，向有關當局報告這些創建者和用戶；
讓 X 用戶控制 Grok 是否可以編輯其內容，至少包括能夠輕鬆阻止 @Grok 帳戶回復其帖子或應其他用戶的請求編輯其圖像；和
確保您最近宣布的安全措施不僅將 NCII 的創建置於付費牆後面，而且實際上減少了其在 X 和 Grok 平台中的生產。