報告：Grok 不顧護欄製作數百萬張色情圖片

隨著社交網絡平台和人工智能初創公司 xAI 面臨對聊天機器人安全護欄的持續調查，Grok 的 Deepfake 問題的真實程度變得越來越清晰。

根據打擊數字仇恨中心 (CCDH) 的一份報告和一項聯合調查 紐約時報在 12 月 29 日至 1 月 8 日的 11 天內，Grok 能夠製作出約 300 萬張色情圖片，其中包括 23,000 張似乎描繪兒童的圖片，據稱 xAI 因“脫光”深度假貨而進行打擊。 CCDH 審查了 Grok 的一鍵編輯工具（該工具仍然可供 X 用戶使用）的回复樣本，並估計超過一半的聊天機器人回复包含性內容。

這 紐約時報 報告發現，Grok 的 440 萬張圖片中約有 180 萬張涉及性內容，其中一些描繪的是知名影響者和名人。該出版物還指出，繼 CEO 埃隆·馬斯克 (Elon Musk) 公開發布自己穿著由 Grok 設計的比基尼後，Grok 的使用量激增。

CCDH 首席執行官伊姆蘭·艾哈邁德 (Imran Ahmed) 對該出版物表示：“這是工業規模的對婦女和女童的虐待。” “已經有剝離工具，但它們從未像埃隆·馬斯克（Elon Musk）和 Grock 那樣具有分佈性、易用性或集成到大型平台中。”

在有報導稱 X 聊天機器人製作了衣著暴露的未成年人的圖像後，Grok 因製作兒童性虐待材料 (CSAM) 而受到批評。該平台承認了這個問題，並表示正在緊急修復“安全漏洞”。

Grok 的母公司 xAI 正在接受多個外國政府和加利福尼亞州的調查，因為該公司在創造性化或“訓練有素”的假個人和未成年人方面發揮了作用。隨著調查的繼續，一些國家甚至暫時禁止了該平台。

1 月 14 日，xAI 表示，它正在阻止 Grok 編輯用戶上傳的真人照片以展示暴露的服裝，這是用戶本月早些時候指出的最初問題。然而，最近的報導稱 監護人 發現 Grok 應用程序的用戶仍然能夠製作經過人工智能編輯、比基尼編輯的真實女性圖像，然後將其上傳到網站。

此推文當前不可用。它可以被裝載或卸載。

在 8 月份的一份報告中，Mashable 編輯 Timothy Beck Werth 指出了 Grok 報導的安全措施存在的問題，包括 Grok Imagine 很容易製作真人的性暗示圖像和視頻。 Grok Imagine 包括旨在阻止某些提示和響應的審核設置和保護措施，但馬斯克還稱讚 Grok 是唯一包含色情內容“辣味”設置的主流聊天機器人之一。 OpenAI 還在訴​​訟中戲弄了 NSFW 設置，聲稱其 ChatGPT 產品對用戶不安全。

在線安全監管機構長期以來一直警告公眾，基因人工智能在越來越多的合成生成的 CSAM 以及未經同意的個人圖像 (NCII) 中所扮演的角色，在 2025 年《Take It Down Act》中提到。根據新的美國法律，在線出版商必須遵守刪除未經同意的深度假貨的要求，否則將面臨處罰。

互聯網觀察基金會 (IWF) 2024 年的一份報告發現，人工智能創作工具與暗網上越來越多的 CSAM 直接相關，這些內容主要描繪年輕女孩的性場景或對真實的色情內容進行數字化修改以包含兒童的肖像。人工智能工具和“剝離”應用程序與人工智能網絡欺凌和性虐待的增加有關。

更新：2026 年 1 月 22 日下午 3:33 該報導已更新，包含有關報告時間和審判日期的更多詳細信息。