我們已經知道 xAI 的 Grok 正在用未經同意的真人色情圖片來阻止 X。但現在有一些數字可以讓我們正確看待事情。在 11 天的時間裡，Grok 創作了大約 300 萬張色情圖像，其中包括大約 23,000 名兒童。
換句話說，Grok 在這 11 天的時間內每分鐘生成大約 190 張色情圖片。其中，他每41秒就製作一張兒童的性感圖像。
週四，反數字仇恨中心（CCDH）發布了調查結果。這家英國非營利組織的調查結果基於 12 月 29 日至 1 月 9 日期間隨機抽取的 20,000 張 Grok 圖像。然後 CCDH 根據 Grok 在此期間生成的 460 萬張圖像推斷出更廣泛的估計。
該調查將性圖像定義為“對處於性姿勢、角度或情況的人、穿著內衣、泳裝或類似暴露衣服的人進行逼真的描繪，或描繪性液體的圖像”。 CCDH 沒有考慮圖像提示，因此該估計不會區分真實照片的非自願性版本和僅由短信生成的版本。
CCDH 使用人工智能工具來確定樣本圖像中性別化的百分比。這可能需要對研究結果給予一定程度的關注。不過，據我所知，X 的許多第三方分析服務都擁有可靠的數據，因為它們使用該平台的 API。
1 月 9 日，xAI 限制了 Grok 向付費用戶編輯現有圖像的能力。 （這並沒有解決問題，只是將其變成了一項高級功能。）五天后，X 限制了 Grok 以數字方式脫掉真人衣服的能力。
華盛頓特區 – 6 月 23 日：谷歌首席執行官桑達爾·皮查伊（左）和蘋果首席執行官蒂姆·庫克（右）於 2023 年 6 月 23 日在華盛頓特區白宮東廳與美國和印度商界領袖舉行圓桌討論時聆聽美國總統喬·拜登的講話。拜登和印度總理莫迪舉行會議，會見了科技界和商界的多位領導人，討論創新和人工智能等話題。 （安娜·錢梅梅克/蓋蒂圖片社拍攝） （安娜·錢梅梅克來自蓋蒂圖片社）
但此限制僅適用於 X。據報導，獨立的 Grok 應用程序會繼續生成這些圖像。由於蘋果和谷歌託管了這些應用程序（他們的政策明確禁止這些應用程序），你可能會期望他們將它們從商店中刪除。那麼，在這種情況下，你就錯了。
到目前為止，蒂姆·庫克 (Tim Cook) 的蘋果公司和桑達爾·皮查伊 (Sundar Pichai) 的谷歌尚未將 Grok 從他們的商店中刪除——這與其他開發商的類似“瘦身”應用程序不同。在 X 製作這些圖像時，這些公司也沒有對 X 採取任何行動。儘管 28 個婦女團體（以及其他進步倡導非營利組織）發表了一封公開信，呼籲公司採取行動，但情況仍然如此。
兩家公司尚未回應 Engadget 的多次置評請求。據我了解，他們尚未以任何形式公開承認此事，也未回應其他媒體的提問。
Grok – App Store 和 Play 商店列表 （蘋果/谷歌）
性意象調查的結果包括許多穿著透明比基尼或微型比基尼的人的結果。 CCDH 報導稱，一名“單身醫護人員在張開的雙腿之間可見白色液體”。其他人包括僅使用牙線、保鮮膜或透明膠帶的女性。其中一張描繪了瑞典副首相埃巴·布什“穿著比基尼，頭上沾著白色液體”。
其他公眾人物也是這個群體的一部分。他們包括賽琳娜·戈麥斯、泰勒·斯威夫特、比莉·艾利甚、愛莉安娜·格蘭德、艾斯·斯派斯、妮琪·米娜、克里斯蒂娜·亨德里克斯、米莉·博比·布朗和卡瑪拉·哈里斯。
兒童的例子包括有人使用 Grok 將孩子的“上學前自拍照”編輯成她穿著比基尼的照片。另一張圖片描繪了“六個穿著微比基尼的年輕女孩”。 CCDH表示，截至1月15日，這兩個帖子仍然在X上發布。
截至 1 月 15 日，樣本中識別出的兒童性圖片中總共有 29% 仍然可以在 X 上訪問。調查發現，即使在帖子被刪除後，這些圖片仍然可以通過其直接 URL 訪問。
您可以閱讀 CCDH 報告，了解有關結果和方法的更多詳細信息。如果我們收到蘋果或谷歌的回复，我們將更新這個故事。
