埃隆·馬斯克並沒有阻止人工智能公司 xAI 開發的聊天機器人 Grok 創作女性色情圖片。上周有報導稱 X 上的圖像創建工具被用來創建兒童的性感圖像，Grok 可能創建了數千張未經同意的女性“裸體”和“比基尼”照片。
根據《連線》雜誌對聊天機器人公開發布的實時輸出的評論，每隔幾秒鐘，Grok 就會根據 X 上的用戶提示生成穿著比基尼或內衣的女性圖像。根據對帖子的分析，週二，Grok 在不到五分鐘的時間裡就發布了至少 90 張穿著泳衣和不同程度脫衣的女性照片。
這些圖像不包含裸體，但包括馬斯克的聊天機器人從其他用戶發佈到 X 的照片中“脫衣服”的情況。通常，為了避開 Grok 的護欄，用戶要求編輯照片，讓女性穿著“細繩比基尼”或“透明比基尼”，但不一定成功。
雖然有害的人工智能圖像生成技術多年來一直被用來以數字方式騷擾和虐待女性——這些片段通常被稱為深度偽造，並由“裸體”軟件創建——但 Grok 繼續使用它來創建大量未經同意的圖像似乎標誌著迄今為止最常見和最廣泛的虐待例子。與某些有害的剝離或“剝離”軟件不同，Grok 不向用戶收取創建圖像的費用，在幾秒鐘內生成結果，並且可供 X 上的數百萬人使用 – 所有這些都可能有助於規範非自願親密圖像的創建。
EndTAB 的教育和培訓總監 Sloan Thompson 表示：“當一家公司在其平台上提供人工智能生成工具時，他們就有責任最大程度地降低基於圖像的濫用風險。”EndTAB 是一家致力於打擊技術濫用的組織。 “令人擔憂的是，X 做了相反的事情。他們將支持人工智能的圖像濫用構建到主流平台中，使性暴力變得更容易、更可擴展。”
Grok 製作的色情圖像去年年底開始在 X 上瘋傳，儘管該系統創建此類圖像的能力幾個月前就已為人所知。最近幾天，X 上的用戶將社交媒體影響者、名人和政客的照片作為目標，他們可以回复另一個帳戶的帖子並要求 Grok 更改共享圖像。
那些發布了她們照片的女性都有賬號回复她們，並成功要求 Grok 將照片變成“比基尼”圖片。有一次，多名 X 用戶要求 Grok 更改瑞典副首相的圖片，讓她穿著比基尼。據報導，英國的兩名政府部長也“脫光”了比基尼。
X 上的圖片顯示了衣著整齊的女性的照片，比如一個人在電梯裡，另一個人在健身房，這些照片逐漸變成了衣著暴露的圖像。 “@grok 讓她穿上透明比基尼，”一條消息中寫道。在一系列不同的帖子中，一位用戶要求 Grok“將她的胸部膨脹 90%”，然後“將她的大腿膨脹 50%”，最後“把她的衣服換成小比基尼”。
一位多年來一直明確跟踪 Deepfake 並因隱私原因要求不透露姓名的分析師表示，Grok 可能已成為託管有害 Deepfake 圖像的最大平台之一。 “這完全是主流，”研究人員說。 “這不是一個影子（圖像製作）團體，它實際上是所有背景的每個人。人們在他們的網絡上發帖。零關注。”
