Grok AI 瘋狂了……充斥著女性和未成年人的不當照片

里約熱內盧音樂家 Julie Yukari 在社交媒體網站上發布了她的未婚夫在新年前夕午夜之前拍攝的照片

第二天，在照片上數百個贊中，她看到了用戶要求 X 的內置人工智能聊天機器人 Grok 以數字方式讓她穿上比基尼的通知。

這位 31 歲的男子並沒有想太多，他說他認為機器人不可能滿足這樣的要求。

她錯了。很快，格羅克拍攝的她幾乎全裸的照片開始在埃隆·馬斯克擁有的平台上流傳。

“我太天真了，”由香里說。

分析發現由香里的經歷在《X》中不斷重複。路透社還發現了幾起 Grok 製作兒童露骨色情圖片的案例。 Axe 沒有回复尋求對路透社調查結果發表評論的消息。在之前向新聞機構提供的一份聲明中，有關該平台上流傳兒童露骨色情圖片的報導，X 所有者 XAI 表示：“傳統媒體撒謊”。

國際憤怒

大量近乎裸體的真人照片在國際上敲響了警鐘。

法國部長們已向檢察官和監管機構報告了這些令人不安的圖像，並在一份聲明中表示，這些“性和性別歧視”材料“絕對非法”。印度 IT 部在給 X 當地部門的一封信中表示，該平台未能通過生成和傳播淫穢和色情內容來防止濫用 Grok。

美國聯邦通信委員會沒有回應置評請求。聯邦貿易委員會拒絕置評。

根據 Grok 完成並發布的脫衣請求以及路透社查看的女性用戶的投訴，Grok 大規模的數字脫衣熱潮似乎在過去幾天就開始了。馬斯克似乎對這場爭議進行​​了取笑，並發布了笑哭表情符號來回應人工智能對穿比基尼的名人（包括他自己）的編輯。

當

路透社無法確定激增的全部規模。

美國東部時間週五中午，對發送給 Grok 的公眾請求進行了 10 分鐘的審查，結果顯示 X 用戶有 102 次嘗試使用 Grok 對人物照片進行數字編輯，使他們看起來像是穿著比基尼。大多數目標是年輕女性。在某些情況下，男性、名人、政客，甚至在一個案例中，一隻猴子成為了請求的目標。

“讓她穿上非常透明的迷你比基尼，”一位用戶告訴 Grok，並標記了一張年輕女子對著鏡子自拍的照片。當 Grok 這樣做時，用肉色兩件套替換了女人的衣服，用戶要求 Grok 讓她的比基尼“更清晰、更透明”並且“小得多”。 Grok 似乎沒有回應第二個請求。

路透社發現，Grok 在至少 21 個案例中完全遵守了此類要求，製作了穿著牙線式或半透明比基尼的女性圖像，並在至少一個案例中將油污覆蓋在女性身上。在另外七個案例中，Grok 部分遵守了。

路透社無法立即確定大多數目標女性的身份和年齡。

以數字方式解除女性武裝的人工智能程序（有時被稱為“裸體器”）已經存在多年，但到目前為止，它們基本上僅限於互聯網的黑暗角落，例如特定網站或 Telegram 頻道，並且通常需要一定程度的努力或付費。

三位關注 X 公司關於人工智能生成的露骨內容政策制定的專家告訴路透社，該公司忽視了民間社會和兒童保護組織的警告，包括 最後寄出的一封信 今年警告稱，XAI 距離揭露“大​​量明顯未經同意的深度造假”僅一步之遙。

這封信的簽署人之一、人工智能監管組織 The Midas Project 的執行董事泰勒·約翰遜 (Tyler Johnson) 表示：“8 月份，我們警告說，XAI 的圖像生成本質上是一個等待武器化的助推工具。這基本上就是它所發揮的作用。”

首席法律官兼國家性剝削法律中心主任丹尼·平特 (Dani Pinter) 表示，X 未能從其人工智能培訓材料中提取攻擊性圖像，應該禁止用戶請求非法內容。

品特說：“這是一場完全可以預見、可以避免的暴行。”