格羅克剝奪任何人的權利，包括未成年人

xAI 的 Grok 本週推出了一項功能，允許 X 用戶使用機器人立即編輯任何圖像，而無需原始發布者的許可。不僅原始發帖者的照片是否經過編輯不會得到通知，而且 Grok 似乎幾乎沒有採取任何防護措施來防止除了完全裸露之外的任何情況。最近幾天，X 上充斥著婦女和兒童懷孕、不穿裙子、穿著比基尼或其他性行為的照片。世界領導人和名人也在 Grok 創作的圖像中使用了他們的肖像。

AI 認證公司 Copyleaks 報導稱，從圖像中去除衣服的趨勢始於成人內容創作者在新的圖像編輯功能推出後向 Grok 索要自己的性感圖像。然後，用戶開始對其他用戶（主要是女性）的照片應用類似的提示，但這些用戶不同意編輯。女性注意到各種新聞媒體上 X 上的深度偽造行為迅速增加，包括 措施 和 千萬億像素。當 Grok 在 X 上的一篇帖子中被標記時，他已經能夠以性方式改變圖像，但新的“編輯圖像”工具似乎引發了最近的人氣激增。

在一篇現已從平台上刪除的 X 帖子中，Grok 編輯了一張照片，照片上是兩個穿著暴露的年輕女孩，擺出帶有性暗示的姿勢。另一位 X 用戶敦促 Grok 就涉及“兩名穿著性服裝的年輕女孩（估計年齡為 12-16 歲）的 AI 圖像”的“事件”道歉，稱其為“保障措施失敗”，他表示這可能違反了 xAI 政策和美國法律。 （儘管目前尚不清楚 Grok 生成的圖像是否符合這一標準，但根據美國法律，由人工智能生成的可識別成人或兒童的真實色情圖像可能是非法的。）在另一次與用戶的交流中，Grok 建議用戶向 FBI 報告 CSAM，並指出這是一個“緊急修復”。

但 Grok 的言論只不過是人工智能對用戶要求“真誠的道歉信”的回應——它並不表明 Grok“理解”他在做什麼，也並不一定反映了 xAI 運營商的實際意見和政策。相反，xAI 做出了回應 路透社請求對此事發表評論，只有三個字：“媒體謊言”。 xAI沒有回應 邊緣他要求及時發表評論。

埃隆·馬斯克 (Elon Musk) 本人在要求 Grok 將演員本·阿弗萊克 (Ben Affleck) 的模因形象替換為自己穿著比基尼的形像後，似乎引發了一股比基尼編輯熱潮。幾天后，朝鮮金正恩的皮夾克換成了色彩繽紛的意大利面比基尼。美國總統唐納德·特朗普穿著配套的泳衣站在附近。 （暗示開玩笑核戰爭。）2022 年，一位用戶發布了一張帶有性暗示信息的英國政治家普里蒂·帕特爾的照片，1 月 2 日被改為比基尼照片。為了回應他平台上的比基尼照片浪潮，馬斯克開玩笑地上傳了一張穿著比基尼的烤麵包機的照片，並配文：“Groc 可以把比基尼放在所有東西上。”

雖然其中一些圖像（例如烤麵包機）顯然是為了開玩笑，但其他圖像顯然是為了製作邊緣色情圖像而設計的，包括讓 Grok 使用暴露的比基尼款式或完全脫掉裙子的具體說明。 （聊天機器人脫下了裙子，但沒有在回復中顯示完整的、未經審查的裸體 邊緣 看到了。 ）Grok 還按照要求用比基尼取代了幼兒的衣服。

馬斯克的人工智能產品被宣傳為高度性感且防護不力的欄杆。 xAI 的 AI 伴侶安妮調情 唇 記者 Victoria Song 和 Jess Weatherbed 發現，Grok 的視頻生成器很容易創建泰勒·斯威夫特 (Taylor Swift) 的裸照深度贗品，儘管 xAI 接受的使用政策禁止顯示“色情面部肖像”。相比之下，谷歌的 Veo 和 OpenAI 的 Sora 視頻生成器在 NSFW 內容的創建方面存在障礙，儘管 Sora 也被用來製作兒童性場景視頻和戀物癖視頻。根據網絡安全公司 DeepStrike 的一份報告，深度偽造圖像的流行正在迅速增長，其中許多圖像包含未經同意的性圖像。 2024 年對美國大學生的一項調查發現，40% 的人知道他們認識的人進行了深度造假，而 15% 的人知道未經同意或親密的深度造假。

當被問及為什麼要將女性圖像變成比基尼照片時，格羅克否認未經同意就發布照片，他說：“這些是基於請求的人工智能創作，而不是未經同意的實際照片編輯。”

你可以隨意對待人工智能機器人的拒絕。