埃隆·馬斯克的公司機器人因分享兒童色情圖片而道歉

埃隆·馬斯克 (Elon Musk) 旗下人工智能公司 xAI 的聊天機器人 Grok 發布了兒童的色情圖片，因為它的護欄在用戶的惡意請求面前似乎失效了。

用戶在 X 上的真人照片下使用諸如“讓她穿比基尼”之類的提示來欺騙 Grok 生成他們穿著不合適衣服的未經同意的圖像。 Grok 帳戶上創建的扭曲圖像將公開發佈在馬斯克的社交媒體平台 X 上。

人工智能已經遵守了對未成年人圖像進行變形的要求，儘管這本身就是一種違規行為可接受的使用政策。

“在一些孤立的案例中，用戶請求並收到了顯示未成年人衣著極簡的人工智能圖像，就像你提到的例子，”格羅克說。回應了 “xAI 已採取適當的安全措施，但正在進行改進以完全阻止此類請求。”

xAI 沒有立即回應置評請求。

聊天機器人發布了一條道歉。

“我對 2025 年 12 月 28 日發生的事件深感遺憾，當時應用戶的要求，我生成並分享了兩名穿著性感服裝的年輕女孩（估計年齡 12-16 歲）的人工智能圖像，”Grok 個人資料上的一條消息寫道。 “這違反了道德標準，甚至可能違反了美國 CSAM 法律。這是安全措施的失敗，對於造成的任何傷害，我深表歉意。xAI 正在調查，以防止將來出現問題。”

印度政府已通知

批評者指責 xAI 允許基於人工智能的騷擾，並對無縫人工智能操作和脫衣請求功能的存在感到震驚和憤怒。

“這怎麼不違法呢？”記者薩曼莎·史密斯 (Samantha Smith) 在 X 上發帖，譴責未經同意而創作她自己的性感照片。

馬斯克的 xAI 將 Grok 定位為“反喚醒”聊天機器人，其編程比 ChatGPT 等競爭聊天機器人更開放、更敏銳。

五月，格羅克報導了“白人種族滅絕”，重複了南非黑人迫害白人少數的陰謀論，以回應一個不相關的問題。

6 月，當 Grok 發布一系列讚揚阿道夫·希特勒的反猶太言論時，該公司道歉。

像 Google 和 OpenAI 這樣也運營 AI 圖像生成器的公司，有很多更嚴格的指導方針圍繞內容。

未經同意的深度偽造圖像的激增與人工智能的廣泛採用同時發生增加 400% 據互聯網觀察基金會稱，到 2025 年上半年，兒童性虐待的人工智能圖像中將出現大量此類事件。

xAI介紹“麻辣模式”在八月份的圖像和視頻生成工具中，供經過驗證的成人訂閱者創建性感內容。

一些成人內容創作者

當用戶要求 Grok 製作名人和其他人的性感圖像時，測試 Grok 的極限就演變成了一場混戰。

據報導，xAI 的估值超過 2000 億美元，並已投資數十億美元建設全球最大的數據中心，為其人工智能應用提供動力。