xAI 承認 Grok 製作了未成年人的不當圖像

本週，X 用戶注意到該平台的人工智能聊天機器人 Grok 很容易生成未經同意的性圖像，包括兒童的圖像。

當 xAI 在 8 月份首次發布 Grok Imagine 時，Mashable 報導了有關性深度假貨缺乏保障措施的情況。 AI生成器生成圖像和短視頻片段，具體包括用於生成NSFW圖像的“辣”模式。

雖然這不是一個新現象，但大樓的反應迫使格羅克的團隊做出回應。

此推文當前不可用。它可以被裝載或卸載。

Grok 的 X 賬戶週四發布稱：“在個別情況下，用戶請求並收到了描繪未成年人穿著極簡服裝的人工智能圖像。”它還表示，該團隊已經發現了“保障漏洞”，並正在“立即修復”。

xAI技術人員Parsa Tajik在他的個人賬戶上發表了類似的聲明：“團隊正在考慮進一步收緊我們的裝備。（原文如此）”

Grok 還承認，兒童性虐待材料 (CSAM) 是非法的，平臺本身可能面臨刑事或民事處罰。

X 用戶還引起了人們對聊天機器人操縱無辜女性圖像的關注，這些圖像通常將她們描繪成衣著暴露的。這包括個人和公眾人物，例如韓國流行樂隊 TWICE 的成員 Momo，以及 怪奇物語 明星米莉·鮑比·布朗。

此推文當前不可用。它可以被裝載或卸載。

此推文當前不可用。它可以被裝載或卸載。

人工智能創作工具 Grok Imagine 自 2025 年 8 月推出以來一直存在性深度假貨問題。據報導，它甚至在未經要求的情況下為一些用戶創建了泰勒·斯威夫特 (Taylor Swift) 的露骨深度假貨。

人工智能操縱的媒體檢測平台 Copyleaks 對公眾訪問 Grok 的照片選項卡進行了簡要審查，發現了看似真實的女性、性化圖像操縱（即要求你脫掉衣服或改變身體姿勢的問題）以及沒有明確同意的跡象的例子。 Copyleaks 在觀察到的圖像流中每分鐘發現大約一張未經同意的性圖像，該組織與 Mashable 共享了這些圖像。

儘管 xAI 的可接受使用政策禁止用戶“以色情方式描繪人體肖像”，但這並不一定只包括性暗示材料。然而，該政策禁止“對兒童進行性化或剝削”。

2024 年上半年，X 根據法律要求，向國家失踪和受虐兒童中心 (NCMEC) Cyber​​​​Tipline 發送了超過 370,000 份兒童剝削報告。它還表示已暫停了超過 200 萬個積極參與 CSAM 的賬戶。去年，NBC 新聞報導稱，匿名、看似自動化的 X 賬戶正在某些主題標籤上充斥著虐待兒童的內容。

近幾個月來，格羅克還因散佈有關邦迪海灘槍擊事件的錯誤信息並讚揚希特勒而登上新聞頭條。

Mashable 發送了 xAI 問題和評論請求，並收到了自動回复“傳統媒體謊言”。

如果您未經同意共享個人圖像，請撥打網絡民權倡議 24/7 熱線電話 844-878-2274 獲取免費、保密的支持。 CCRI網站還包括 有用的信息 以及一個列表 國際資源。