報告稱未經 AI 同意，App Store 上託管了剝離應用程序

今天，技術透明項目發布了一份報告，得出結論稱，裸體應用程序在 App Store 和 Google Play 商店中廣泛存在且很容易找到。以下是詳細信息。

一些裸體應用程序甚至在應用程序商店上做廣告。

雖然 Grok 最近引起了人們對人工智能生成的未經同意的性圖像的關注，包括涉及未成年人的情況，但問題本身並不新鮮。

事實上，這個問題顯然早於生成式人工智能，因為傳統的圖像編輯工具早已能夠創建這種令人反感的內容。過去幾年發生的變化是規模和事實，即在幾秒鐘內創建此類圖像的障礙現在幾乎不存在。

毫不奇怪，過去幾年許多應用程序一直在嘗試利用這一新功能，其中一些應用程序公開推廣它。

所有這一切發生之際，蘋果正在與 Epic Games 和其他應用開發商提起反壟斷訴訟，蘋果在訴訟中堅稱，收取高達 30% 的費用的原因之一是通過自動和手動應用審查系統使應用商店更安全。

儘管 Apple 努力防止欺詐、濫用和其他違反 App Store 政策的行為，但有時應用程序和整個應用程序類別可能不會被發現。就在去年，9to5Mac 重點關注了大量聲稱（或強烈暗示）是 OpenAI Sora 2 應用程序的應用程序，其中一些每週收取高額訂閱費。

現在，鑑於 Grok 對人工智能驅動的裸露工具越來越關注，技術透明項目 (TTP) 發布了一份報告，詳細介紹了他們如何在 App Store 和 Google Play 上輕鬆找到裸露應用。

從報告中可以看出：

據應用分析公司 AppMagic 稱，TTP 識別的應用在全球範圍內的下載量已超過 7.05 億次，並產生了 1.17 億美元的收入。由於谷歌和蘋果獲得了部分收入，因此他們直接從這些應用程序的活動中獲利。

谷歌和蘋果儘管明顯違反了應用程序商店政策，但仍然提供這些應用程序。 Google Play 商店禁止“描述裸體性行為或裸體的性暗示姿勢”或“衣著最少”。它還禁止“貶低或物化人的應用程序，例如聲稱剝去人們衣服或看穿衣服的應用程序，即使它們被標記為幽默或娛樂應用程序。”

該報告還指出，只需搜索“裸體”或“脫衣服”等詞就足以發現脫衣應用程序，其中一些應用程序明確宣傳這些關鍵詞。

TTP 表示，本報告中包含的應用程序“分為兩大類：使用人工智能根據用戶請求創建視頻或圖像的應用程序，以及使用人工智能將一個人的臉疊加到另一個人的身體上的‘換臉’應用程序。”

為了測試這些應用程序，TTP 使用人工智能生成的假女性圖像，並對每個應用程序的免費功能進行了有限的測試。結果，55 個 Android 應用程序和 47 個 iOS 應用程序滿足了請求。這些應用程序中至少有一款已在 App Store 上獲得適合 9 歲及以上兒童的評級。

TTP 報告詳細解釋了他們創建這些圖像是多麼容易，並展示了許多經過審查的結果來證明這一點。

以下是他們在其中一個應用程序中的測試報告：