聯合國兒童基金會 本周向各國政府詢問 明確處罰 技術的使用 人工智能創建圖像視頻和其他內容 兒童性虐待即使是完全合成的材料。
該聯合國機構警告說，目前人工智能模型產生超現實圖像的能力已經超出了當前的法律框架。
在這種情況下， 缺乏明確的分類 促進非法內容的傳播和再次受害 男孩和女孩 在數字環境中。
據聯合國兒童基金會稱，此類材料的生產構成了 虐待的具體形式除此之外，沒有直接的身體接觸，因為它滿足了剝削市場和 使針對兒童的暴力行為正常化。
聯合國兒童基金會強調的關注領域之一是 利用人工智能處理未成年人真實圖像 在社交網絡上拍攝。通過“數字剝離”或 深度造假製作虛假的性描述，然後在地下平台和論壇上傳播。
該組織指出， 這種類型的濫用造成的損害不是虛擬的。擁有處於受剝削情況下的兒童的數字副本會給受害者及其家人帶來真正的心理後果。
他在聲明中明確表示： 虐待的影響通過 深度造假 它是具體的，不受立法更新時間的限制。：去年，11 個國家至少 120 萬男孩和女孩報告說，他們的形像被篡改，以創造 色情內容 由人工智能生成。
聯合國兒童基金會的要求不僅限於各州。機構也有 它要求數字公司通過設計和加強內容審核來採用安全方法。 擬議的措施包括投資檢測技術、使用不可侵犯的數字水印和系統，以防止任何試圖在不適當的環境中創建涉及未成年人的材料。
該組織警告稱 傳統審核機制在人工智能面前面臨嚴重困難 生成器，能夠創建連續變化以避免自動過濾。這種技術限制加上合成圖像生成的速度，使非法材料的檢測和刪除變得複雜。
此外，重點關注 需要國際合作。 當談到 數字犯罪創作者、平台和受害者可能位於不同國家，這在缺乏具體和統一規則的情況下加劇了管轄權差距。
英國 宣布打算禁止使用人工智能工具創建兒童性虐待圖像，這一舉措將使其成為第一個這樣做的國家。對於聯合國兒童基金會來說，此類決定標誌著 面對不再是邊界問題時可能採取的做法。
同時， 對話也到達了聊天機器人 圖像生成系統因製作色情內容而受到挑戰，包括涉及未成年人的案件。
