Home 資訊 Deepfake“Nudify”技術變得更黑暗,也更危險

Deepfake“Nudify”技術變得更黑暗,也更危險

5

打開網站 將出現一個清晰的 Deepfake 生成器和一個恐怖菜單。只需點擊幾下,您就可以將照片變成八秒的視頻剪輯,向女性介紹真實的性愛場景。 “利用我們先進的人工智能技術,將任何照片變成裸體版本,”網站上寫道。

潛在濫用的選擇很廣泛。該網站上的 65 個“標準”視頻中有一系列“脫衣”視頻,其中所描繪的女性脫掉衣服,但也有一些名為“機器深喉”的露骨視頻場景和各種“暨”視頻。每個視頻的製作都需要支付少量費用。添加人工智能生成的音頻成本更高。

《連線》雜誌沒有為該網站命名,以限制進一步曝光,但該網站警告稱,人們只能上傳他們同意用人工智能變形的照片。目前尚不清楚是否有任何控制措施來強制執行這一點。

埃隆·馬斯克 (Elon Musk) 公司創建的聊天機器人 Grok 已被用來創建數千張未經同意的比基尼“脫衣”或“裸體”圖像,進一步推動數字性騷擾過程的工業化和正常化。但這只是最明顯的——而且遠不是最清晰的。多年來,包括數十個網站、機器人和應用程序在內的 Deepfake 生態系統一直在不斷發展,使得基於圖像的性虐待自動化變得比以往任何時候都容易,包括創建兒童性虐待材料 (CSAM)。這種“剝離”的生態系統及其對婦女和女孩造成的損害可能比許多人意識到的更加複雜。

“它不再是一種非常原始的複​​合薄膜,”深度造假專家亨利·阿傑德(Henry Ajder)說,他已經跟踪這項技術超過五年了。 “我們談論的是實際創建的內容的真實度更高,而且功能範圍也更廣泛。”這些服務加起來每年可能產生數百萬美元的收入。 “這是一種社會禍害,也是我們所看到的人工智能革命和合成媒體革命中最糟糕、最黑暗的部分之一,”他說。

在過去的一年裡,《連線》雜誌觀察到一些明顯的 Deepfake 服務引入了新功能,並迅速擴展到提供惡意視頻創作。圖像到視頻模型通常只需要一張照片即可創建短片。 《連線》雜誌對 50 多個“深度造假”網站進行了審查,這些網站每月的瀏覽量可能高達數百萬次,結果顯示幾乎所有網站現在都提供清晰、高質量的視頻製作,並且經常列出數十種可以描繪女性的性場景。

與此同時,在 Telegram 上,數十個性 Deepfake 頻道和機器人定期發布新功能和軟件更新,例如不同的性姿勢和姿勢。例如,去年六月,一個 Deepfake 服務推廣了一種“性愛模式”,並在廣告中附上這樣的信息:“嘗試不同的衣服、你最喜歡的姿勢、年齡和其他設置”。另一位帖子稱,“更多風格”的圖像和視頻即將推出,用戶可以使用人工智能係統中的自定義提示“用自己的描述準確地創建你所設想的內容”。

“這不僅僅是‘你想脫掉某人的衣服’。就像,“這是他的所有不同的虛構版本。 ”就是姿勢不同。這是不同的性態度。”獨立分析師聖地亞哥·拉卡托斯(Santiago Lakatos)說道,他與 Indicator media 一起調查了“剝離”服務如何經常使用大型科技公司的基礎設施,並可能在此過程中賺了很多錢。 “有些版本可以讓某人(看起來)懷孕,”拉卡托斯說。

《連線》雜誌的一項評估發現,超過 140 萬個賬戶登錄了 Telegram 上的 39 個機器人和深度偽造頻道。在《連線》向 Telegram 詢問有關服務的情況後,該公司刪除了至少 32 個深度造假工具。 Telegram 的一位發言人表示:“Telegram 的服務條款嚴格禁止未經同意的色情內容,包括深度偽造內容以及用於創建這些內容的工具。”他補充說,Telegram 會在檢測到內容時刪除內容,並在去年刪除了 4400 萬條違反其政策的內容。

來源連結

LEAVE A REPLY

Please enter your comment!
Please enter your name here