澳大利亞澳大利亞總理安東尼·阿爾巴尼斯(Anthony Albanese)在智能手機上的深層視頻

澳大利亞美聯社/阿拉米

通用的深擊探測器達到了最佳準確性,但是如果確定了幾種類型的視頻,操縱或完全產生的人工智能。技術可以幫助標記毫不掩飾的AI色情製品,欺詐和深層騙子的欺詐或選舉的視頻虛假信息。

廉價工具的廣泛可用性可創造出深泡沫,導致深層效果,導致不受控制的在線解散合成視頻。許多人在不同意的情況下描繪了色情製品中的女性 – 包括名人甚至女學生。 Deepfakes也被用來影響政治選舉,並改善針對普通消費者和公司領導人的財務欺詐。

但是,大多數人工智能模型(經過訓練用於檢測合成視頻)的模型都集中在面孔上,這意味著它們最有效地確定一種特定類型的深層攝影,其中真實人的面孔會更改為現有視頻。 “我們需要一個可以檢測視頻嵌入式視頻的模型,以及視頻操縱或完全生成的AI視頻。” Rochite Kundu 在加利福尼亞大學河濱分校。 “我們的模型準確地解決了這個問題 – 我們假設所有視頻都可以合成生成。”

Kundu和他的同事與AI一起教了他們的通用探測器,以控制視頻的幾個背景元素以及人們的人們。這可能會注意到深擊中的空間和臨時矛盾的微妙跡象。結果,他可以找到不一致的照明條件,以替換臉部的人為插入的人,以替換面部的差異,在背景中的差異,這些差異的詳細信息是完全生成的AI視頻的詳細信息,甚至在合成視頻中使用AI進行操縱的跡象,這些視頻中不包含任何不包含任何人。該探測器還指出了視頻遊戲中的現實場景,例如Grand Theft Auto V,不一定是AI生成的。

“大多數現有方法都用AI的圖像處理視頻,例如面部列表,嘴唇同步的視頻或面部重建,從一個圖像中恢復了面部。” Sive Liu 在紐約布法羅大學的大學。 “此方法具有更廣泛的應用程序範圍。”

通用探測器在確定四組測試視頻的過程中從95%到99%的精度,並參與了深度操縱的人的參與。這比所有其他發布的方法都更好,用於檢測這種類型的深冰。在監視完全合成的視頻時,他還比今天評估的任何其他檢測器都獲得了更準確的結果。研究人員 介紹了他們的工作 2025年,IEEE/計算機視覺和田納西州納什維爾的樣品的識別,6月15日。

一些Google研究人員還參與了新檢測器的開發。 Google沒有回答有關這種檢測方法是否可以幫助確定其平台(例如YouTube)上的深擊的問題。但是,該公司是支持水印工具的人之一,該工具促進了其AI系統生成的內容的識別。

將來也可以改善通用檢測器。例如,如果他能找到在空中視頻會議召喚中部署的深擊,這將是有用的,這是一些騙子已經開始使用的竅門。

“您如何了解另一端的一個人是真實的,或者是由深層因素產生的視頻,即使視頻通過網絡移動並影響網絡的特徵,例如可訪問的帶寬,也可以定義它嗎?”說話 阿米特·羅伊·丘里(Amit Roy-Chudhuri) 在加利福尼亞大學河濱分校。 “這是我們在實驗室中看到的另一個方向。”

主題:

來源連結