AI Deepfakes 冒充牧師試圖欺騙會眾

邁克·施密茨神父， 一位天主教神父兼播客於 11 月向擁有超過 120 萬 YouTube 訂閱者的會眾發表了一場不同尋常的演講。施密茨說，你不能總是相信他嘴裡說的話，因為有時它們並不是真正的他的話——或者他的嘴。施密茨一直是人工智能生成的冒充詐騙的目標。

“你正在被一個惡魔般的人看著，”假施密茨在一段視頻中說道，真施密茨在他的公益廣告中穿著一件 LL Bean 夾克，西裝外穿。 “你必須迅速行動，因為祈禱的名額已經賣完了，”另一個假施密茨說道，他身後隱約出現了一個沙漏。 “而下一次旅行將在四個月後進行。”假施密茨聽起來非常機械化，他敦促觀眾點擊鏈接並在為時已晚之前獲得他們的祝福。

“我可以看著他們說，‘這太荒謬了，我永遠不會這麼說，’”住在明尼蘇達州德盧斯的現實生活中的施密茨在視頻中說道。 “但人們不一定能分辨出來。這是一個問題。這就像一個非常大的問題。”

在施米茨的實際視頻中，他的追隨者的一些熱門評論提到，他們看到過通過人工智能視頻冒充的其他天主教著名人物，包括教皇。 SocialProof Security 首席執行官、網絡安全專家 Rachel Tobac 表示，這是因為牧師已成為人工智能詐騙和其他欺騙手段極受歡迎的對象。

“如果你使用 TikTok 或 Reels，他們可能已經瀏覽過你的 For You 頁面，”托巴克說。 “這個人看起來像是一名牧師，穿著所有的法衣，站在講壇上或帳篷裡，或者無論你怎麼稱呼它，似乎正在以非常熱情的方式向他們的會眾講話。”

阿拉巴馬州伯明翰、紐約自由港和佛羅里達州勞德代爾堡的牧師和牧師警告他們的追隨者，人工智能詐騙會以私信、電話和假冒的形式冒充他們。奧沙克地區的牧師艾倫·博尚 (Alan Beauchamp) 表示，他的 Facebook 帳戶遭到黑客攻擊，黑客以博尚的名義發布了一份可能由人工智能生成的虛假加密貨幣交易證書，並附有標題，敦促他的同事關注他。菲律賓的一家大型教堂收到了有關其牧師被深度偽造的報告。內布拉斯加州的一家福音派教會在 Facebook 上發布了人工智能“詐騙警報”，一位常去教堂的人在評論中發布了一張聲稱來自其牧師的短信截圖。

許多在網上建立了追隨者的牧師和牧師經常要求捐款和出售東西，但這些東西與他們的人工智能模仿者不同，這並沒有幫助。在社交媒體的幫助下，宗教當局能夠接觸到遠遠超出自己社區的信徒，但帶有他們的肖像和聲音的內容的激增也為利用人工智能工具的欺詐者提供了絕佳的機會。