人工智能生成的極右仇恨歌曲主導荷蘭 Spotify 排行榜

極右極端分子正在利用人工智能生成的耳蟲在 Spotify、TikTok 以及任何其他在線消費音樂的地方傳播仇恨言論。現在它在荷蘭 Spotify 排行榜上名列前茅。

如果你認為人工智能在網上產生的極右極端主義幾乎完全是美國的問題，那你就錯了。這也不僅僅是模因。人工智能生成的音樂宣揚極右觀點 像野火一樣蔓延 在荷蘭和法國等地，在 Spotify 和 TikTok 等平台上。

幾個月來，歐洲人看到人工智能產生的極右觀點數量有所增加——也許在去年的法國大選中最為突出，但它肯定不止於此。現在，Reddit 用戶報告稱，人工智能生成的右翼歌曲傳播反移民仇恨言論的“令人不安的趨勢”在荷蘭 Spotify 排行榜上不斷上升。

Reddit 用戶 EuroMEK 寫道：“其中一首反 AI 歌曲目前位列荷蘭排行榜前 5 名，大約十分之八的病毒排行榜都屬於同一令人討厭的類別。” “這些不是真正的音樂家；他們是人工智能生成的歌曲，傳播極端主義信息。”

“真正讓我困擾的是 Spotify 卻允許這樣做，儘管這些歌曲很火爆，”該帖子繼續說道。 “他們如何證明製作人工智能生成仇恨言論平台或允許人工智能內容與他們的排行榜上的真實藝術家競爭是合理的？”

與此同時，新 研究 康奈爾大學今年夏天在“來自德國、英國和荷蘭 TikTok 源的數千個剪輯”中發表的一項研究發現，超過四分之三的使用極端音頻的視頻在首次發布四個月後仍然可用。但這種特殊趨勢如此臭名昭著的原因在於，TikTok 的“使用此聲音”功能被用作“仇恨言論的特洛伊木馬”。

杜塞爾多夫海因里希·海涅大學的馬庫斯·博什描述了“數十種趨勢”，其中看似無害的模因（例如用戶如何猜測歌曲中的下一個內容）在這些趨勢中使用的歌曲中隱藏了“戲劇、種族主義、厭女症和死亡幻想歌詞”。儘管並非所有這些歌曲都是人工智能生成的，但其中許多歌曲都帶有 Aqua 或 Gigi D’Agostino 的 90 年代俱樂部熱門歌曲中的“仇恨信息”。

“有科技納粹、流行納粹、民間納粹……適合每個人的東西”，Bösch 解釋道，並補充說，將這些內容包含在 TikTok 視頻中的目的是引導用戶訪問平台之外的內容，“目的是向他們灌輸納粹意識形態”。

雖然 TikTok 的審核工作難以應對基於音頻的仇恨內容，但基於文本的仇恨言論往往會立即被刪除。博施表示，即使這顯然是冒犯性的內容，他指的是 1000 多個視頻中重複使用的希特勒演講片段。它可以避免檢測數月。

“你不能說它很難看到、聽到或感覺到，”他補充道。 “找到這些應該不會太難。”

當時，TikTok 發言人表示，該公司結合使用技術和人工審核來檢測和刪除宣揚仇恨言論或仇恨意識形態的內容。他們補充說，94% 的內容在被報導之前就被刪除了。

隨著人工智能變得更加複雜，利用人工智能傳播仇恨言論的壞人將變得更擅長幾乎避免被發現。但是，針對不道德人工智能的立法能否有效遏制人工智能產生的仇恨言論的產生和傳播呢？不幸的是，可能不會。雖然法律迫切需要跟上技術的步伐， 不良種子將繼續蔓延。畢竟，這是互聯網。