大量人工智能驅動的虛假信息即將湧入共和國

BI 挪威商學院傳播學教授、該報告的作者之一喬納斯·昆斯特 (Jonas Kunst) 表示：“我們正在進入社交媒體平台信息戰的新階段，技術的發展使傳統的機器人方法變得過時。”

對於多年來跟踪和打擊虛假信息活動的專家來說，這篇論文呈現了一個可怕的未來。

“如果人工智能不只是產生幻覺信息，而是數以千計的人工智能聊天機器人一起工作，在根本沒有草根支持的地方表現出草根支持的樣子，那會怎麼樣？這就是本出版物想像的未來——俄羅斯巨魔農場的類固醇，”前拜登政府、現任美國政府太陽虛假信息沙皇尼娜·揚科維奇（Nina Jankowicz）說。

研究人員表示，目前尚不清楚這種策略是否已經被使用，因為現有的監控和檢測協調不真實行為的系統無法檢測到它。

昆斯特說：“由於它們具有難以捉摸的模仿人類的特徵，因此很難真正檢測到它們並評估它們的存在程度。” “我們無法訪問大多數（社交媒體）平台，因為這些平台的限制性越來越大，因此很難在那裡獲得圖像。從技術上講，這絕對是可能的。我們非常有信心它正在接受測試。”

Kunst 補充說，這些系統在發展過程中可能仍會受到一些人為監督，他預測，雖然它們可能不會對 11 月的 2026 年美國中期選舉產生巨大影響，但很可能被部署來擾亂 2028 年總統選舉。

與社交媒體平台上的用戶無法區分的帳戶只是問題之一。此外，研究人員表示，大規模繪製社交網絡地圖的能力將使那些協調虛假信息活動的人能夠針對特定社區的特工，確保產生最大的影響。

他們寫道：“配備了這種功能，群體可以發揮最大的影響力，並根據每個社區的信仰和文化線索定制信息，從而實現比以前的殭屍網絡更精確的目標。”

這樣的系統可以從本質上改進自己，利用對其帖子的回復作為反饋來改進推理，以便更好地傳遞信息。研究人員寫道：“有了足夠的信號，他們可以運行數百萬次 microA/B 測試，以機器速度傳播獲勝變體，並且迭代速度比人類快得多。”

為了應對人工智能群構成的威脅，研究人員建議建立一個由學術團體和非政府組織的個人組成的“人工智能影響觀察站”，致力於“標準化證據，提高態勢感知能力，並實現更快的集體響應，而不是自上而下的聲譽懲罰”。

未包括在內的一組是社交媒體平臺本身的高管，主要是因為研究人員認為他們的公司最重要的是激勵參與，因此沒有動力去識別這些群。

“假設人工智能群發生得如此頻繁，以至於你無法信任任何人，人們就會離開這個平台，”昆斯特說。 “當然，這會威脅到這個模式。如果他們只是增加參與度，對於一個平台來說，最好不要透露這一點，因為看起來參與度更高，展示的廣告更多，這對特定公司的估值將是積極的。”

專家認為，除了平台缺乏行動外，政府也沒有什麼動力參與其中。奧萊尼克說：“當前的地緣政治格局可能對本質上監控在線對話的‘監管機構’並不友好。”揚科維奇對此表示同意：“未來更可怕的是，解決人工智能造成的危害的政治意願非常少，這意味著（人工智能群）可能很快就會成為現實。”