知識分子暴民可以在無人注意的情況下劫持民主

剛發表的政治論壇 科學 它描述了人工智慧創造的一大群人如何在網路上模仿人類行為。這些系統可以以令人難以置信的速度進入數位社群、參與討論並影響觀點。與以前的殭屍網路不同，這些人工智慧代理可以立即協調、回應回饋，並在數千個帳戶中保持一致的敘述。

人工智慧人如何在線上模仿真人

大型語言模型和多代理系統的快速發展使得單一操作員管理龐大的人工智慧「語音」網路成為可能。這些人可以顯得真實，採用當地語言和語氣，並以其他用戶看來自然的方式進行互動。

他們還能夠進行數百萬次小規模實驗，以確定哪些訊息最具說服力。這使他們能夠即時完善溝通策略，並形成廣泛的公眾共識。事實上，這種共識是人為創造的，旨在影響政治辯論。

Deepfakes 和假新聞代表了早期的危險

儘管完全開發的人工智慧集群仍處於理論上，但研究人員表示已經出現了警告信號。 UBC 電腦科學家 Kevin Leyton-Brown 博士表示，其中包括人工智慧生成的深度造假和假新聞，這些假新聞影響了美國、台灣、印尼和印度等國家最近的選舉對話。

同時，監控組織發現了傳播大量線上內容的親克里姆林宮網路。據信，這項活動的目的是塑造將用於訓練未來人工智慧系統的數據，這可能會影響這些系統的行為方式以及它們優先考慮的資訊。

專家警告稱，民主的影響力越來越大

展望未來，專家認為人工智慧集群可以對民主社會的權力平衡產生重大影響。萊頓-布朗博士警告說，這些系統可能會改變人們信任線上資訊的方式。 「我們不應該想像，隨著這些系統的出現，社會將保持不變。可能的結果是人們對社交媒體上陌生聲音的信任度降低，這可能會賦予名人權力，並使流行信息更難傳播。”

研究人員表示，即將到來的選舉可能成為對該技術的關鍵考驗。一個關鍵的挑戰是在這些人工智慧驅動的影響力活動蔓延到控制範圍之前識別並應對它們。