一家中國公司一直在嘗試開發人工智慧驅動的技術，讓專制政府不僅可以監控持不同政見者，還可以預測誰將來可能會成為持不同政見者。
這部似乎正處於研究階段的作品取材自反烏托邦科幻小說，讓我們得以一睹一個獨裁國家能夠在其公民引發公開分歧之前對他們採取行動的世界。
中國公司 Geedge Networks 銷售商業版防火牆，這是中國用來控制線上活動的監視和審查軟體。這些工具使政府能夠監控網路流量，並在有人試圖規避傳統網路審查制度時進行標記。
但范德比爾特大學的研究人員表示，根據洩漏的公司文件，該公司正在開發新產品，使用人工智慧來檢查位置資料和網路使用情況，以預測誰可能會做或說批評政府的事情。
這種技術如果完善的話，將為獨裁政府提供一個強大的工具來對付他們認為的敵人。
獨裁政府將使用人工智慧來壓制異議的想法已經足夠令人不安了。但業內一些人士表示，在任何人採取行動之前很久就使用人工智慧來預測異議已經成為一場噩夢。
「這就是大規模監控和人工智慧相遇時所發生的情況，」范德比爾特國家安全研究所邪惡問題實驗室主任布雷特·J·戈爾茨坦說。 “在沒有製衡的情況下，中國正在對自己的公民做的事情就是在嘗試如果這些工具不受限制，將會發生什麼。”
范德比爾特大學的研究人員發現，Geedge 與其政府支持的研究機構 MESA Lab 合作開發了一種技術，可以產生中國公民的檔案，然後使用人工智慧來突出誰可能構成政治風險。
但該公司的進展似乎受到拜登時代對美國設計的人工智慧電腦晶片出口管制的阻礙。這顯示美國的限制可能減緩了中國下一代監控技術的發展。
Geedge 文件顯示，2024 年，當美國對中國實施嚴格的出口管制時，該公司及其實驗室很難為監控技術找到足夠的運算能力。
范德比爾特大學政治學教授 Brett V. Benson 表示，這些文件提到了 GPU 的限制。 GPU（圖形處理單元）是為人工智慧模型提供動力的晶片。他說，由於這些限制，該公司開始使用較舊的、功能較弱的人工智慧模型和晶片。
今天，美國官員表示 Geedge 已為其當前產品提供了足夠的圖形處理單元。但官員表示，為了實施其最雄心勃勃的預測技術版本，該公司可能需要中國無法購買的更先進的晶片。
拜登政府前官員表示，情報顯示，他們限制中國使用美國設計的高端晶片的政策有助於維持美國人工智慧的領先地位，並減緩了中國其他技術的發展。
但美國的出口管制是否會減緩中國對人工智慧更具壓迫性用途的發展仍是一個懸而未決的問題。
川普政府削弱了拜登時代的一些出口管制，並保留了對英偉達最先進處理器的限制，英偉達是一家設計世界上最強大人工智慧晶片的美國公司。在川普總統最近訪問北京期間，美國官員表示中國將獲得更先進版本的英偉達晶片。
但中國正試圖讓其人工智慧公司擺脫美國設計的晶片，以便出口管制不再限制他們的野心。
分析未來的批評者
新資訊是從大量數據中收集而來的，其中包括最初於去年 9 月發布的 100,000 份 Geedge 文件。 《連線》和其他出版物利用這些文件概述了 Geedge 如何將其網路安全軟體出口到埃塞俄比亞、哈薩克、緬甸和巴基斯坦等國家，使它們能夠對行動網路進行大規模監控。
范德比爾特大學的研究人員仔細審查了這些文件，重點不是 Geedge 正在銷售的技術，而是它試圖開發的下一代技術，以及可能阻止該公司將該策略付諸實踐的限制。
根據 Geedge 文件，2024 年初，該公司的研究人員正在根據電信、社群媒體和地點資料開發人們的行為檔案。人工智慧模型已被用來對人們進行分類並“檢測有害資訊”，這通常是中國共產黨用來識別政治異議或政府想要壓制的其他材料的委婉說法。
根據會議記錄，在 2024 年 2 月 5 日的一次會議上，研究人員討論瞭如何建立人們的檔案以「識別他們的意圖」和「發現有害資訊」。
Geedge 的研究人員似乎正在開發工具，根據該公司監控技術收集的數據模式，使用人工智慧來預測誰可能成為中國政府的批評者。
「Geedge 的研究團隊所做的不僅僅是記錄行為模式。他們還試圖預測公民下一步可能做什麼以及與誰一起做，」本森先生說。 “這些關於常見材料的數據是生成檔案的原材料，這些檔案決定了你是誰以及你下一步要做什麼。”
吉奇沒有回應置評請求。
范德比爾特大學的研究人員表示，這些文件表明，該公司的團隊正在努力將身體動作與其他線上活動聯繫起來，包括人們觀看的電影和閱讀的書籍。
Geedge 的研究在某些方面與另一家與政府有聯繫的中國公司 GoLaxy 的工作相似。去年，范德比爾特大學和《紐約時報》概述了 GoLaxy 開發人工智慧驅動的軟體的努力，該軟體將推動有針對性的宣傳——中國政府支持的主題與北京反對的觀點背道而馳。
在某些方面，Geedge 的作品也讓人想起 2002 年的電影《少數派報告》，其中政府預測誰可能犯罪，而專門的警察部隊會在犯罪發生之前採取行動逮捕犯罪者。儘管被認為是絕對正確的，但影片中預測未來的「預知者」卻錯誤地指控演員湯姆克魯斯飾演的主角犯下謀殺罪。
多年來，中國一直在追求預測監控技術。但正如 Geedge 論文所示，人工智慧模型加速了此類工具的發展。
Geedge 展示了預測性警務技術如何很快成為中國的出口產品。
完善監控狀態
據要求匿名討論敏感評估的美國官員稱，儘管這些文件沒有涵蓋最近幾個月的情況，但沒有證據表明 Geedge 已經完成或部署了預測技術。
但官員承認，中國公司正在研究此類技術以完善其監控狀態。專家和政府官員表示，中國公安機構正在競相使用中國領先的人工智慧模式 DeepSeek 來開發其他預測性警務技術。
美國官員表示，Geedge 和其他中國監控公司可能擁有足夠的運算能力來支援他們當前世代的工具。
但預測工具，特別是如果公司最終整合截獲的電話或監控視頻，可能會遇到計算能力的限制。
