聯合國人工智慧國際獨立科學委員會在其初步報告中表示，人工智慧的發展速度如此之快，以至於目前的治理體系無法跟上。該小組由來自世界各地的成員組成，將提供開展聯合國人工智慧治理全球對話所需的資訊。會議將於 7 月 6 日在日內瓦舉行，成員國將討論如何管理該技術。
該小組在報告中討論了近年來人工智慧能力的發展速度。顯然，人工智慧模型可以完成的任務的複雜性每隔幾個月就會翻倍。報告承認，人工智慧為人類帶來巨大好處，包括加速藥物發現和疫苗開發，並為抗生素抗藥性研究做出巨大貢獻。醫生也可以使用人工智慧系統來早期發現乳癌等疾病，科學家可以使用人工智慧作為糧食不安全的早期預警系統。
然而，該報告也解釋了人工智慧系統已經和可能造成的新型損害。人們使用人工智慧來創建和傳播露骨的深度偽造內容，包括性虐待兒童和真實人物的材料。例如，加州於 1 月對 Grok 發起了一項調查，涉及未經同意的深度偽造和 CSAM 等問題。人工智慧還可以創建看起來真實的虛假訊息，犯罪分子可以使用人工智慧系統來幫助他們的網路攻擊。
有些人工智慧模型可能就是這樣的阿諛奉承者。報告稱，強化用戶的有害行為，甚至可能導致自殺。該小組還警告說，隨著人工智慧模型變得更加自主，監控和控制它們變得更加困難。人們越來越擔心為人工智慧系統建立大規模資料中心，這可能會損害其所在地區的社區。
聯合國小組解釋說，政策制定者一直在努力跟上人工智慧的發展，因為目前的治理體系並不是為發展如此迅速的技術而設計的。通常，當局在發布法規之前需要科學數據，但當有足夠的科學數據來更好地理解這項技術時，人工智慧系統可能已經很先進了。
該委員會寫道：“報告發現，需要更強有力的獨立評估、國際合作和共同標準，以確保人工智慧系統保持安全、透明和負責任。”如果沒有適當的保障措施，人工智慧技術“可能會加劇不平等、傳播錯誤訊息、威脅人權、擾亂勞動力市場”，並可能成為“很少有政府和公司”能夠利用的強大工具。
報告指出，人工智慧系統的使用主要集中在已開發國家，大多數系統是在美國和中國開發的。大多數發展中國家缺乏真正從人工智慧中受益所需的基礎設施和專業知識。專家小組表示，「挑戰在於找到一種方法來釋放人工智慧的巨大優勢，同時防止其日益增長的風險。」聯合國小組的角色是科學而非監管，將繼續評估當局可用於制定政策的人工智慧技術。預計明年將發布更全面的報告。
