聯合國婦女署警告稱，人工智慧在全球的快速擴張將顯著增加針對女性的性別歧視和數位暴力風險，敦促立即採取行動解決人工智慧系統中的性別偏見。
圖：一名示威者在紀念國際婦女節的集會上觀看。 照片：克里斯蒂娜西爾/路透社
重點
- 聯合國婦女署警告說，人工智慧增加了針對婦女的歧視和暴力的風險，對人工智慧系統和大型語言模型的研究顯示出嚴重的性別差異。
- 《史丹佛社會創新評論》的一項分析發現，133 個人工智慧系統中有 44% 表現出性別偏見，而聯合國教科文組織的一項研究顯示，20% 的法學碩士的反應存在性別歧視或厭惡女性。
- 專家指出，人工智慧反映了現有的社會偏見，將女性與「家」和「家人」聯繫在一起，將男性與「商業」和「事業」聯繫在一起，凸顯了人工智慧發展超越這些偏見的挑戰。
- 人工智慧正在加劇針對女性的數位暴力，深度偽造和未經同意的個人圖像共享不成比例地針對女性和女孩。
- 只有一小部分國家人工智慧戰略是針對特定性別的，包含實質性別敏感條款以發現陳規定型觀念並提高代表性的戰略就更少了。
從我們所做的事情到我們所做的事情，人工智慧現在正在為全球數十億人編寫東西。
然而，聯合國婦女署引述多項研究警告稱，人工智慧的轉變使女性面臨更高的歧視和暴力風險。
在媒體諮詢中，該分析基於美國《史丹佛社會創新評論》，該評論發現 133 個人工智慧系統中有 44% 表現出性別偏見。
聯合國婦女署是一個專注於性別平等和賦權的實體。
人工智慧對社交中介存在偏見
聯合國教育、科學及文化組織 (Unesco) 引用的另一項研究表明，大型語言模型 (LLM) 產生的回答中有 20% 存在性別歧視和厭惡女性情緒。
「研究發現，女性與『家』、『家人』和『孩子』等字眼相關聯，而男性則與『生意』、『行政』和『生活』等字眼相關聯。
「也許，這並不是法學碩士被灌輸了某些性別歧視言論。
「社會上的事物以及存在的偏見有何反映？
Mozilla 基金會印度負責人 Jibu Elias 表示：「醫生會將醫生顯示為男性，將護士顯示為女性，這是因為人們普遍認為關心女性。」Mozilla 基金會是一家總部位於美國的非營利組織，致力於促進無障礙和包容性互聯網的發展。
「這裡更大的挑戰是人工智慧如何真正理解不斷發展的社會，」他補充道。
在聯合國婦女署發出警告之際，國際社會正為定於 7 月 6 日至 7 日舉行的聯合國人工智慧治理全球對話以及 7 月 7 日在瑞士日內瓦舉行的人工智慧促進全球公益高峰會做準備。
人工智慧設計和開發中的排除
數位賦權基金會創辦人兼董事 Osama Manzar 表示，數位生態系統歷來使女性處於不利地位，而人工智慧又讓這一劣勢雪上加霜。
「真正的問題不應該是女性是否使用人工智慧，而是女性在設計、開發、培訓和採用階段是否得到適當考慮，」他說。
在這些技術所反映的偏見中，他觀察到人工智慧是建立在大型數據集之上的，如果數據首先沒有以合乎道德的方式收集、儲存和使用，法學碩士只會放大這些偏見。
由於聯合國婦女署在實際設計階段將健康作為關鍵組成部分，他也表示，在138個國家的研究中，只有24個國家在國家人工智慧計畫中提到了性別。
此外，僅包含 18 項實質的性別敏感條款，這些條款可以幫助消除人工智慧刻板印象、擴大代表性並大規模提高可及性。
人工智慧在數位暴力中的作用
該顧問也提出了人工智慧在增加針對女性的數位暴力方面所扮演的角色。
該組織先前的報告發現，在接受人權捍衛者、活動家和記者調查的女性中，近四分之一的女性曾經歷過人工智慧輔助的網路暴力，而 12% 的女性表示曾經歷過未經同意分享個人圖像的經歷。
「人工智慧使這個問題變得更加複雜。深度假貨是人工智慧濫用的最明顯例子之一，它不成比例地針對婦女和女孩，」聯合國婦女署建議。
百分之六的女性成為引人注目的假貨或篡改照片和影片的目標，而超過四分之一的女性透過數位資訊受到性騷擾。
專家表示，在談論用戶之前，了解誰在建立該技術非常重要。
「從產品團隊到研究實驗室，再到製定標準的機構，女性的代表性很低，每項技術都是其創造者的反映，」埃利亞斯說。
