教皇利奧十四世對人工智慧新出現的危險提出了進一步的想法,指出該技術不能被視為“道德中立”,開發該技術的公司必須承擔“每個階段”接受的“責任”。

教宗週四在 X 上寫道:“我們不能認為#AI 是道德中立的。事實上,每一種技術工具都通過它衡量、忽略和優化的內容以及它如何對人和情況進行分類來體現選擇和優先事項。”

「道德辨別不能只限於詢問我們使用該系統的目的是好還是壞,」他在推文中繼續說道。 “它還必須檢查系統如何運作,以及驅動它的數據和模型中嵌入了人類和社會的哪些願景。”

天主教會領袖的最新評論繼續了他數週以來領導的反人工智慧運動。 5月底,他發表了一封42300字的公開信,題為《Magnifica Humanitas》,揭示了人工智慧的危險和困境。在這封信中,教皇呼籲建立「能夠維護正義並遏制技術力量扭曲影響的監管工具」。

週四,教宗補充說,那些開發新人工智慧系統的人應該對這些系統做出的「決定」承擔一些責任。

他寫道:“為了讓人工智慧尊重人類尊嚴並真正服務於共同利益,從設計和開發這些系統的人到使用和依賴這些系統的人,每個階段都必須明確界定責任。” “必須能夠確定誰應該對決策“負責”、證明其合理性、監督決策,並在必要時質疑決策並糾正所造成的任何傷害。”

教宗在五月的信中呼籲對人工智慧公司進行監管,保護和再培訓那些生計可能受到該技術威脅的工人,並對年輕學生進行教育,以確保他們的成長和學習不會受到該技術的影響。他還談到需要更好地保護兒童免受人工智慧生成的暴力和色情內容的侵害。

為了回應教宗關於這項技術的公開聲明,梵蒂岡也成立了一個委員會來討論與人工智慧相關的問題。

來源連結