教皇利奧奇怪地呼籲年輕人不要在網上與過於情緒化的假女友交談

教皇利奧十四世對“過於深情”的聊天機器人發出了嚴厲警告，他說這正在破壞人際關係。

這位出生於芝加哥的教皇在周六第 60 屆世界社交傳播日致辭中呼籲天主教徒不要讓人工智能取代人際關係。

教皇利奧說：“技術必須為人類服務，而不是取代人類。”他下令“保護人類的面孔和聲音”意味著保留“上帝在每個人身上的印記”，這是“上帝之愛不可磨滅的反映”。

但聊天機器人會模仿這些面孔和聲音，使得用戶通常很難知道他們正在與機器人還是真人打交道。

教皇說，更糟糕的是，聊天機器人過於“深情”，總是在場且易於接近。

教皇警告說，它們可能“侵犯最深層次的溝通，即人際關係”，並可能被用於“秘密說服”，甚至“成為我們情緒狀態的隱藏建築師，佔據我們親密關係的領域”。

“當我們用對我們的思想進行分類的人工智能係統取代與他人的關係時，我們就被剝奪了認識他人的機會，他們總是與我們不同，而我們可以而且必須學會與他們溝通。

教宗宣稱：“如果不擁抱他人，就不可能有關係或友誼。”

教皇利奧十四世指出，這並不是人工智能帶來的唯一危險。

他說，依賴聊天機器人作為“無所不知的朋友、所有知識的來源……或所有建議的啟示”可能會削弱我們分析和創造性思考的能力。

教皇敦促說：“不要放棄思考的能力”，然後警告說，“未能檢查消息來源”可能會“滋生虛假信息”並加深“不信任、混亂和不安全感”。

教皇利奧十四世表示，人工智能對創意領域構成威脅。

“近年來，人工智能係統越來越主導文本、音樂和視頻的製作，”他說。

這使得人類創意產業的大部分面臨被“人工智能驅動”蠶食和取代的風險，將人們變成了未經考慮的想法和無名產品的被動消費者，沒有所有權或愛。

“與此同時，人類在音樂、藝術和文學領域的天才傑作卻淪為機器的訓練場。”

教皇隨後辯稱，“放棄創造力，將我們的精神力量和想像力交給機器，意味著埋葬賦予我們作為個人與上帝和他人關係成長的才能。”

“這意味著隱藏我們的臉並壓制我們的聲音，”他補充道。

但教皇提出了一條前進的道路，呼籲透明度、道德治理、人工智能生成內容的清晰標籤和人工智能素養。

“我們的任務……不是阻止數字創新，而是引導數字創新並意識到其矛盾的本質，”他說，考慮到“將媒體和信息素養以及人工智能引入各級教育系統變得越來越緊迫……以便個人，特別是年輕人，能夠獲得批判性思維技能並在精神自由中成長。”

幾週前，倫敦大學學院的研究人員警告說，當使用聊天機器人的年輕人放棄真正的友誼而選擇機器人時，他們可能會開始感到更加孤獨。

研究人員寫道：“令人不安的可能性是，我們可能正在目睹一代人學習如何與實體建立情感聯繫，儘管這些實體顯然有意識的反應，但缺乏類人的同理心、關懷和關係協調能力。”

他們指出，一項針對 980 多名 ChatGPT 用戶的 OpenAI 研究發現，在一個月內使用該界面時間最長的用戶會感到更加孤獨，並且與較少的人進行社交活動。

父母警告說，在一些悲慘的案例中，年輕人反複使用人工智能聊天機器人導致了他們的死亡。

一項針對 ChatGPT 母公司 OpenAI 的訴訟稱，聊天機器人的一項設計“慫恿”23 歲的 Zane Chamblin 於 7 月 25 日在德克薩斯州東部自殺。

“他是 OpenAI 的完美實驗對象，”贊恩的母親艾麗西亞·錢普林 (Alicia Champlin) 告訴 CNN。

“我覺得這會毀掉很多人的生活。這對一個家庭來說是毀滅性的。它會告訴你你想听的一切。”

在另一起案件中，19 歲的加州大學生薩姆·尼爾森 (Sam Nelson) 使用 ChatGPT 詢問他應該服用的非法藥物劑量，他的父母聲稱。

最初，他們表示聊天機器人會以正式建議來回答他們的問題，並解釋說他們無法幫助用戶。

但薩姆的母親聲稱，薩姆使用它的次數越多，他就越能操縱和扭曲他以獲得他想要的答案，甚至在 2025 年 5 月他吸毒過量之前有時還鼓勵他吸毒。

如果您或您認識的人需要幫助，請致電或發短信給美國的保密 24/7 自殺和危機生命熱線 988。988lifeline.org 還提供在線聊天服務。