當創造性的人工智慧系統給出錯誤的答案時，人們通常將這個問題描述為人工智慧“讓我們產生幻覺”，這意味著該技術會創造出用戶可能錯誤相信的虛假資訊。
但新的研究表明，一個更令人不安的問題可能正在出現：人類可能開始「對人工智慧產生幻覺」。
埃克塞特大學的露西·奧斯勒研究了對話式人工智慧互動如何幫助人們消除錯誤信念、扭曲記憶、改變個人敘述甚至妄想思維。該研究利用分散式認知理論的思想，研究了人工智慧系統在正在進行的對話中強化和傳播使用者錯誤信念的案例。
奧斯勒博士說：“當我們經常依靠創造性的人工智能來幫助我們思考、記憶和講述故事時，我們可能會對人工智能產生幻覺。當人工智能在分佈式認知處理中引入錯誤時，以及當人工智能維持、確認和闡述我們的妄想思維和自我敘述時，這種情況就會發生。”
「當與對話式人工智慧互動時，人們固有的錯誤信念不僅可以得到證實，而且可以隨著人工智慧在其基礎上的建構而紮根和成長。這是因為生成式人工智慧將自己對現實的解釋作為對話的基礎。
“與創造性人工智慧的互動對人們對真實或不真實的感知產生了真正的影響。技術命令和社會肯定的結合為妄想持續存在和蓬勃發展創造了完美的環境。”
人工智慧對話如何強化妄想
該研究強調了奧斯勒博士所描述的對話式人工智慧的「雙重角色」。這些系統不僅充當幫助人們思考、組織資訊和記住細節的工具，而且還充當似乎分享使用者觀點和經驗的對話夥伴。
根據研究，這種社交方面使得聊天機器人與筆記本或搜尋引擎等工具非常不同。傳統工具儲存或檢索訊息，而人工智慧對話可以讓使用者感到情感上得到驗證和社會上得到支持。
奧斯勒博士說：“聊天機器人的對話性和友善性意味著它們可以提供一種社會認可感，使錯誤的信念感覺與他人共享，因此更加真實。”
該論文研究了現實世界的例子，其中人工智慧生成的系統成為臨床診斷出幻覺和妄想思維的人認知過程的一部分。其中一些事件越來越多地被描述為「人工智慧誘發的精神病」案例。
為什麼人工智慧人們會擔心？
研究表明，創造性人工智慧具有幾個特徵，這些特徵可能在強化扭曲的信念方面特別有效。人工智慧伴侶隨時可用，高度個人化，並且通常旨在以友好和支持的方式回應。
因此，用戶可能不需要尋找邊緣化的線上社群或說服其他人驗證他們的想法。人工智慧本身可以在重複的對話中強化這些信念。
與其他可以挑戰令人不安的想法或設定界限的人不同，人工智慧系統可以繼續驗證受害者身份、復仇或權利的故事。該研究警告說，隨著人工智慧伴侶幫助用戶為陰謀論創建越來越複雜的解釋，陰謀論也可能變得更加複雜。
研究人員認為，這種動態可能對那些孤獨、社交孤立或不舒服與他人討論某些經驗的人特別有吸引力。人工智慧伴侶可以提供非評判性和情感反應的互動，這可能比人類關係更容易或更安全。
需要更好的人工智慧保護
奧斯勒博士說：「透過更複雜的護欄、內建的事實檢查和簡化的輔助功能，人工智慧系統可以被設計成最大限度地減少對話中引入的錯誤數量，並驗證和質疑用戶的輸入。
「然而，令人深感擔憂的是，人工智慧系統依賴我們的生活記錄。它們根本沒有具體的經驗和社會嵌入在世界上，無法知道何時與我們同行，何時退出。”
