研究稱依賴人工智慧可以將懷疑變成虛假信心

你可能會認為接受不好的建議會讓你更加小心。新的研究表明，當這些提示來自人工智慧時，就會發生相反的情況。米蘭比可卡大學心理學教授 Valerio Capraro 領導的一項研究發現，錯誤的人工智慧建議會降低人們的準確度，但明顯對自己的答案更有信心（來自 IBM Think）。

研究也發現，接受錯誤人工智慧建議的人更不願意承認自己不知道答案，即使保持沉默是一種選擇，並且會因為準確而獲得獎勵。

為什麼虛假的人工智慧提示讓人如此自信？

研究人員向參與者詢問了六個有關模糊電影細節的問題，並有目的地選擇了人工智慧模型經常出錯的問題。這使得他們能夠隔離人們諮詢人工智慧時發生的情況，無論它的建議是否實際上是好的。

結果令人印象深刻。如果沒有人工智慧，在兩次實驗中，參與者有大約 36% 到 44% 的時間拒絕回答。隨著人工智慧的出現，這一比例已降至僅 3% 至 6%。準確率也下降了，從單獨工作時的 27.5% 下降到人工智慧參與時的 9.2%。

卡普拉羅懷疑人工智慧可以降低人們在做出答案之前所需的信心程度，從根本上改變他們判斷自己確定性的方式。令人驚訝的是，即使人工智慧提示在沒有詢問的情況下自動出現，情況也是如此，這表明效果不僅僅是主動尋求幫助。

經濟獎勵和懲罰的增加使人們變得更加謹慎和準確，儘管潛在的模式從未完全消失。卡普拉羅在這裡做出了明確的區分。人工智慧應該增強人類的判斷力，而不是完全取代它。

他擔心這種影響會延伸到兒童身上，因為在成長過程中立即給出答案可能會阻止兒童在學習過程中遇到疑問。新的報告表明，痴迷於人工智慧的年輕一代正在從聊天機器人那裡獲得幫助，即使是一對一的對話。正如卡普拉羅所說，懷疑並不是知識的失敗。真正的知識常常開始。