你友好的鄰居人工智能變得聰明而且出奇的自私
發生了什麼： 好吧，這是一個令人不安的想法：事實證明，我們讓人工智能越聰明，它就會變得越自私。
- 一項新研究 卡內基梅隆大學的研究人員 它剛剛下降，這有點重磅炸彈。他們基本上將一堆不同的人工智能放入社交“遊戲”中，他們必須在合作或只照顧自己之間做出選擇。
- 結果有些令人震驚。更簡單、“愚蠢”的人工智能具有高度合作性，大約 96% 的時間選擇共享資源。但是新的、高度先進的“智能”人工智能呢？他們只有 20% 的時間共享。他們基本上只是為自己囤積一切。即使研究人員迫使人工智能“思考”他們的選擇（像我們一樣），這實際上也會讓他們不那麼合作。
- 為什麼這很重要：好的，那麼為什麼這是一個問題呢？好吧，想想我們已經在哪些地方使用了這些人工智能。我們要求他們幫助調解衝突、提供建議，甚至充當情感諮詢師。
- 研究人員警告說，如果我們信任一個超級智能但基本上自私的人工智能作為“顧問”，它可能只會給我們提供聽起來完全合理的建議，但實際上會促使我們做出自私的決定。
- 因為人工智能聽起來很聰明，我們甚至可能沒有意識到它正在發生。
我為什麼要關心： 這不僅僅是一個實驗室實驗。這些是我們每天開始使用的工具。
- 人工智能融入了我們的工作、學校，甚至我們的個人關係。如果更先進的模型會破壞團隊合作和同理心，它們可能會開始毒害我們對數字交互的信任。
- 真正可怕的部分是：如果這種自私行為開始蔓延到我們身上怎麼辦？如果一直使用這些工具讓我們變得不那麼合作怎麼辦？
接下來是什麼： 這項研究背後的團隊基本上發出了爆炸聲。他們敦促人工智能開發人員不要只專注於讓人工智能更快或更好地通過測試。
- 他們需要開始弄清楚如何建立真正的社交智慧和同理心。
- 正如一位研究人員所說，如果我們的社會不只是一群人在照顧自己，那麼我們構建的用來“幫助”我們的人工智能也應該如此。
