人工智慧代理的使用正變得越來越廣泛。最近的一張 Cloudera 與 IT 領導者的調查 14 個國家發現，56% 的國家在過去兩年中部署了此類工具，96% 的國家打算在未來 12 個月內增加對人工智慧代理的使用。承諾更快、更有效率的流程、更高的生產力和更低的管理費用——即 受薪員工——很容易看出原因。
然而，對於過度熱心的人工智慧使用者來說，危險在於同質化的威脅。為某個組織在某個領域做某事的最佳方式可能與其競爭對手相同。最終，不會有差異化，導致壟斷、消費者選擇減少、創新終結，並可能侵蝕我們自己的思考能力。基礎模型的快速整合（OpenAI、Google、Anthropic 和 Meta 對類似規模的類似資料進行訓練）使得這種同質化風險比一年前顯得更加具體和緊迫。
「跳出框框思考」將成為一個完全多餘的概念。雖然人工智慧代理的速度無可爭議，但這總是一件好事嗎？例如，如果減少時間總是第一要務，永續性會受到影響嗎？深厚的知識及其帶來的理解造就了專家。沒有專家的企業會將自己置於危險之中。
人工智慧輔助客戶服務研究 研究表明，生產力工具對經驗不足的員工尤其有利，使他們能夠達到與經驗豐富的同事相同的水平。雖然這在短期內似乎是正面的，但它淡化了獎勵學習、判斷和掌握的傳統模式。隨著時間的推移，專業知識不再被培養，而是變得扁平化，導致勞動力的技能下降。這種動態在知識工作中變得尤為明顯：最近關於初級律師、金融分析師和軟體工程師的報告表明， 入門角色——歷來是未來專家的培訓基地——是隨著公司採用人工智慧工具而首批簽約的公司之一。下一代頂尖人才的輸送管道正在即時縮小。
在個人層面，人工智慧正在侵蝕人類的自信心。許多人已經開始用它來回答所有問題——從複雜的商業計劃到選擇晚餐吃什麼。這種依賴讓我們懷疑自己，放棄決策，拋棄多年的知識和經驗，相信人工智慧可能更了解。如果這種趨勢繼續下去，我們就有可能成為完全依賴的虛擬外殼，如果沒有網路接入，這些虛擬外殼就毫無用處。
雖然這聽起來像是一個可怕的、反烏托邦的未來，但我並不是建議我們應該人為地停止。相反，聰明的企業需要重視、支持和投資自己的人力資源，以確保獨特的人類特徵防止同質化，同時充分利用人工智慧代理。我們的目標是以增強你的優勢而不是放棄它的方式開發人工智慧。
在全球範圍內，政府需要停止視而不見，並考慮人工智慧對社會的實際意義。現在這一點尤其迫切：美國、歐盟和英國都處於人工智慧監管框架的不同階段，缺乏針對勞動力轉移的協調政策，這意味著即使是善意的國家努力也面臨被技術取代的風險。如果我們不考慮由於人工智慧的不受控制的發展而導致許多在工作場所被解僱的人將會發生什麼，我們正在夢遊般地陷入失業、不滿和內亂的危機。如果沒有計劃，社會將面臨毀滅性的清算。
人工智慧的成功採用應該是讓人們變得更加人性化——例如，取消策略家的日常任務，以便他們能夠提升自己的思維和績效。雇主需要批判性地思考生產力的實際意義。以失去寶貴的專業知識和消除營運差異化為代價實現的短期產量成長並不是長期成功的秘訣。能夠生存下來的企業將是那些對人員、培訓和持續優先考慮原創思維進行投資的企業。
領導者現在可以採取的最重要的一步是停止將人工智慧視為人類能力的捷徑。這意味著根據所需的危機類型對人工智慧用例進行分類，而不僅僅是短期成本節約。日常的、大量的任務可以而且應該自動化——這方面存在一些爭議。策略和高風險決策應保持以人為本，人工智慧充當增強而非原則。人們必須關閉每個專案或職能：從一開始就將創造力發揮到最後，將品質保證帶到最後。
連巨頭都喜歡 亞馬遜看起來非常適合幾乎完全接管人工智慧代理的企業，請了解這種方法的重要性。目前，各營運部門使用了數千個內部人工智慧代理，但其有效性取決於嚴格的人類主導的評估框架。人們仍然對結果負責，確保機構知識得到加強而不是被取代。
最終，認知外包成為常態的未來充其量也將是極為黯淡的。企業和社會有一些重大問題需要回答。多少技術才算太多？速度和按需生產是成功組織的唯一目標嗎？這是否應該以犧牲我們的生命和智力為代價？人工智慧正在推動科學和研究領域真正的典範轉移，但並非每項任務都需要自動化，也並非每項效率提升都值得其隱性成本。也許現在最迫切的優先事項是退一步思考，從長遠來看，我們實際上想要建立什麼樣的經濟以及什麼樣的想法。
Mehdi Paryavi 是其執行長兼創辦人 國際資料中心管理局 （IDCA），全球領先的數位經濟智庫。
