當AI面臨不確定性問題時會發生什麼？

在世界上越來越多地由人工智能形成，汽車如何在不確定條件下做出決定的問題每天都變得更加緊迫。

當結果不清楚時，我們如何權衡競爭價值？當不提供理想信息時，什麼是合理的選擇？這些問題現在受到學術哲學的限制，現在已在中心中提出，因為我們正在為AI委派越來越複雜的解決方案。

由USC Viterbi工程學院的計算機科學系和USC高級計算機的計算機科學系和計算機科學系的學生以及相結合的經典解決方案理論和處理這些複雜解決方案的有用理論的原理。

Neiswanger 研究 是在2025年國際培訓會議上發現的 出版 在 arxiv 預印服務器。他最近討論了AI如何處理USC新聞的不確定性。

您如何看待人造和人類智能之間的區別？

Neiswanger： 目前，與機器智能相比，人類智能具有各種優勢。然而，與使其有價值的人相比，機器智能也具有某些優勢。

大型語言模型（LLMS） – 經過大量文本培訓的系統，這些系統可以理解和生成人類答案 – 例如，可以快速使用和合成來自報告或其他數據源的大量信息，並可以在規模上生成大量信息，對許多可能的未來進行建模或提供廣泛的預測結果。在我們的工作中，我們努力利用LLM優勢的優勢，使他們與人的優勢和判斷保持平衡。

為什麼當前的大型人工智能模型在不確定性上掙扎？

Neiswanger： 不確定性是現實世界中決策過程中的基本問題。當前的AI系統正在基於各種結果的概率以及與未知變量的碰撞中的用戶偏好，以爭取不確定性，證據和預測過程的正確平衡。

與能夠表達信心並認識其知識限制的人類專家不同，LLM通常會以明顯的信心產生答案，無論他們是基於既定模型還是對超出可用數據的無限預測。

您的研究如何與不確定性相交？

Neiswanger： 我專注於開發機器學習方法，以在不確定性條件下進行決策，重點是一致的決策，目標，隨著時間的推移做出多種選擇，並且每個決策都會影響未來的選項，而數據很昂貴。

這包括諸如黑匣子的優化（尋找最佳解決方案，當您看不到系統的工作原理），實驗設計（計劃或測試研究以獲取最有用的信息）以及科學和技術中的決策問題，材料或藥物的檢測以及計算機系統的優化方面的應用。

I am also interested in how large models of the foundation (massive AI systems trained in huge data sets that serve as a database for many applications), especially the models of large languages, can both improve and extract benefits from these decision-making frames: on the one hand, helping people make the best decisions in vague conditions, and on the other hand-improving mathematical methods for optimal elections, in order to improve the best results from less educational data and quality, and in training and準確，在訓練中。

您的研究如何解決不確定性和AI的問題？

Neiswanger： 我們專注於提高機器量化不確定性的能力，從本質上講，教給它來衡量和表達其在不同的預測中應有多大的自信。

特別是，我們開發了一種方法來定量確定不確定性，該方法允許大型語言模型在不完整的信息下做出決策，並以可衡量的信任水平進行預測，可以檢查並選擇提供與人類偏好相對應的最大好處的動作。

該過程始於確定與做出決策相關的關鍵不確定變量，然後考慮到語言模型，他們分配了各種能力概率的語言評估（例如，收益率收益率，無限期事件的價格，倉庫交付的預測量等），基於報告，歷史數據和其他上下文數據，然後將其轉入數量。

有任何立即申請嗎？

Neiswanger： 在業務中，這可以通過提供對市場不確定性和競爭動態的更現實的評估來改善戰略計劃。

在醫療機構中，這可以為治療計劃提供診斷支持或幫助，幫助醫生考慮症狀和測試結果的不確定性。在做出個人決定時，這可以幫助用戶獲得有關日常選擇的語言模型的知識，相應的提示。

系統遵守人類偏好的能力在上下文中特別有價值，在這種情況下，計算機允許計算機找到數學“最佳”解決方案可以跳過重要的人類價值或限制。

顯然，對感興趣的各方的偏好進行建模，並將其包括在數學評估中，以評估結果對人的價值，這種結構提供了不僅在技術上是最佳的建議，而且對於實施這些建議的人來說也可以接受。

您的研究下一步是什麼？

Neiswanger： 現在，我們將研究如何根據不確定性問題將這種結構擴展到更廣泛的實際解決方案，包括在研究領域（使用數學方法來解決複雜的業務問題），物流和醫療保健。前進的方向之一是改進人類審計：開發界面的開發，使用戶可以更清楚地了解為什麼LLM做出特定的決定以及為什麼該決定是最佳的。