當賭注很高時，機器學習模型是否做出公平的決定？

機器訓練是決策不可或缺的一部分 – 在與計算機的人類互動範圍內，率很高。您申請工作。您申請貸款。算法確定誰到達和誰偏離。

加利福尼亞大學聖地亞哥分校和威斯康星大學 – 麥迪遜分校的計算機科學家挑戰了使用一個機器學習模型（ML）做出如此重要決定的一般實踐。他們問當“同樣好”的ML模型得出不同的結論時，人們的感受。

雅各布斯工程學院的副教授洛里斯·達·安東尼（Loris D’AntoniChi 2025）該文件“對機器學習中多重性影響的有效性的感知”描述了D’Antoni的工作始於研究同事在威斯康星大學逗留期間，並於今天繼續在加利福尼亞大學San Din分校。這 可訪問 在 arxiv 預印服務器。

D’Antoni與團隊成員合作依靠現有的證據表明，各種模式（例如人類同事）都會有可變的結果。換句話說，一個好的模型可以拒絕該應用程序，而另一個好模型則批准了應用程序。自然，這導致了有關如何做出客觀決策的問題。

D’Antoni說：“ ML研究人員聲稱當前的做法是正義的風險。我們的研究更深入地解決了這個問題。我們問了有關方面或普通人，因為他們認為當幾個非常準確的模型對這項貢獻提供不同的預測時，應該做出決定。”

該研究發現了幾個重要結果。首先，感興趣的各方放棄了標準實踐來依靠一種模型，尤其是當幾個模型不同意時。其次，參與者拒絕了在這種情況下應隨機做出決策的想法。

第一作者和博士學位說：“我們發現這些結果很有趣，因為這些偏好與公平實踐中ML和哲學發展中的標準實踐形成了鮮明對比。”學生安娜·邁耶（Anna Meyer），他在威斯康星大學（University of Wisconsin）為達安東尼（D’Antoni）提供建議，並將在卡隆學院（Karlon College）擔任助理教授。

團隊希望這些想法將指導模型和政治的未來發展。關鍵建議包括擴大對許多模型的搜索以及實施決策決策，以選舉分歧，尤其是在較高利率的情況下。

研究小組的其他成員是AWS Albarghouti，威斯康星大學計算機科學副教授，Apple的Yea-Eul Kim。