經濟學家喜歡畫三角形。在商業領域，稅率不能太高。貨幣政策無反應且價格不變 您無法設定利率。編輯貨幣供應並承諾完美穩定。不平等起始條件下的就業 存在著一個類似的三角關係，大部分關於就業公平的爭論都是透過這個三角關係進行的。
當公司轉向演算法來分配難找的工作時，他們將被三個引人注目的目標所吸引： 強勁的績效。 （選擇最有可能勝任該工作的候選人。） 代表性強。 （產生粗略的結果反映群體共享）和強烈的形式中立。 （從機制上講，相同的規則適用於每個人。）
問題很簡單，但令人不舒服：他們無法同時獲得所有三個。他們可以選擇任兩個。但第三個卻走向了錯誤的方向。這就是正義的三位一體。當你看到它時，你會發現圍繞演算法招聘存在著許多混亂。公平和包容性措施開始顯得不再那麼神秘。更像標準價格理論。你可以在我的工作文件中看到官方的聲明和證據。 」公平三難：治理演算法的不可能性定理」
舊約
有一段時間，許多公司講述的招募故事都很簡單。偏見存在於人們的腦海中。低效率在於判斷力。解決方法很明確：標準化、自動化和測量，用數據取代判斷。就業更加公平、更有效率。
這個故事引發了一波DEI計畫的投資熱潮。 和演算法招募工具。供應商承諾在公共政策和公司治理方面特別有吸引力：在不進行權衡的情況下提高道德。為弱勢群體帶來更好的結果 沒有績效損失，也減少了關於自由裁量權或權力的不舒服的談話。
演算法招聘系統作為解決方案出售。複製履歷和申請 了解什麼可以預測績效。加強數學中的「公平」。並讓模型達到平衡
但演算法並不能消除自由裁量權。他們移動了那個位置。模型設計 選擇資料 前往定義 他們經常將其移動到不太明顯且更難反駁的地方。
三個角度的比喻
現在著名的亞馬遜實驗性招募演算法的故事就是一個有用的比喻。何時接受有關簡歷和招聘決策的培訓 該系統了解到，與過去的男性員工的個人資料相似的申請人更有可能在技術職位上獲得較高的評價，實際上會降低簡歷的瀏覽量。它被“編碼為女性化”，這反映了男性主導的科技勞動力。
技術上狹窄 此模型沒有故障。利用收到的資料最佳化預測 相同的評分規則適用於所有申請人。它是官方有效且中立的。它不能做的是從非代表性資料產生代表性結果。
那時，公司面臨三個明顯符合三位一體的選擇。可以保留模型並接受不平等的結果（效率+公正性、弱代表性），增加公平約束以推動結果走向平等。並接受較低的預測準確性（效率+代表性較弱的中立性）或恢復人類決策並取代它以糾正模式（代表性+自由裁量權，較弱的形式中立性）亞馬遜最終走開了。
玩類似的弧線。 HireVue AI 面試影片廣告公司會自動分析臉部表情、語氣和字詞選擇。為標準化早期篩檢和減少偏見提供指南。批評者指出，這些特徵與殘疾狀況有關。神經多樣性和人口背景的方式很難歸因於工作相關性。在越來越大的壓力下，HireVue 完全放棄了臉部分析。
在這兩種情況下，失敗的都不是過濾自己的想法。失敗的是相信措施可以在一個起始條件不平等的世界中保持中立的信念。您可以從正確的模型中“免費”獲得性能、演示和客觀性。
玩具模型
簡單的模型具有清晰的結構。想像一下，一家公司希望從分成兩組的申請人中填補指定數量的職位：A 組和 B 組。透過預測模型對兩組申請人進行評分，該模型估計他們的成功機率。這是因為起步條件不平等，例如教育品質。以往經驗背景 A 組的平均預測成功率高於 B 組。該公司考慮一個標準：僱用預測成功分數高於預定水平的每個人。
在不平等的基本費率下，一條規則無法同時滿足這三項要求。無法選擇預期表現最好的候選人。 A 組和 B 組的招募人數與他們在申請者群體中所佔的比例相似。 （或人口）並對每個人使用相同的標準。如果公司堅持業績強、公正性強。公司將制定一項通用標準。招募人員將不成比例地從 A 組中抽出。這是預測分數較高的組別。代表與在團體中共享不同。
如果堅持強勁的表現和強有力的代表性，那麼中立性必須放鬆，並為群體制定特定的標準或權重。這樣就可以僱用更多 B 組的申請人。同時仍在努力選擇其中最好的。但A、B成績相同的申請者會受到不同的待遇。
如果一家公司堅持強烈的代表性和強烈的客觀性——對每個人來說都是同樣的規則。按組別劃分的招募率相似－公司不會整體上選擇得分最高的申請人。這使得一些得分較高的申請人失業。並接受分數較低的申請人，導致效率下降。除非不平等現象消失。
這是最簡單形式的正義三位一體。您可以選擇三角形的任兩個角。但第三個角度朝你移動。不可能主要不在於機器學習。它是在不平等的條件下分配稀缺的時段。
稀缺性並沒有消失。它移動
經濟學家以前看過這部電影。考慮租金管制。當價格上限低於市場出清水準時，稀缺性不會消失。它會移動、出現在隊列中、沒有價格的螢幕、邊付費、品質下降。無法分攤租金的屋主將被列入等候名單。個人網絡和判斷力、實證工作，例如 戴蒙德-麥奎德-錢關於舊金山租金管制的研究 顯示此模式
就業制度的運作方式大致相同。一種分配機制是有限的。稀缺性找到了另一個出路。當績效指標因公平性限製而無法分配。委員會的組織分配、例外、整體審查。和固體替換 每個動作透過放鬆第三個角度來保留三難困境的兩個角度。政策約束調節稀缺性；它們並不能消除稀缺性。
公司該做什麼
當接受效率代表和官方中立性時，不能立即最大化。問題變了。不要問“我們怎樣才能在不做出權衡的情況下消除偏見？”公司必須問：“我們願意放寬多少幅度？自由裁量權應該在哪裡？”
在招募演算法中採取更誠實的公平和包容性方法至少可以做三件事。明確優先事項。並根據該選擇進行設計監督。在可以審計的領域使用自由裁量權，例如結構化委員會、替換文件、審計流程。相反，價值判斷被嵌入到模糊正義模型和指標的設計中。並停止像神奇子彈一樣出售演算法。此模型無法設計出因不平等的起始條件而產生的權衡。最好 他們澄清了限制的範圍。哪些選擇需要花錢？
目標不是完美。這是合理的：三難困境的開放性決定在特定背景下具有約束力。並承擔後果
(0 則評論)
來源連結
