AI通過結合邏輯和機器學習來學習遵循預定的標準

人工智能正變得越來越普遍 – 從計劃文本翻譯的路線，它長期以來已成為標準工具。但是，AI不足以提供有用的結果：越來越重要的是，它也與法律，道德和社會規範相對應。但是，如何教授這樣的規範呢？

在Tu Wyen開發了一種新方法。通過結合機器學習和邏輯，可以訓練自主代理以遵循預定的規範。甚至可以建立這些規範的層次結構 – 建立一些規範，以便它們比其他規範更重要。在 IJCAI 2025今年在加拿大蒙特利爾舉行的AI會議是 工作 他被認為是傑出論文的獎勵。

三線和錯誤

學習新的AI能力有時有點像寵物的培訓技巧：獎勵，如果任務正確完成，如果答案不正確，則懲罰。 AI嘗試各種行為，並通過反複試驗，學習如何最大程度地提高他的獎勵。該方法稱為增強培訓，在人工智能研究中起關鍵作用。

“您可以嘗試教授某些規則，鼓勵代理商遵守規範。在安全限制的情況下，這種方法效果很好，”該錯誤邏輯和計算研究所的Agatha Chiabattony教授說。 “但是，例如，這對有條件的規範行不通（“在條件B中”）。如果代理商找到了一種獲得獎勵的方法，他可以將其拖延以延遲他的實際工作，以便有更多時間獲得點數。”

作為邏輯公式的規範

Tu Wyen團隊選擇了一條根本不同的道路，該路徑受舊哲學著作啟發的途徑：規範仍然表示為邏輯公式，但是當代理商不與之相對應時，他們會受到懲罰。例如，“您不應超過速度限制”，翻譯為“如果您超過速度限制，您將收到懲罰X。”。最重要的是，每個規範都被視為一個獨立目標。

該文章的第一作者Emery Neifeld解釋說：“人造代理人可以實現目標 – 例如，找到方向列表的最佳方法。與此同時，我們還確定了他必須在這條道路上觀察到的其他規則和規範。” “每個規範都被視為不同目標的事實使我們能夠算法計算我們必須適合這些目標的相對權重，以便獲得良好的總體結果。”

使用此方法，甚至可以編碼複雜的規則集，例如，僅在某些條件下使用的規範或依賴違反其他規範的規範。

靈活的規範

“最引人注目的是，當規範變化時，培訓不應重新開始，” Agatha Chiabattony說。 “我們有一個學會遵守規範的系統，但是之後我們仍然可以配置這些規範或更改其相對重要性，宣布一個規則比另一個規則更重要。”

Ciabattoni和她的團隊在他們的文章中能夠證明這項技術使您可以實施廣泛的規範，而AI繼續追求其主要目標。