阻止「演算法法官」：布宜諾斯艾利斯法院禁止人工智慧判處刑罰或評估證據

阿根廷司法部門邁出了前所未有的一步， 布宜諾斯艾利斯省高等法院 批准了一項規範其使用的法規草案 人工智慧（AI） 布宜諾斯艾利斯的體育場內。但“管轄權的職能不可轉讓且不可替代”， 高院力求防止科技工具取代司法決策中的人類理性。

這項措施是在人工智慧不再是一種實驗技術的背景下提出的 律師正式與非正式使用的資源 以及負責從客戶服務到法理學系統化等任務的官員。然而，法院警告生產系統可能產生的危險 「錯誤的幻想」（不準確的結果），有偏見的內容 或產生一個 “自動化偏見”這是交易者過度相信演算法建議的傾向。

這就是為什麼他創造了一個 “人工智慧治理和使用委員會”， 該委員會由規劃秘書處、資訊科技秘書處和司法事務秘書處組成。

它將作為執行機構，並有權推薦方案、評估工具、促進試點測試、監測結果和準備定期報告。

根據該決議，LA NACION 有權訪問3000-21862-2026，最高法院制定該規定的依據是鞏固改進司法行政的需要，同時又不損害正當程序和有效司法保護的憲法保障。

該文件強調了這一點 布宜諾斯艾利斯的司法機構幾乎完全處於「數位階段」運作這是促進這些工具「逐步、負責任和策略性」整合的有利環境。

同樣，該法規定義 嚴格禁止，保障公民基本權利 涉及法律訴訟。明確禁止的用途之一是使用預測系統 復發的風險 對他的決定有約束力 自由或預防性羈押。還 嚴禁利用人工智慧製造“合成證據” 或自動化，以及在沒有授權專家的積極參與和嚴格驗證的情況下起草專家報告。

該項目採用基於風險等級的方法。例如，考慮轉錄聽證會或糾正拼字等行政任務 「低風險」。 同時，那些協助關鍵功能（例如監管解釋或預測訴訟結果）的功能被歸類為 “高風險”。後者必須每六個月進行一次審計，並要求“演算法影響分析在其應用之前。

為了確保透明度，該法規要求法官和官員 他們使用人工智能生成器時的詳細信息。他們必須指定係統的名稱、使用的模型以及文件的哪些特定部分是在技術協助下產生的，使各方能夠控制並最終挑戰上述幹預。

最後， 法院禁止其成員使用聊天機器人 考慮到此類個人資料可能被用來訓練機構控制之外的未來模型的風險，可以免費或商業存取（例如 ChatGPT）來處理敏感的司法資訊或正在進行的調查。

目前該項目正在進行中 公開徵求意見直至 7 月 8 日允許法官、律師和學術界提交提案。

在此日期之後，該委員會應處理收到的文件，並在 8 月 31 日之前向最高法院提交報告。在最終版本獲得批准之前，該文本將是指示性的且不具有約束力。