RBI 承認實體業務和決策流程中人工智慧/機器學習不斷發展的例子，可以暴露治理、監督、風險管理和財務、營運、合規和聲譽風險機構控制方面的弱點。
請注意，此 ChatGPT 使用者產生的插圖僅出於代表性目的而發布。
印度儲備銀行週三發布的《監管模型風險管理原則指南》草案表示，受監管實體將被要求為所有模型建立經批准的模型風險管理框架（MRMF），包括人工智慧和機器學習（AI/ML）模型。
如果模型源自內部、第三方或由兩者混合製造，則建議的框架將適用。
對法規草案的評論可以在 7 月 24 日之前提交。
根據擬議的框架，應要求董事會定期審查 MRMF，批准實體的風險偏好和模型風險承受能力，並確保此類評估以風險分析和循證測試為基礎。
董事會必須批准與模型風險管理和模型風險分類相關的政策。
重點
- 印度儲備銀行提出了一個經董事會批准的模型風險管理框架，該框架使用所有人工智慧、機器學習和受監管實體的傳統模型。
- 在部署高風險模型之前，董事會和風險委員會將監督模型驗證、風險分類、測試和壓力管理。
- 該準則要求銀行評估第三方人工智慧模型的風險，並在供應商透明度不足的情況下實施保障措施。
- 客戶支援的人工智慧系統必須包括網路安全保障措施、偵測人工智慧的使用、解釋限制並請求人工協助。
- 印度儲備銀行已邀請在 7 月 24 日之前就該指南草案提供回饋，然後風險管理框架模型將最終確定。
董事會檢查規則
RBI 承認實體業務和決策流程中人工智慧/機器學習不斷發展的例子，可以暴露治理、監督、風險管理和財務、營運、合規和聲譽風險機構控制方面的弱點。
該指南草案提出了在此類系統的整個生命週期中管理模型相關風險的廣泛監管期望。
央行提議賦予董事會風險管理委員會更大的監督角色。
該計劃將需要審查其部署的風險模型的驗證報告，監督第三方和基於人工智慧的模型，至少每年審查模型風險分類，並檢查材料故障和其他重大問題。
第三方人工智慧範例
印度儲備銀行也調查了使用第三方人工智慧模型產生的電子風險。
他表示，如果供應商沒有披露有關人工智慧/機器學習模型的足夠信息，則受監管實體應識別此類限制帶來的風險，並採取適當的保障措施，包括在必要時使用此類模型的限制。
監管機構將需要評估人工智慧模型的人類特徵以及在非典型和壓力場景下的測試性能所產生的風險。
根據該計劃，組織應評估極端情況、異常輸入、企業設備和對抗條件下的模型，以識別在正常操作條件下不會出現的漏洞。
該框架草案還要求監管實體部署不會在生產環境中引入漏洞的人工智慧模型，並實施適當的保護措施來減輕此類風險。
網路安全衛士
針對一般人工智慧應用中的人工智慧系統，RBI 提出了額外的網路安全保障措施，以防止即時注入攻擊和對手輸入、會話和上下文持久性限制以及檢測異常使用模式的機制。
監管機構還需要在與基於人工智慧的系統互動時通知用戶，披露此類系統的局限性，並提供請求人工協助的選項。
人工檢查任務
央行提議超越以人為基礎的監管，轉向人工智慧驅動的決策。
監管機構需要建立機制來審查追求自動化、過度依賴模型輸出和決策疲勞而產生的電子風險。
專題介紹：Ashish Narsale / Rediff
