人工智能規則將社交媒體置於掃描儀之下

“將義務寫入規則很容易，但在技術上實施起來卻非常困難，甚至更容易規避。”

請注意，使用 ChatGPT 創建的此圖像僅出於代表性目的而發布。

行業高管和政策專家表示，中央政府擬議的《信息技術規則》修正案——對所有人工生成的內容強制添加標籤和免責聲明——可能會增加社交媒體中介機構的合規成本和負擔。

政府高級官員表示，這些修正案旨在遏制有害且“相當真實”的深度造假圖像、音頻和視頻的傳播。

“我們與主要科技公司舉行了幾次會議，他們向我們保證，他們擁有解決這一問題所需的技術專業知識和工具。

電子和信息技術部（Meity）的一位高級官員表示：“如果有具體問題，我們將在諮詢期間確定。”

然而，社交媒體公司高管和政策專家表示，簡單地在人工智能生成的內容中標記或嵌入元數據不太可能解決問題。

“將義務寫入規則很容易，但在技術上實施起來卻非常困難，甚至更容易規避。

“非技術人員可以在幾分鐘內創建此類內容並刪除水印、標籤或免責聲明，”一家社交媒體公司的高管表示。

另一位高管表示，政府提出的免責聲明或人工智能標籤覆蓋內容至少 10% 的要求會干擾用戶體驗，並增加頁面加載和平台登陸時間。

第三位官員警告說，這些水印和免責聲明可能會導致更多用戶使用不遵守印度 IT 規則的國家開發的大語言模型和小語言模型。

週三，Meity 發布了 IT 規則修正案草案，稱所有允許人工智能生成內容的互聯網中介機構必須“確保任何此類信息都明確標記或嵌入永久唯一的元數據或標識符”。

中介機構還必須確保他們擁有技術工具來驗證用戶關於人工智能使用的陳述的準確性。

此外，該部建議，用戶關於人工智能生成內容的聲明必須“顯著展示”。

利益相關者被要求在 11 月 6 日之前提交意見。

雖然主要社交媒體中介機構的合規負擔會更大，但專家表示，較小的平台（用戶數少於 500 萬的平台）也可能面臨更高的合規成本。

技術政策智庫“對話”的創始主任卡齊姆·里茲維 (Kazim Rizvi) 表示，鑑於問題的嚴重性，有效標記內容可能具有挑戰性。

“當今大量的數字內容已經以某種形式進行了綜合改變，”他說。

“對於不重要的社交媒體中介機構來說，標記合成媒體的義務僅適用於使用應用內工具創建內容的情況。

“如果用戶上傳或發布第三方製作的合成媒體，中介機構沒有義務對其進行標記，”里茲維補充道。

公共政策公司 The Quantum Hub 的創始合夥人羅希特·庫馬爾 (Rohit Kumar) 表示，其他擔憂——例如合成媒體的廣泛定義——也可能使合規變得複雜。

“考慮到人工智能工具廣泛地集成到日常內容創建中，這可能會導致過度或常規化的標記，隨著時間的推移，會降低此類警報的有效性。

庫馬爾說：“此外，自動檢測機制遠非可靠——它們可能會將合法的、經過輕微編輯或人工智能輔助的內容錯誤地歸類為合成內容，而復雜的深度偽造可以完全避免檢測。”

專題介紹：Ashish Narsale/雷迪夫