印度 IT 部將在 Deepfake 擔憂中探索新的人工智慧監管

印度資訊科技部目前正在考慮制定專門的人工智慧監管框架，這意味著現有的資訊科技規則將發生重大轉變，以涵蓋假貨和合成內容帶來的不斷變化的挑戰。

圖：圖：Dominic Xavier/Rediff.com

印度似乎正在朝著建立一個專門負責人工智慧的監管機構的方向發展，IT 部長 S Krishnan 週五表示，是時候建立一個獨立的人工智慧組織了。克里希南指出，目前的法律規定足以解決諸如深度偽造和人工智慧生成的合成內容等最初的商業問題，“需要額外的監管或立法。”

克里希南說：「對話已經開始，我的部長（IT部長阿什維尼·瓦什諾）和我早些時候都提到，我們將在時機成熟時考慮人工智慧的安排，而且時機似乎合適，我們將開始考慮它。」他補充道：「我們已經制定了 IT 規則和其他現有法律條款來處理人工智慧提出的各種問題，現在可能是時候考慮個別法律了。」

為什麼我們需要新的人工智慧法

當被問及引入新的人工智慧法規的機會時，這位資訊技術部長表示：“作為一個部委，在官方層面上，我們能做的就是準備法律草案……當它最終出來時，我無法發表評論，尤其是當它是立法時。”

上個月，聯邦部長阿什維尼·維什諾(Ashwini Vaishnaw)在接受印度報業托拉斯(PTI)採訪時表示，現行的資訊科技法早在人工智慧(AI)迅速出現之前就已存在，可能需要一個新的法律框架來應對不斷變化的情況。維什諾曾表示，該條約是關於工業的，政府將尋求維持創新與監管之間的平衡。

全球挑戰與印度的因應措施

世界各地的消費者都面臨人工智慧帶來的挑戰，包括隱私、錯誤訊息和網路傷害。印度正透過收緊 IT 規則來堅決打擊人工智慧深度造假。

今年 2 月，政府對線上平台在處理人工智慧生成和合成內容（包括深度偽造內容）方面提出了更嚴格的義務，稱 X 和 Instagram 等平台必須在三小時內刪除任何受到主管機關或法院制裁的此類內容。

最近對 IT 規則的觀察

政府已通報 2021 年資訊科技（媒體和數位媒體道德準則）規則的修正案，該規則正式定義了人工智慧生成和合成的內容。

這些增強功能被定義為“音訊、視覺或視聽資訊”和“合成產生的信息”，掩蓋了人工智慧創建或更改的看似真實或可信的內容。自訂編輯、可訪問性改進以及真正的教育工作或建議不在此定義範圍內。

該中心還推動對人工智慧生成的內容制定更嚴格的揭露準則，建議對 IT 規則進行調整，要求在整個視覺顯示期間清晰、連續的合成生成的標題可見。

免責聲明：新聞內容來源於所述來源。標題、摘要、章節標題、圖像是使用人工智慧/演算法自動生成或選擇的，可能並不總是完全準確。建議讀者參考全文以了解完整背景。