Home 資訊 在加拿大槍手第二個帳戶被發現後,OpenAI 將向當局發出可信威脅警報

在加拿大槍手第二個帳戶被發現後,OpenAI 將向當局發出可信威脅警報

7

據 OpenAI 稱,OpenAI 已在致加拿大當局的一封信中承諾加強其安全協議,並向執法部門通報可信威脅。 政治報華盛頓郵報。如果你還記得的話,在有報導稱該公司在禁止 2025 年不列顛哥倫比亞省大屠殺嫌疑人 Tumbler Ridge 的帳戶時沒有通知當局後,加拿大政界人士對該公司領導人進行了嚴厲批評。 OpenAI 的一些領導人已經會見了加拿大官員,Samet Al Samet 與 David Eby 也表示,不列顛哥倫比亞省省長與 David Eby 會面。

儘管 OpenAI 尚未宣布對其規則進行修改,但據報道,全球政策副總裁 Ann O’Leary 在信中寫道,該公司將修改其檢測系統,以便更好地防止被禁止的用戶返回平台。顯然,在 OpenAI 以「有關實施現實世界暴力的潛在警告」為由禁止槍手的原始帳戶後,槍手能夠創建另一個帳戶。該公司在肇事者姓名被公佈後才發現了第二個帳戶,並已通知當局。

此外,如果 OpenAI 在 ChatGPT 對話中檢測到“迫在眉睫且可信”的威脅,即使用戶沒有透露“計劃暴力的目標、手段和時間”,OpenAI 現在也會向當局發出警報。奧利裡解釋說,如果新規定在 2025 年槍手帳戶被封時生效,該公司就會通知警方。 OpenAI 還將為加拿大執法部門創建一個聯絡點,以便在需要時快速與當局共享資訊。

加拿大政府認為 OpenAI 不報告槍手原始帳戶的決定是失敗的。如果人工智慧聊天機器人的創建者無法證明他們有足夠的保護措施來保護用戶,它就威脅要對國內的人工智慧聊天機器人進行監管。目前尚不清楚 OpenAI 是否也計劃在美國和世界其他地方實施相同的變更。

來源連結