為了阻止索拉的虐待，莊園使用人工智能來對抗人工智能

距離 OpenAI 推出最新的 AI 視頻生成模型 Sora 2 還不到一個月，其對版權角色和現實生活公眾人物的超現實描繪所帶來的問題已經浮出水面，人們無法壓制它們。

10 月 17 日星期五的這個特別早上，OpenAI 發表聯合聲明 馬丁·路德·金遺產管理委員會表示，在用戶“對金博士的形象進行不尊重的描述”後，他們已“暫時停止”金博士的《索拉》的生產，並將加強對歷史人物的“護欄”。我們只能想像，在 OpenAI 採取任何行動之前，一定存在著什麼樣的壞事。

OpenAI 在聲明中強調，它認為對歷史人物的描繪仍然存在“強烈的言論自由擔憂”。我們觀看了索拉製作的一段視頻，其中顯示了金博士的肖像，說他有一個夢想，有一天他可以讓“那該死的光”停止在他的床上閃爍，所以，是的，打電話給第一修正案律師。 OpenAI 還致力於演員或業主“可以要求他們的圖像不在 Sora 照片中使用”的想法。

正如我們之前詢問過許多律師的那樣，人們想要選擇退出的這一方面並不是我們的做法 任何 一種合法正確的業務。每個不想讓自己的形像被看到的公眾人物——尤其是已故的公眾人物——都需要這樣做 講述 OpenAI 在他們答應之前就停止了，這令人難以置信。這並不意味著 OpenAI 還沒有訓練 Sora 使其看起來像那個通用角色，而只是意味著理論上你將無法再生成那個人。

但人工智能問題並沒有消失。當你閱讀最後幾段時，其他人為 Sora 製作了一個視頻。於是房產和權利的所有者開始以牙還牙。

本週早些時候，人才管理公司 CMG Worldwide 與一家名為 Loti AI 的人工智能公司合作，該公司使用人工智能掃描網絡以查找被盜內容並發布刪除問題。該公司與公眾人物和個人都有合作。該公司的數據庫顯示，一天之內查找和刪除人工智能生成的視頻、圖像或音頻的效率高達 95%。

到目前為止，只有少數客戶很快同意接受保護，儘管任何其他提出請求的 CMG 客戶都可以獲得保護。已故公眾人物的權利受到管理，現在受到這種保護的名單包括：伯特·雷諾茲、克里斯托弗·里夫、金傑·羅傑斯、哈利·貝拉方特、吉米·斯圖爾特、約翰·韋恩、朱迪·加蘭、米基·魯尼、拉蔻兒·韋爾奇、安德烈·巨人、喬·路易斯、Macho Man Randy Savage、洛基·馬西亞諾、舒格·雷·羅賓遜、大衛·魯芬、阿爾伯特。愛因斯坦、喬治·巴頓將軍、馬克·吐溫、尼爾·阿姆斯特朗和羅莎·帕克斯。

Loti AI 首席執行官 Luke Arrigoni 告訴 IndieWire，他們正在用 AI 來對抗 AI。但其模型的訓練無需針對個人的所有個人資產構建完整的模型。該公司使用語音和麵部識別工具來識別露骨內容、深度偽造、冒充者、虛假認可，甚至不是人工智能生成的內容，並自動執行檢測和刪除過程。

Arrigoni 表示，雖然其他專門發現深度偽造品的公司現在很難考慮 Sora 視頻的真實性，但 Loti 使用的面部識別工具使查找內容變得更容易，即使新視頻很快出現。

“很難在 Sora 造成問題的層面上進行乘法運算，除非你基本上已經像我們一樣構建了一個自動刪除、自動檢測過程的系統，”阿里戈尼說。 “我們認為世界就是這樣運作的，大約一年前，我們開始構建工具，讓公眾人物、死後遺產和知識產權所有者更容易管理這一刻。（它）非常實用。我們所做的，我們很容易找到，也很容易刪除它。”

塞爾達·威廉姆斯可能對此感興趣，她最近懇求人們停止發送她已故父親羅賓·威廉姆斯的視頻，她寫道：“這很愚蠢，浪費時間和精力，相信我，這不是他想要的。”

她在 Instagram 上的一份聲明中寫道：“看著真人的遺產被濃縮成一種與他們相似的形式，這就足夠了，這樣其他人就可以製作出令人驚嘆的 TikTok 動作來感動他們，這真是令人抓狂。” “你不創造藝術，你從人類生活、藝術和音樂的歷史中製作令人厭惡的、過度加工的香腸，然後把它塞進別人的喉嚨裡，希望他們能喜歡一點。這太噁心了。”

阿里戈尼表示，好萊塢正在採用像他這樣的人工智能安全服務，他一直在接聽來自主要機構和版權所有者的電話。他謹慎但樂觀地對待事情，看看他們如何仍然能夠與 OpenAI 和谷歌等科技巨頭合作。儘管他樂觀地認為科技行業將製定其所需的規則，但 OpenAI 如果想參與其中，就需要重新考慮其退出策略。

“選擇加入應該是唯一的事情。如果你想參與，有一個安全機制可以確保每個人都可以加入，並且確實是你而不是其他人在欺騙 Sora 系統，”阿里戈尼說。 “選擇退出並不是一個好的策略。選擇退出會導致人們濫用這些系統，這並不是 Sora 的過錯，除非人們能夠參與並說，‘這些是我為自己制定的規則。’”