Google的SynthID浮水印很難破解，但它並不能解決與AI相關的錯誤訊息

即使在今天，仍有許多開放模型可以產生完全沒有任何標記的圖像。即使大多數主要人工智慧參與者採用多方面的方法進行人工智慧內容分類，這些人工智慧模型也可以無限期地共享和改進。生產力的精靈已經從瓶子裡出來了，無法再塞回去。

由於總是會有未命名的人工智慧內容，因此您不能依靠浮水印來告訴您什麼是正確的。隨著人工智慧分類變得越來越普遍，人們可能會認為缺乏這種分類的照片或影片自動是合法的。這是一個人可能會犯的嚴重但可以理解的錯誤。雖然隱形浮水印的存在可能會為人們在探索日益扭曲的網路時帶來一定的安全感，但這並不是了解真相的可靠方法。

「我們生活的未來將越來越成為一個內容無限的世界，」羅斯說。 「這是經濟學 101，供給和需求。供給已經達到頂峰，內容的價值將繼續崩潰。但對經過驗證的內容的需求將日益增加，這是一種證明某物如其所聲稱的那樣的方式。”

僅人工智慧內容的數量就無法對其進行完全分類。谷歌的 1000 億張 SynthID 照片和影片只是已經壓倒網路上原創內容的冰山一角。專注於驗證真相可能比揭露謊言更好。

「世界上用實際相機可以創建的內容數量是有限的，」資深攝影記者和 Starling 同事 Mike Carona 解釋道。 「可以創建的合成內容的數量是沒有限制的。這就是為什麼我們要專注於稀有的東西，而稀有的是誠實的、高價值的信息。如果我們能夠確保這些信息並證明它是真實的，我們就可以抵禦說謊者的收益。”