TikTok 花了數年時間完善準確了解你接下來想看什麼的藝術。打開應用程序，滾動幾次，突然間它顯示的視頻感覺奇怪地適合您的興趣。但在 TikTok 知道你是誰之前會發生什麼？根據影片編輯平台 Kapwing 的最新研究，答案是越來越多的人工智慧。
研究發現，全新 TikTok 帳戶上顯示的影片中近 60% 是人工智慧創建的低品質內容。這並不是一個埋藏在平台黑暗角落的小眾問題。這是 TikTok 在演算法開始對新用戶的推播進行個人化之前給他們留下的第一印象。如果這聽起來令人震驚，那麼圍繞兒童內容的發現就更難以忽視。
演算法的垃圾食物時代
TikTok 的推薦引擎專為快速客製化而設計。該平台會考慮從點讚和關注到觀看時間和滾動習慣的所有內容，然後再決定接下來向您展示什麼。為了了解原始的 TikTok 體驗是什麼樣子，研究人員創建了一個新帳戶，並查看了 For You 頁面上觀看的前 500 個影片。結果令人驚訝：其中 294 個影片被歸類為 AI 垃圾。這意味著，在 TikTok 獲得有關用戶偏好的有意義數據之前，新用戶更有可能遇到人工智慧產生的垃圾，而不是人類生成的內容。
也許更能說明問題的是 TikTok 與其他平台的比較。 Kapwing 先前在 YouTube Shorts 上進行了類似的實驗，發現人工智慧產生的混亂明顯減少。 TikTok 不僅更糟糕，而且更糟。此時，人工智慧內容不僅只是潛入平台。它成為平台默認美學的一部分。這可能就是這裡的真實故事。對於許多用戶，尤其是年輕用戶來說，人工智慧產生的影片不再是偶爾的怪事。他們變得正常了。
芝麻街遇上恐怖谷
報告最令人不安的部分集中在針對兒童的內容上。研究人員發現，TikTok 兒童類別中超過一半的影片被歸類為人工智慧產生的「馬虎影片」。特別是一個主題標籤#CartoonKids，幾乎完全被人工智慧生成的內容所取代，只有少數影片似乎是人造的。任何看過這些影片的人都會立即認出其中的公式——熟悉的卡通人物出現在奇怪的場景中，教程中充滿了錯誤，角色用令人不安的合成聲音說話，動畫以毫無意義的方式移動和變形。
這些內容往往乍看像是兒童節目，但一旦你注意到就會崩潰。這就是造成問題的原因。年幼的孩子沒有能力區分高品質的教育內容和人工智慧產生的、自信地呈現錯誤訊息的模仿內容。對成年人來說，算錯數字的數課看起來很荒謬，但學齡前兒童卻沒有同樣的背景。網路上一直存在著對兒童而言有問題的內容。改變的是規模。生成式人工智慧能夠以人類創作者無法企及的速度創造出無盡的視訊串流。 TikTok 的推薦系統似乎非常願意分發它們。
這個問題超出了兒童內容的範圍。研究發現，教育、科學、健康和歷史影片是受人工智慧影響最嚴重的類別。這是特別不幸的，因為這些正是準確性最重要的主題。製作拙劣的喜劇小品很容易通過。充滿捏造細節的歷史課或提出誤導性建議的健康影片是完全不同的故事。公平地說，並不是每個使用人工智慧的創作者都會產生垃圾。一些創作者正在嘗試使用人工智慧生成的演示者和圖形，以使教育內容更具吸引力。在最好的情況下，人工智慧充當支援創作者工作的工具，而不是取代它。然而，該報告強調了社群媒體中日益增長的現實：激勵措施往往獎勵數量而不是品質。如果創作者可以在以前製作一個視頻的時間內製作數十個視頻，那麼平台上就會充斥著技術上可觀看但提供的內容很少的內容。
TikTok 似乎知道用戶已經厭倦了它。該公司引入了控制措施，允許用戶減少他們看到的人工智慧生成內容的數量，並投資於人工智慧教育計畫。然而，研究表明，這些努力可能難以跟上洪水的步伐。諷刺的是，社群媒體之所以流行，是因為它提供了人類特有的東西：創造力、個性、專業知識和連結。人工智慧可以很好地模仿所有這些事情。但模仿不等於真實。當新用戶看到的影片中有近十分之六是用人工智慧製作的時，問題就不再是 TikTok 上是否有人工智慧。問題是它是否已成為該平台的決定性特徵。對於靠這些食物長大的一代孩子來說，這個答案比以往任何時候都更重要。
