同人小說社群正在與人工智慧交戰——還有更多

上週，一項名為 FanWorks 的新運動發起，旨在利用人工智慧為教師加油。但所實施的檢測方法值得懷疑，任何業餘作家都可能陷入困境。

Claude、ChatGPT 等 AI 工具長期以來一直受到廣泛不喜歡 一件事 在創意社區，包括同人小說的世界。讀者和作家已經發送了有關發現人工智慧生成的創作的提示。但在 6 月 29 日，一個名為 @heatedrivalryai 的匿名 X 帳戶承諾提供更可靠的解決方案。它是流行同人文儲存庫 Archive of Our Own (AO3) ​​的皮膚式擴展，可識別 Anthropics 的 Claude Bot 留下的象徵性文物。

「當 Claude 產生的回應直接貼到 AO3 中的 Claude 時，文字會被 Claude 注入的程式碼『font-claude-response-body』包裹，」@heatedrivalryai 帳戶說道。 「它的存在強烈暗示了土塊的使用。」當使用者查看包含此程式碼的頁面（如同人作品）時，皮膚會將整個背景變成紅色。

AO3已經發布了一些測試帖子，允許用戶檢查它是否有效。當我自己根據這些範例測試皮膚時，螢幕立即變紅，我發布了克勞德為運行我自己的實驗而創作的短篇故事。當我直接從聊天機器人貼到編輯器中時，會出現紅色螢幕，而當我貼上不是直接來自克勞德的文字（包括相同生成的故事）時，它會消失。

克勞德探測器的貼文附有發現文物的同人範例，這位匿名創建者表示，這些範例顯示了系統的運作情況，而不是「創造一個不信任或責怪特定用戶的環境」。但同人社群很快就動員起來，公開點名並羞辱那些已發表作品被該工具標記的作家，而它的創造者當然並不認為人工智慧是一件正面的事情。 「Fandom 是一個獨特的互聯協作空間。它的蓬勃發展依賴於人性元素以及驅動和滋養牠的創意火花，」他們說。 “如果我們在不知不覺中讓人工智慧摧毀這些地方，它們還會剩下什麼？”

Anthropic 沒有回應我驗證風扇製作的包層探測器是否按描述工作的請求。不過，這裡的方法看起來不錯，而且我們自己的測試也支持它。除非以某種方式使用機器人，否則沒有明顯的理由讓故事中出現枯燥的程式碼。但顯然有漏報和過度概括的危險。

只有在從 Claude 直接複製到 AO3 的編輯器中時，程式碼包裝才會保留，因此它不會捕獲在 Google Docs 或 Microsoft Word 中編輯然後轉移到 AO3 中的任何內容 – 作為一個以寫作為生的人，我可以證明直接在 CMS 中編寫是多麼危險。一些被標記的作者已經更新了他們的作品以刪除這些工件，並且未來的作品可以輕鬆避免工具。

相反，該標籤並沒有透露在給定作品中使用了多少克勞德。要么那個閃爍的深紅色屏幕是整個故事完全由人工智能生成，要么克勞德粘貼了一些人類寫的句子進行拼寫檢查或翻譯，然後將它們移回AO3。

對於一些觀看的粉絲來說並不重要 任何 使用創意人工智慧是對更廣泛的創意社群不可原諒的背叛。許多人對這項技術對環境的影響以及如何透過抓取開放網路（包括上傳到 AO3 等網站的同人作品）進行教學表示擔憂。

這個特定工具的適用性是有限的－AO3並不是唯一發布同人作品的平台，而Claude只是眾多AI模型之一。至少有一個人表示，他們已經編寫了單獨的程式碼，可以檢測「Claude、Deepseek 和一些 ChatGPT」的使用，但他們尚未向公眾發布該解決方案或解釋其工作原理。我詢問 Google 和 OpenAI 他們的模型是否在文字生成中留下了任何可檢測到的偽影，但他們沒有回應。

事實上，如果有一個普遍的信任體係那就太神奇了。據我所知，幾年來我一直在報告人工智慧診斷的問題 不 目前，這是一種可靠的技術解決方案，用於區分生成的文字和人手鍵入的文字。 C2PA 內容憑證和 Google SynthID 等系統在識別可以基於圖像、視訊甚至音訊建構的人工智慧方面取得了一些進展，但這些系統依賴不可見的浮水印和元數據，而這些浮水印和元數據不會延續到複製貼上的文字中。

未來這種情況可能會改變，人工智慧公司有充分的動力在內部解決這個問題。早期的模型是根據從互聯網上不加區別地抓取的文本進行訓練的，當人類輸入填充其合成代碼時，它們面臨著“模型崩潰”場景的風險，從而降低了輸出的準確性。

目前，粉絲社群仍然主要依賴共鳴。大多數同人小說並不是透過像 AO3 皮膚這樣的工具來評判的，而是「說」包括從特定句子結構（例如「這不是 X，這是 Y」）到過度使用華麗隱喻的任何內容。 （至少，到目前為止，長凳還沒有被證明是男性。）但我們必須記住，人工智慧經常這樣寫，因為它是根據真實人類寫的東西進行訓練的。它試圖反映我們。我沒有足夠的勇氣分享我自己的 AO3 書籤，但我確實在 ChatGPT 之前的互聯網時代讀過一些非常棒的同人小說，但它們沒有通過這個可疑的嗅探測試。

AO3 已經有了一個出色的解決方案來區分 AI 工作：該平台強大的標籤系統。有一個「使用生成式人工智慧創建」標籤，許多作者添加它來演示 Claude 等工具的使用。這需要誠實的透明度，但考慮到強烈的反對，誠實的動力幾乎沒有。另外值得記住的是，同人小說應該是一種嗜好，而不是受監管的職業。

透過這些努力來防止人工智慧將人們的注意力從真正的人類驅動的創造力上奪走，那些被認為可以接受的寫作品質的作家可能會成為正在進行的政治迫害的無辜受害者。至少有一位作家已經被捕，因為他們信任的另一個人利用克勞德編輯了他們的小說。所以請記住，如果你讀的下一本同人小說有點機械化，它就不會是 實際上 將是機器人的產品。