人工智慧在他的書中放置了「合成引語」。但作者想繼續使用它。

從縫隙中溜走

羅森鮑姆告訴我，他在寫作過程中使用了人工智慧工具，「集思廣益，識別文章，總結主題，並識別我可能想看的人或論文。」他在此類研究與「書中的實際報告、敘述結構、訪談、論點和結論」之間劃出了一條強硬的界限，他說這些「完全是我的…從來沒有人工智慧在寫這本書」。

除了基於羅森鮑姆說他自己進行的訪談記錄的章節外， 真理的未來 它還包括更多基於研究的章節，羅森鮑姆說，「我們收集事實，然後將它們結合在一起形成一個敘述。」他表示，OpenAI 的 ChatGPT 和 Anthropic 的 Claude 等工具被大量用於收集信息，這些工具提取的任何信息都會在他的筆記中貼上“這來自人工智能”的警告標籤。

他富有創造力、狡猾，而且在所有這些方面都異常不尋常……然後他以真正可怕的方式背叛了你。

史蒂芬·羅森鮑姆

羅森鮑姆說，這些人工智慧產生的筆記隨後被傳遞給出版商提供的事實查核人員和文案編輯。在書中的 285 條外部引用中，《泰晤士報》認為其中 6 條存在問題，其中包括 3 條沒有明確來源的所謂「人工引用」。 （隨著本書的進一步審查，可能會出現更多例子。值得注意的是，大多數作者都設法包括 零 他們寫書時編造的引言。 ）

「我認為我們（雙重驗證）非常有效，但不是 100%，」Rosenbaum 告訴 Ars。 “我們做工作，我們盡力而為。我們看了看，它看起來是正確的。我們仔細檢查了它，然後我們犯了一個錯誤。”

但這裡的重大失敗凸顯了傳統的事實查核可能不足以處理人工智慧驅動的研究。在過去，事實查核人員可以合理地確信任何引用被引用書面作品的作者只是直接複製了這些引文。當然，這些引述應該經過驗證，但事實上它們很容易驗證，這使得它們本質上不那麼可疑。然而，如果人工智慧工具在流程中的任何地方使用，這種假設就會被拋諸腦後，並且必須對這些引文是否被正確轉錄或根本存在有額外的懷疑。