該公司在周四博客上的一篇文章中說，人工智能（AI）的人工智能（AI）發布了一種用於檢測核武器演講的工具。
“核技術本質上是雙重用途：核反應堆可以用於武器開發的相同物理原理。隨著AI模型變得越來越有能力，我們必須仔細監測它們是否可以以威脅它的方式為用戶提供危險的技術知識。” 在博客帖子中說。
該博客的帖子繼續說：“有關核武器的信息特別敏感，這使得對這些風險的評估挑釁了一家自行運營的私人公司。” “這就是為什麼我們去年4月與國家能源安全局（NNSA）（NNSA）（NNSA）合作，以評估我們的核擴散風險，並繼續在這些評估中與他們合作。”
Anthropic告訴博客文章，“克服了監視它所需的工具的風險”，並補充說，該業務使“ AI系統自動將“ Sorter”與DOE和NNSA一起自動分類為“ Sorter”。
根據博客文章，該系統“在初步測試中區分了核相關的講座96％”。
該公司還表示，該分類器已用於發行量，用於其自己的AI Claude模型“作為我們更廣泛的系統的一部分，以檢測濫用模型”。
Anthropic補充說：“早期增長數據表明，分類器與真正的Claude談話效果很好。”
Anthropic還宣布，本月初，它將在幾週前類似的Openai舉動之後，以1美元的價格向聯邦政府的每個分支機構提供Claude。 Anthropic在一篇博客文章中說，聯邦服務將訪問兩個版本的Claude。
