谷歌在參議員稱其捏造攻擊聲明後撤回人工智能模型

Google 他說 在一名共和黨參議員抱怨該為程序員設計的模型“捏造了針對她的嚴重刑事指控”後，該公司將 AI 模型 Gemma 從其 AI Studio 平台上撤下。

谷歌官方新聞賬戶在 X 上的一篇帖子中表示，該公司“看到了非開發人員試圖在 AI Studio 中使用 Gemma 並向其提出真正問題的報導”。 AI Studio是一個面向開發者的平台，而不是普通消費者訪問谷歌人工智能模型的傳統方式。 Gemma 被特別宣傳為 AI模型家族 供開發人員使用，其變體為 醫療用途, 編纂和 文本和圖像內容的評估。

谷歌表示，Gemma 從來沒有打算被用作消費者工具或用來回答真正的問題。 “為了避免這種混亂，AI Studio 中不再提供對 Gemma 的訪問。開發人員仍然可以通過 API 訪問它。”

谷歌沒有具體說明哪些報導導致傑瑪被免職，但周四參議員瑪莎·布萊克本 (R-TN) 他寫道 首席執行官桑達爾·皮查伊 (Sundar Pichai) 指責該公司誹謗和反保守偏見。布萊克本也在參議院貿易聽證會上提出了這個問題，該聽證會涉及多樣性活動家羅比·斯塔巴克對谷歌的誹謗訴訟，他聲稱當被問到“瑪莎·布萊克本是否被指控強姦？”時，傑瑪給出了錯誤的答案。

傑瑪顯然回應稱，布萊克本在 1987 年競選州參議員期間“被指控與一名州警發生性關係”，她聲稱這“迫使他服用她的處方藥，並且這種關係涉及非自願行為”。布萊克本說，她還提供了一系列假新聞文章來支持這個故事。

這些都不是真的，甚至競選活動的年份（實際上是 1998 年）也不是真的。這些鏈接會導致錯誤頁面和不相關的新聞文章。從來沒有這樣的指控，沒有這樣的人，也沒有這樣的消息。這並不是無害的“幻覺”。這是一種由谷歌擁有的人工智能模型製作和傳播的誹謗行為。

敘述有一種熟悉的感覺。儘管人工智能快速爆發已經有很多年了，但人工智能模型與事實仍然有著複雜的關係。人工智能聊天機器人偽裝成事實的虛假或誤導性反應繼續困擾著整個行業，儘管有所改進，但仍沒有明確的解決方案來解決準確性問題。谷歌表示，它仍然“致力於最大限度地減少幻覺並不斷改進我們的所有模型。”

布萊克本在信中表示，她的回應保持不變：“將其關閉，直到可以檢查為止。”