該公司還在推動立法，以打擊人工智慧造成「大規模」詐欺的可能性。
谷歌宣布，已起訴一家中國網路犯罪網絡，稱該網絡利用其 Gemini AI 進行「大規模」詐欺活動。這家搜尋巨頭已與 FBI 以及營運商 AT&T、T-Mobile 和 Verizon 協調，以分拆該業務。谷歌也正在推動更新法律來應對基於人工智慧的攻擊，稱該技術有可能「增強」威脅。
谷歌總法律顧問德萊恩·普拉多 (DeLaine Prado) 表示：“這是我們第一次共同努力和起訴，這說明了這一特定欺詐行為的影響範圍。” 紐約時報 在一次採訪中。
谷歌在訴訟中指控一家名為 Outsider Enterprise 的中國組織利用其技術和品牌進行欺詐，並尋求限制令以關閉網路。據稱，該組織利用 Gemini 創建冒充 Google、YouTube 以及美國郵政服務和紐約市 E-ZPass 收費服務等政府組織的網站。鑑於 Google 控制著 Gemini，該公司尚未透露其採取了哪些內部措施來解決該問題。
谷歌表示，該騙局已經影響了“數十萬受害者”，估計損失達數百萬美元。該團隊在短短兩週內創建了 9,000 個虛假網站和 100 萬個詐騙 URL，同時產生了 55,000 個由 Android 用戶標記的垃圾郵件和 250 萬條帶有詐騙網站連結的訊息。
谷歌指出，所有這些都來自單一功能，這就是為什麼它支持七項兩黨法案以遏制未來的人工智慧詐欺。其中包括《國家打擊詐騙策略法》、《預防詐騙策略工作小組法》、《制止針對老年人的詐騙法》和《人工智慧專案法》。 「這不是垃圾郵件。這是透過我們的手機販運的跨國組織犯罪，需要像威脅本身一樣協調和積極的應對措施，」眾議員布萊恩·菲茨帕特里克（賓夕法尼亞州共和黨人）說。
聯邦調查局助理局長布雷特·萊瑟曼補充道：“犯罪分子越來越多地利用人工智能來使此類欺詐行為變得更有說服力且更難被發現。” “我們需要一個永久的解決方案將他們繩之以法。”
