一項新的調查顯示，受歡迎的人工智慧聊天機器人（包括 ChatGPT 和 Gemini）可能會無意中將用戶引導至非法賭博網站。這項分析是由《衛報》和《歐洲調查》的記者進行的，測試了幾種廣泛使用的人工智慧系統，發現許多系統可能被欺騙，推薦在英國監管之外運營的無牌離岸賭場。
測試涉及來自主要科技公司的五種人工智慧工具，包括 OpenAI、Google、微軟、Meta 和 xAI (Grok)。研究人員向聊天機器人詢問有關線上賭場和賭博限制的問題。在許多情況下，系統會傳回非法投注網站的列表，以及如何使用它們的建議。一些機器人甚至提出了繞過旨在保護易受攻擊的用戶的保護措施的方法。
繞過賭博保護的技巧
最令人不安的發現之一是聊天機器人很容易被要求幫助用戶規避負責任的賭博系統。例如，在英國，GamStop 允許人們自我排除在獲得許可的賭博網站之外。然而，據報道，一些人工智慧系統提供了尋找不隸屬於該系統的賭場的指導。
調查還發現，一些機器人強調了旨在吸引玩家的功能，例如高額獎金、快速支付或使用加密貨幣的能力。這些賭場通常在庫拉索島等離岸司法管轄區的監管下運營，監管機構表示，這使得保護用戶免受欺詐或成癮行為變得更加困難。
針對這個問題，聊天機器人背後的公司表示，他們正在努力改進安全系統。 OpenAI 表示，ChatGPT 旨在拒絕促進非法行為的請求，而微軟表示，其 Copilot 助理包含多層保護措施，以防止有害建議。
然而，這些發現加劇了人們對人工智慧生產系統如何處理心理健康、賭博和非法活動等敏感主題的日益嚴格的審查。英國監管機構已經警告說，包括人工智慧服務在內的線上平台必須根據該國的網路安全法採取更多措施來防止有害或非法內容。
