該門戶網站將使用人工智能玩具的兒童對話向任何擁有 Gmail 帳戶的人開放

本月早些時候，約瑟夫·撒克的鄰居向他提到，她為她的孩子們預訂了一些恐龍毛絨玩具。她選擇了這款名為 Bondus 的遊戲，因為它們提供了人工智能聊天功能，讓孩子們可以像支持機器學習的想像中的朋友一樣與遊戲交談。但她知道安全研究員撒克曾研究人工智能對兒童的危險，她很好奇他的想法。

所以薩克爾對此進行了調查。在短短幾分鐘的工作時間裡，他和一位名叫 Joel Margolis 的網絡安全研究員朋友有了一個驚人的發現：Bondu 門戶網站的目的是讓父母檢查孩子的對話，讓 Bondu 員工監控產品的使用和性能，並且還允許任何擁有 Gmail 帳戶的人訪問 Bondu 兒童用戶在遊戲中進行的幾乎所有對話的記錄。

無需進行任何實際的黑客攻擊，只需使用任意的谷歌帳戶登錄，兩位研究人員就立即發現自己正在查看孩子們的私人對話、孩子們給邦多起的寵物名、年輕玩具主人的好惡、他們最喜歡的零食和舞蹈動作。

總而言之，馬戈利斯和薩克爾發現 Bondo 留下的未受保護的數據（任何人都可以使用其 Google 用戶名登錄該公司的公共網絡控制台）包括孩子的姓名、出生日期、家庭成員的姓名、孩子由父母選擇的“目標”，以及最令人不安的孩子和 Bondo 之前每一次對話的詳細摘要和記錄，而 Bondo 是一款實際上旨在引發兩個人之間親密對話的遊戲。 Bondo 在與研究人員的對話中證實，可以通過暴露的門戶網站訪問超過 50,000 條聊天文本，這基本上是遊戲涉及的所有對話，除了那些被父母或員工手動刪除的對話。