三歲的瑪雅和她的母親維琪在劍橋大學教育學院觀察期間玩一個名為 Gabbo 的人工智慧玩具。
劍橋大學教育學院
即使是最先進的人工智慧模型也傾向於將虛構的內容當作事實，傳播危險訊息並且無法識別社會線索。儘管如此，配備可以與兒童交流的人工智慧的玩具仍然是一個不斷發展的行業。
一些科學家警告說，這些設備可能很危險，需要嚴格監管。在最新的研究中，研究人員甚至觀察到一個 5 歲的孩子對這樣的玩具說“我愛你”，而玩具則回應道：“友情提醒，請確保互動遵循所提供的指導方針。讓我知道你想如何進行。”但這並不意味著它們應該完全從玩具箱中消失。
「在生活的其他領域，我們接受兒童遊戲存在一定程度的風險，例如，遊樂場——存在風險；孩子們會絞盡腦汁，」劍橋大學的珍妮·吉布森說。 「但我們不會禁止遊樂場，因為它們教導孩子們在玩耍過程中的身體素養和社交技能。同樣，對於人工智慧玩具，我們想了解：時不時被告知一些奇怪的事情的風險是否大於更多地了解世界上的人工智慧或擁有一個支持親子互動或具有認知或社交情感益處的玩具的好處？我不想停止這種創新。」
為了了解這些設備如何與兒童交流，吉布森和她劍橋大學的同事艾米麗·古德克觀看了 14 名 6 歲以下的兒童玩由 Curio Interactive 開發的名為 Gabbo 的人工智慧玩具。選擇毛茸茸的小機器人 Gabbo 是因為因為它明確地向那個年齡層進行了廣告。
這對夫婦觀察到了一些令人不安的互動，並發現 該玩具誤解了孩子們的意思，誤讀了他們的情緒，並且無法參與對發展至關重要的遊戲類型。例如，一個孩子告訴玩具他很傷心，但她告訴他不要擔心並改變了話題。 「當他（加博）不明白時，我就會生氣，」另一個孩子說。這項研究發表在一份名為《早期人工智慧》的報告中。
Curio Interactive 未回應 新科學家 請求發表評論。但 Little Learners 等零售商也廣泛銷售人工智慧驅動的玩具，包括熊、小狗和使用 ChatGPT 與兒童溝通的機器人。 FoloToy 提供熊貓、向日葵和仙人掌玩具，可與多種大型語言模型一起使用，包括來自 OpenAI、Google 和百度的語言模型。
Miko 等公司提供的機器人承諾為兒童提供“適合年齡的人工智慧對話”，但沒有透露是哪家公司訓練了人工智慧模型，並聲稱已售出 70 萬台。盧卡的公司提供了一種貓頭鷹，承諾「具有情感互動的人類人工智慧」。小門徒、米科和盧卡沒有回應置評請求。
但 Hugo Wu 和 FoloToy 表示： 新科學家 該公司正在考慮風險，並將人工智慧視為可以改進遊戲的東西，而不是取代人類的對話和關係。 」我們的方法是確保互動保持安全、適合年齡且具建設性。為了實現這一目標，我們的系統使用意圖識別和多層過濾來最大限度地減少不適當或令人困惑的反應的可能性，」吳說。我們實施了防成癮功能和家長監護工具等機制，以確保在家庭環境中健康使用。 」
牛津大學研究人工智慧倫理的 Carissa Veliz 表示，這項技術既帶來了風險，也帶來了機會。 「大多數大型語言模型似乎都不夠安全，無法讓弱勢群體接觸，而幼兒是最脆弱的群體之一，」她說。 「特別令人擔憂的是，我們沒有針對它們的任何安全標準 – 沒有監管機構，沒有法規。但是，有一些例外情況表明，只要採取正確的預防措施，您就可以擁有安全的工具。”
Velis 引用了免費電子書庫 Project Gutenberg 和 Empathy AI 之間的合作，例如，您可以在其中與 Alice 聊天 愛麗絲夢遊仙境。 「這個模型永遠不會離開書的範圍，而只是回答有關書的問題，就像一本故事書，只講述一本適合兒童的書的冒險和神秘，」她說。 “安全人工智慧確實存在，但大多數公司沒有承擔足夠的責任來創造高品質的產品，而且沒有正式的護欄，這是消費者需要小心的領域。”
吉布森表示，現在判斷人工智慧玩具的風險或潛在好處還為時過早。她和古德克強調，人工智慧驅動的生成玩具需要更嚴格的監管，以便玩具製造商對其設備進行編程，以促進社交遊戲並提供適當的情緒反應。吉布森說，人工智慧製造商應該拒絕行為不負責任的玩具製造商的進入，監管機構應該制定規則以「確保兒童的心理安全」。同時，這對夫婦建議父母只允許孩子在監督下使用此類玩具。
這是由 OpenAI 的代表宣布的。 新科學家 「未成年人應該得到強有力的保護，我們有嚴格的政策要求所有開發者都必須遵守。我們目前不與任何銷售兒童人工智慧玩具的公司合作。」英國政府科學、創新和技術部 (DSIT) 沒有回應置評請求。 新科學家 兒童玩具中人工智慧的監管問題。
英國政府目前正在考慮另一項技術法，以幫助確保年齡較大的兒童上網安全。英國的線上安全法案 (OSA) 於 2025 年 7 月生效，要求網站阻止兒童觀看政府認為有害的色情內容和內容。該立法的目的是讓網路更安全，但精通科技的孩子可以透過使用虛擬專用網路（VPN）等工具輕鬆規避這些措施，使他們看起來像是從其他國家存取網路而沒有嚴格的規則。
英國教育部為支持受照顧的兒童並提高教育品質而提出的新立法《兒童福利和學校法》的擬議修正案旨在禁止英國兒童使用社交媒體和 VPN。這些修正案現已被拒絕，但政府承諾稍後就這兩個問題進行磋商。
主題：
