Google Gemini在新的安全評估中被稱為兒童和青少年的“高風險”

媒體由兒童安全，媒體和技術評論領導的兒童提供的非營利性要約在周五發布了對Google的Gemini AI產品的評估。雖然該組織發現Google的AI清楚地告訴孩子，它是一台計算機，而不是朋友 – 與駕駛有關 妄想 思維 和 精神病 在情感脆弱的人中 – 這表明許多其他方面還有改進的餘地。

具體而言，這種常識說，雙子座的“ 13歲”和“青少年經驗”水平似乎是引擎蓋下的Gemini的成人版本，頂部只添加了一些其他安全功能。該組織認為，要使AI產品對兒童真正更安全，應將其製造在地面上的兒童安全。

例如，他的分析發現，雙子座仍然可以與兒童共享“不適當和不安全的”材料，他們可能沒有準備好，包括與性別相關的信息，毒品，酒精和其他不安全的心理健康技巧。

後者可能特別關注父母，因為據稱最近幾個月在一些青春期起著作用。 Openai在一個16歲的男孩自殺後，面臨他的第一次非法死亡訴訟，該訴訟死於自殺，據稱他的計劃諮詢了幾個月的計劃，成功地傳遞了Chatbot的安全消息。以前是AI Companion Maker角色。

此外，該分析是隨著新聞洩漏表明，蘋果將雙子座視為LLM（大型語言模型），這將有助於明年發布的AI的可能性。除非蘋果以某種方式緩解安全性，否則這可能會使更多的青少年遇到危險。

常識還指出，針對兒童和青少年的雙子座產品忽略了年輕用戶與較老的用戶如何需要不同的說明和信息。結果，儘管添加了用於安全性的過濾器，但兩者都被描述為整體得分中的“高風險”。

Ai Robbie Torney的計劃高級總監在TechCrunch檢查的新評估中說：“雙子座基本上是正確的，但偶然發現了細節。” “一個兒童的AI平台應該在他們所在的地方與他們會面，不要在不同的發展階段遵循一種兒童的方法。為了使AI對兒童保持安全有效，必須以他們的需求和開發方式進行設計，而不僅僅是為成年人建造的產品的修改版本。”

Google推動了評估後的推動，並指出其安全功能得到了改善。

該公司告訴TechCrunch，它對18歲以下的用戶具有特定的政策和保證，以幫助防止有害結果，紅色團隊並諮詢外部專家以改善其保護。但是，他還承認，雙子座的某些答案沒有按計劃工作，因此他增加了其他保障措施來解決這些問題。

該公司指出（這也是常識），它已確保防止其模型參與可以提供真正關係的談判。此外，Google提出，似乎已經提到了18歲以下的用戶無法使用的常識報告，但無法訪問該組織在其測試中使用的問題。

常識的手段以前已執行其他 估計 AI服務，包括 打開; 尷尬; 古典; meta ai; 更多的。發現元AI和 特點。 這是“不可接受的” – 這意味著危險是嚴重的，不僅很高。尷尬被認為是一個高風險，chantgpt被描述為“中等”，克勞德（向18歲以上的用戶致辭）被認為是最小的風險。