Roblox是一個流行的兒童互聯網平台。但這也是一個想開發孩子的人知道他們可以找到觀眾的地方。週四，羅布洛克斯宣布 Roblox Sentinel一個 人工智慧 這旨在指出在對話模式下的不適當消息。 Roblox已經禁止交換真實圖像和個人信息，例如電話號碼和用戶名。該公司希望Sentinel能夠較早地指出更多信息。自2024年底以來，它一直在平台上運行，但本周剛剛宣布。
Roblox發言人沒有立即回應評論請求。
Roblox Sentinel的工作方式
Roblox創建了Roblox Sentinel，這是一種AI系統，可幫助檢測兒童的威脅點。 Roblox意識到這些問題，代表就可以調查並參考執法部門。
Sentinel每天在超過60億個聊天消息中執行真實的時間分析。它不斷拍攝一分鐘的快照，AI會自動分析這些消息，以識別可能對兒童有害的消息。隨著時間的推移，這些消息也會被繪製，以顯示可以進一步探索和報告的標準。
基於前哨的哨兵旗。他受過訓練，以找出安全消息與前面提到的消息之間的區別，因為他們違反了羅布洛克（Roblox）的孩子的政策。
Roblox Sentinel提供開源
據羅布洛克斯（Roblox）稱，到目前為止，在2025年，Sentinel已為發現在國家失踪和被剝削兒童中心報告的1200名可能的兒童報告的報告中做出了貢獻。 Roblox希望通過 開源 將其他公司納入其係統。該代碼現在可以在Roblox的網站上找到。
這不是Roblox首次嘗試使用AI監視內容並提高Internet安全性的嘗試。在7月初，他分享了它的狀態 使用AI進行中等內容 實時使用25種語言。現在，在他們想聊天的情況下，青少年可以使用年齡驗證。
