阿南德說：“ AI很昂貴，讓我們誠實。”
對安全的增長
2024年10月，一個死於自殺的少年的母親 死亡訴訟 反對角色技術，其創始人，Google和Alphabet，認為該公司以“擬人化，超級性和令人恐懼的現實經歷為目標，同時計劃（聊天機器人）將自己誤導為真實的人，是授權的心理治療師”。當時，角色的代表。 對CNBC說 該公司“因悲慘的損失而破裂”，並非常認真地對待“我們的用戶的安全”。
悲慘的事件使角色置於角色。今年早些時候，美國參議員亞歷克斯·帕迪拉（Alex Padilla）和彼得·韋爾奇（Peter Welch） 我寫 一封關於幾個AI同伴的信，包括角色。
阿南德說：“該團隊已經承擔了將近一年的責任。” “ AI是周到的。很難始終了解即將發生的事情。因此，這不是一年的投資。”
這是非常重要的，因為角色。開始，每天有2000萬個活躍用戶每天花75分鐘與機器人聊天（角色“角色”。公司基礎是55％的女性。超過50％的用戶是Z代或Alpha代。
阿南德說：“在過去的六個月中，我們投入了不成比例的資源，能夠服務於18歲以上的18歲以上，這並沒有發生。” “我不能說。”哦，我可以在應用程序中打一個標籤18+，並說我將其用於NSFW。 “您最終會創建一個非常不同的應用程序和一個不同的小規模平台。”
Anand告訴我，該公司70名員工中有10多名員工全部工作 – 信任和安全。負責建立保證，例如年齡驗證，為18歲以下的用戶單獨的模型以及新功能，例如 父母知識這使父母可以看到他們的青少年如何使用該應用程序。
18歲以下模型於去年12月開始。公司發言人凱瑟琳·凱利（Kathryn Kelly）表示，它包括“可以在平台上搜索的近距離字符”。 “已將過濾器應用於此組，以刪除與敏感或成熟主題相關的字符。”
但是阿南德說，AI安全性將持續不僅僅是技術叮咬。阿南德說：“該平台的建設是監管機構，美國和父母之間的合作。”這使他看到他的女兒與一個如此重要的角色說話。 “這必須對她保持安全。”
超越陪伴
AI公司市場正在蓬勃發展。據估計 CNBC提到。新成立的人工智能公司正在市場上拍攝片：Xai於7月發布了令人毛骨悚然的色情合作夥伴，甚至是Microsoft 賬單 他的副駕駛聊天機器人作為AI同志。
好吧，角色如何脫穎而出。完全帶走自己。
