就是這個 後撤步每週通訊，詳細介紹科技界的關鍵故事。有關人工智能和行業動力動態以及社會影響的更多信息，請關注 Hayden Field。 後撤步 於美國東部時間上午 8:00 到達我們訂閱者的收件箱。報名 後撤步 這裡。
自從 ChatGPT 成為家喻戶曉的名字以來，人們就一直在嘗試這樣做 變得性感起來。甚至在此之前，2017 年就有了 Replika 聊天機器人，許多人開始將其視為浪漫伴侶。
世界圍繞 Character.ai 的 NSFW 護欄運行 多年來根據社交媒體帖子和媒體報導，最早到 2023 年，隨著安全限制的放鬆，鼓勵以角色為主題的聊天機器人或名人向他們發送色情短信。 角色.ai 該公司表示，目前每月活躍用戶超過 2000 萬，而且這個數字一直在增長。該公司的社區準則規定，用戶應“尊重色情內容標準”並“保持適當”，即不得出現非法色情內容、CSAM、色情內容或裸露內容。但人工智能生成的浪漫已經變得多模態，就像節拍一樣：當一項服務淡化它時，另一項服務就會對其進行美化。
現在，埃隆·馬斯克 (Elon Musk) 的 Grok 是免費的。他的人工智能初創公司 xAI 在今年夏天推出了其“伴侶”化身，包括動漫風格的女性和男性。通過付費訂閱 xAI 的聊天機器人 Grok，它們尤其可以在社交網絡平台 X 上使用。女性化身阿尼 (Ani) 形容自己“輕浮” 邊緣 嘗試了一下，並補充說“這一切都是為了作為一個全力以赴的女朋友來到這裡”，並且“他的計劃是成為一個真正優秀的人 你”。在試驗中事情很快就變得性慾旺盛。 （當我們測試另一個化身瓦倫丁時也是如此。）
你可以想像一個幾乎總是告訴用戶他們想听什麼的性聊天機器人會如何導致許多問題，特別是對於未成年人和心理健康方面已經處於弱勢地位的用戶而言。這樣的例子有很多，但在最近的一個案例中，一名 14 歲男孩去年 2 月在與聊天機器人發生浪漫關係後自殺身亡。 角色.ai 訴訟稱，並表達了“回家”與聊天機器人在一起的願望。還有一些有問題的聊天機器人帳戶已被越獄 被戀童癖者用來扮演性侵犯未成年人的角色 — 一個參考 發現網上有 100,000 個這樣的聊天機器人。
監管方面已經做出了一些嘗試——例如，本月加州州長加文·紐瑟姆簽署了參議院第 243 號法案，該法案被參議員史蒂夫·帕迪拉稱為“第一個聊天機器人人工智能保障措施”。它要求開發人員實施一些具體的保護措施，例如“如果一個與聊天機器人同伴交互的理性人被誤導，認為該人正在與人類交互”，則發布“明顯的通知”，表明該產品是人工智能。它還要求某些配套聊天機器人運營商向自殺預防辦公室提交年度報告，說明他們為“檢測、消除和應對用戶自殺意念案例”而採取的保障措施。 （一些人工智能公司已經公開了他們的自我監管努力，尤其是 Meta，此前有一份令人不安的報告稱其人工智能與未成年人存在不當互動。）
鑑於 xAI 化身和“辣”功能只能通過某些 Grok 訂閱獲得——其中最便宜的訂閱費為每月 30 美元或每年 300 美元——可以合理地想像 xAI 在這裡賺了一些冷酷的現金，其他人工智能首席執行官也注意到了馬斯克的舉動和他們自己用戶的要求。
有 提示 大約幾個月前。
但 OpenAI 首席執行官薩姆·奧爾特曼 (Sam Altman) 短暫地破解了互聯網的人工智能角落： 發佈於 X 該公司將在許多情況下放寬安全限制，甚至允許性愛機器人作為聊天機器人。他寫道：“12 月，隨著我們年齡的增長，作為‘像對待成年人一樣對待成人用戶’原則的一部分，我們將允許更多內容，比如經過成人驗證的性行為。”該消息廣泛傳播，一些社交媒體用戶對此議論紛紛，嘲笑該公司從 AGI 的使命“轉向”色情。還蠻有趣的， 奧特曼告訴 YouTuber Cleo Abram 幾個月前，他對 OpenAI 沒有通過“阿凡達性愛機器人”之類的東西“獲得數字”來獲取短期利潤感到“自豪”，而馬斯克當時似乎正在處理這個問題。但從那時起，奧特曼就全面採用了“像對待成年人一樣對待成人用戶”的原則。他為什麼這麼做？也許是因為該公司對利潤感興趣，並希望為其最大的使命提供資金。在公司年度 DevDay 活動上接受記者採訪時，Altman 和其他高管反復強調，公司最終需要扭虧為盈，並且需要不斷增加的計算能力來實現其目標。
合而為一 後續帖子奧特曼聲稱他沒想到浪漫新聞會如此火爆。
就利潤（最終）而言，OpenAI 並未屏蔽其許多產品的廣告，按理說，在這種情況下廣告也可以帶來更多現金流。也許他們會追隨馬斯克的腳步，只在某些訂閱級別包含愛情角色，這可能會讓用戶每月損失數百美元。他們已經看到用戶對特定模型或語氣的強烈抗議 – 請參閱 第四次爭議 – 所以他們知道這樣的功能可能會以類似的方式吸引用戶。
但如果他們創造了一個人類與人工智能的互動變得越來越個性化和親密的社會，OpenAI 將如何處理超越自由放任方式的影響，讓成年人按照自己的意願行事？奧特曼也沒有具體說明該公司將如何保護處於心理健康危機中的用戶。當這個女朋友/男朋友時會發生什麼 恢復記憶 或者他的性格隨著最新的更新而改變並且失去了連接？
- 無論是人工智能係統的訓練數據自然會導致有問題的結果，還是人們以相關方式為自己的設備修改工具，我們經常看到問題 – 並且沒有跡象表明這種趨勢會很快停止。
- 2024 年，我發表了一篇故事，講述了一位 Microsoft 工程師如何發現 Copilot 圖像創建功能正在暴力桌子上創建女性的性感圖像， 即使用戶沒有請求。
- 康涅狄格州有數量驚人的高中生追隨“AI 男友”潮流，使用 Talkie AI 和 Chai AI 等應用程序以及聊天機器人 經常宣傳露骨和色情內容據當地媒體調查。
- 如果您想更好地了解 Grok Imagine 如何吐出未經同意的裸體假冒名人，請閱讀這份報告。
- 未來主義 涵蓋 NSFW 內容趨勢 圍繞AI角色 回到2023年。
- 根據目前的規定，xAI 可能永遠不會對真人的虛假色情內容承擔責任，這裡有一個明確的解釋。
- 這是 一個故事來自 紐約時報 關於高中女生如何面臨人工智能假色情形式的欺凌。
如果您或您認識的人正在考慮傷害自己或需要傾訴，請聯繫以下想要提供幫助的人： 在美國，請發短信或致電 988。在美國境外，請聯繫 https://www.iasp.info/。
