Reddit Answers 建議使用海洛因緩解疼痛後，版主呼籲進行人工智能檢查

隨著聊天機器人變得越來越普遍，我們已經看到人工智能對問題給出了一些非常奇怪的答案。今天，Reddit Answers 在一位版主之後成為人們關注的焦點 旗幟 人工智能工具可以提供危險的醫療建議，但他們無法禁用或隱藏這些建議。

該mod看到Reddit Answers建議治療慢性疼痛的人應該停止服用當前的處方並服用高劑量的卡痛葉，這是一種不受管制的物質，在某些州是非法的。該用戶表示，他隨後向 Reddit Answers 詢問了其他醫療問題。他們收到了治療新生兒發燒的潛在危險建議以及一些精確的行動，以及海洛因可用於緩解慢性疼痛的建議。其他幾個模組，特別是來自關注健康的 Reddit 子版塊，對原始帖子做出了回應，他們擔心，當 Reddit Answers 向其社區提供了不准確或危險的信息時，他們無法禁用或標記問題。

Reddit 發言人表示 404媒體 Reddit Answers 已更新，以解決一些 mod 的擔憂。該發言人在帖子中表示：“此次更新確保之前可能在帖子詳細信息頁面（也稱為聊天頁面）上可見的敏感主題的‘相關回复’將不再出現。” “實施這一更改是為了改善用戶體驗並保持平台內適當的內容可見性。”我們已聯繫 Reddit 以獲取有關被排除主題的更多評論，但目前尚未收到回复。

雖然發言人表示 404媒體 Reddit Answers“屏蔽了來自私人、隔離和 NSFW 社區的內容，以及一些成熟的主題”，該人工智能工具顯然無法正確提供醫療信息，更不用說處理其他 Reddit 用戶可能給出的諷刺、諷刺或潛在的糟糕建議了。除了不出現在“敏感話題”中的最新舉措外，Reddit 似乎並不打算提供工具來控制人工智能在 Reddit 子版塊中出現的方式和時間，這可能會使原本就很困難的審核任務變得幾乎不可能。