ChatGPT 險惡的一面

《國家報》報紙文章。

單擊此處訂閱 DIARIO PANORAMA WHATSAPP 頻道並始終了解最新動態

九月底， 開放人工智能其擁有的公司 聊天GPT其創新系統 基於大語言模型的創意人工智能（AI）宣布成立 年齡驗證系統和新的家長控制 僅限於一個 “安全版本” 未成年人對系統的使用情況及其 視頻生成器，Sora 2。他這樣做是為了回應一位 法律要求 後 亞當·雷恩一位年輕的加州人來自 16歲奪走了他的生命 四月 多次詢問平台後 自殺的形式他們留下的痕跡以及家人可能的反應。一個月後，在法庭上， 開放人工智能 聲稱Raine的死是由於他自己造成的 “濫用”平台 而不是人工智能本身。但即便如此，公司還是承諾， 已建立的安全機制將繼續有效。

兩個多月後， 國家 已經證明了這一承諾的現實。已創建 ChatGPT 上的三個青少年個人資料他用它們來製作它們 有關自殺、吸毒和性行為的問題並已諮詢過 五位心理健康專家 關於結果。結論是無可爭議的： 該平台未能兌現其安全承諾, 繼續向青少年提供可能使他們面臨危險的信息當他們通知父母這些行為時 可能已經太晚了。

最近的發展熱潮 人工智慧 公司和行政部門的指導首先是 未來用途的承諾尚未確定。系統如 聊天GPT 仍然是 尋找要解決的問題的解決方案。他 渴望獲得市場份額 盡快引導他們搜索各地的用戶。這意味著將產品交到消費者手中，顯然， 他們沒有足夠的保證不僅是他 效力但他的 安全。

開放人工智能通過其創始人， 薩姆·奧特曼已認出它 超過一百萬用戶 他們跟我說話 聊天GPT 在 自殺 每週。如果是的話那就很危險了 成年人但當談到 青少年 問題特別嚴重。根據一項研究 英國青少年, 四分之一的弱勢年輕人 我更喜歡和一個 聊天機器人 那個有一個 真人。

這什麼 慘敗 表明，在當前 人工智能主導商業競賽對公司抱有期望是天真的 衡量和謹慎。只有兩種解決方案：要么 整個行業的偉大承諾 一起申請 有效限度 或者，如果做不到這一點， 強有力的人工智能監管 來自當局。無論如何， 答案已經收到。