週一，佛羅裡達州起訴 OpenAI 及其執行長 Sam Altman，指控這家舊金山科技公司未能告知人們其流行的人工智慧聊天機器人的危險。
OpenAI 開發了 ChatGPT，這是一個每週有超過 9 億人使用的聊天機器人來回答問題、產生文字和執行其他任務。但這份長達 83 頁的訴訟稱，人們還使用 ChatGPT 策劃大規模槍擊事件、獲取有關自殘的資訊以及從事其他有害行為。
這起訴訟是在佛羅裡達州第十司法巡迴法院提起的，與此同時，OpenAI 面臨著越來越多的擔憂，即人工智慧正在傷害包括兒童和青少年在內的人類，而且沒有足夠的保障措施。佛羅裡達州是第一個因安全風險起訴 OpenAI 的州，為其他州鋪平了道路。
佛羅裡達州律師說：「人們受到傷害，父母受到欺騙，他們必須為此付出代價。」詹姆斯·尤斯邁爾將軍在周一的新聞發布會上表示了這一點。 “他們需要通過打開支票簿並改變計劃來支付費用，以確保有家長控制，並且我們不會讓我們的孩子處於危險之中。”
OpenAI 沒有回應置評請求。該公司在其網站上表示，它正在關注安全性，並在 ChatGPT 上發布了新的家長監護功能。
自殺防治資源與危機諮詢
如果您或您認識的人正在與自殺念頭作鬥爭，請尋求專業人士的幫助或致電 988。全國三位數心理健康危機熱線將呼叫者與受過訓練的心理健康諮商師聯繫起來。或在美國和加拿大發送簡訊「HOME」至 741741 以撥打危機簡訊熱線。
多年來，科技公司一直面臨著關於是否應對其產品設計和使用造成的損害承擔責任的訴訟。但人工智慧聊天機器人的日益普及引發了安全擔憂，尤其是當年輕人在學校和家中使用這些工具時。
在加州，人們對人工智慧風險的擔憂增加。 2025 年，一名加州青少年在與 ChatGPT 交談後自殺，家人起訴 OpenAI，指控聊天機器人鼓勵這名 16 歲青少年自殺。佛羅裡達訴訟中引用了該案件。
包括Google在內的其他科技公司也因聊天機器人涉嫌助長他人妄想或鼓勵自殘而面臨訴訟。
加州立法者通過了旨在使人工智慧更安全的新立法，但科技公司表示新法規可能會扼殺創新。加州和德拉瓦州總檢察長去年對人工智慧聊天機器人傷害兒童的指控表示擔憂。
在有關最新訴訟的新聞發布會上，Uthmeier 指責 OpenAI 和 Altman 在人工智慧公司領先時將利潤置於公共安全之上。今年，佛羅裡達州總檢察長辦公室也宣布，正在調查 OpenAI，調查 ChatGPT 在 2025 年佛羅裡達州立大學發生的導致兩人死亡的槍擊事件中所扮演的角色。
訴訟稱，OpenAI 和 Altman 誤導家長認為 ChatGPT 是安全的，但實際上並不安全，違反了佛羅裡達州法律。
Uthmeier 強調了幾個州的幾起案例，概述了人們使用 ChatGPT 造成的槍擊、自殺和其他類型的死亡，其中包括一起涉及藥物過量的死亡事件。他說，ChatGPT 可能會“上癮”，因為它模仿人類的同理心，並誘使用戶向人工智慧聊天機器人提供更多資訊。
「今天我們要向 OpenAI 傳達一條訊息：做好戰鬥準備，現在沒有比這更重要的了，」Uthmeier 說。
