- Openai首席執行官Sam Altman說,GPT-5測試讓他在最近的一次採訪中擔心
- 將GPT-5與曼哈頓的工作進行了比較
- 警告說,AI的快速進展是沒有足夠監督的情況
Openai Sam Altman的負責人繪製了GPT -5的肖像,它讀起來更像是驚悚片,而不是產品發布。在最近的一集中 上週末與西奧·馮(Theo von) 播客描述了在不兼容的陰影中測試模型的經驗,這些陰影引起的持懷疑態度比警報似乎希望聽眾聽到。
奧特曼說,GPT-5“感覺非常快”,同時指的是感到非常緊張的時刻。儘管這是GPT-5增長的推動力,但Altman聲稱在一些會議上,他看了看GPT-5,並將其與曼哈頓的工作進行了比較。
奧特曼還對當前的AI治理起訴,表明“房間裡沒有成年人”,監督結構已經採用了AI的發展。這是一種奇怪的方式,可以銷售一種有望使人工通用情報趨於嚴重的產品。增加潛在風險是一回事,但表現得好像無法控制GPT-5的性能感覺有些不愉快。
Openai Sam Altman的首席執行官:“感覺很快。” – “在測試GPT5期間,我很害怕” – “看著它,想:我們做了什麼……就像在曼哈頓的工作中一樣” – “房間裡沒有成年人” 從 r/chatgpt
分析:存在GPT-5恐懼
Altman並不完全清楚。 Altman沒有涉及技術細節。引用曼哈頓的作品是另一種比例的比例。不可逆轉和潛在的破壞性變化和世界賭注的信號似乎與復雜的自動完整的比較似乎很奇怪。說他們已經建立了一些他們不完全理解Openai似乎是魯ck或無能的東西。
GPT-5應該很快出現,並且有一些技巧將遠遠超出GPT-4技能。奧特曼評論中描述的“數字思維”確實可以代表建立人工智能的人們考慮工作的方式的轉變,但是這種彌賽亞或揭示的投影似乎很愚蠢。關於AI的公開論述主要是在樂觀和生存恐懼之間激活的,但是中間的某些事情似乎更合適。
這不是阿爾特曼第一次公開認識到他對AI Args種族的苦難。已經記錄了AI可以“出錯”,並且Openai在仍在發送有用的產品的同時負責任地採取行動。但是,儘管GPT-5幾乎可以肯定會達到更好的工具,更友好的界面和稍微徽標,但它提出的關鍵問題是。
下一代AI,如果它更快,更聰明,更直觀,將會更加負責。根據Altman的評論,這將是一個壞主意。即使它誇大了,我也不知道這是否是必須決定這種權力如何發展的公司。