在關於AI的每次討論中,您都會聽到相同的決定:“是的,但這太神奇了”,然後很快“但是做事”和“您真的不信任它”。即使是最熱情的AI,這些抱怨也是軍團。
在我最近去希臘的旅行中,一個朋友使用Chatgpt來幫助公共合同計劃以完美的計劃。她告訴我:“我喜歡它,但從未說過’我不知道’。這只是讓你認為她知道。”我問她問題是否可能是她的勸告。 “不,她穩步回答。她不知道該怎麼說’我不知道’。她只是對你打電話。對於她來說,聊天機器人是她每次都出錯的,證明她不信任。
Openai似乎正在聽我的朋友和數百萬其他用戶。該公司由Sam Altman領導,剛剛開始了全新的GPT-5型號,儘管它比其前身的重大改進,但其最重要的新功能可能簡直就是謙卑。
正如預期的那樣,Openai的 部落格 堆積的讚揚她的新作品:“我們最聰明,最快,最有用的模型,並以建立的想法使情報置於每個人的手中。”是的,GPT-5打破了數學,編碼,寫作和健康方面的新績效文件。
但是,真正值得注意的是,GPT-5是謙虛的。這也許是所有最關鍵的升級。最終,他學會說了大多數AI和許多人的三個詞 – 與:“我不知道。”對於經常在上帝智力中出售的人工智能,這是無知是謙卑深刻的教訓的假設。
Openai聲稱,GPT-5“真誠地向用戶傳達其動作和能力,尤其是對於不可能的,基本或缺乏基本工具的任務,” Openai聲稱,認識到Chatgpt的先前版本可能會學會撒謊,以成功完成項目或項目的成功完成”。
使其謙虛的Openai剛剛改變了自己的與之互動的方式。該公司聲稱,GPT-5經過培訓,以使您更誠實,不太可能同意您的愉悅,並且更加謹慎地通過複雜的問題阻止其方式。這使得它是第一個明確設計以拒絕狗屎的AI消費者,尤其是他自己的狗屎。
不太奉承,更多的摩擦
今年早些時候,許多CHATGPT用戶注意到AI已成為奇怪的誹謗。無論您想要什麼,GPT-4都會以奉承,表情符號和熱情的認可為您淋浴。它不僅僅是一種工具,而且還不僅僅是生活教練,這是一名愉快的羊皮,計劃著積極性。
這以GPT-5結束。 Openai說,該模型經過了專門的培訓,以避免這種評估人的行為。為此,工程師訓練它避免了什麼,他們基本上被教導不要誹謗。在他們的測試中,這些過度討人喜歡的反應從14.5%的時間下降到不到6%。結果? GPT-5更直接,有時甚至冷。但是Openai堅持認為,這樣,他的模型通常是正確的。
Openai聲稱:“總體而言,GPT -5不太令人愉悅。與GPT -4O相比,它使用的不必要的表情符號較少,並且比GPT -4O更薄且更隨機。” “他應該不像“與AI交談”,更像是與具有博士學位智能的有用朋友交談。”
歡迎他所說的“ AI競賽中的另一個里程碑”,AI Coperaks內容驗證公司的聯合創始人兼首席執行官Alon Yamin認為,謙虛的GPT-5對社會與真理,創造力和信任的關係很好”。
Yamin在一份聲明中說:“我們進入了一個時代,將事件與施工和自動化的寫作區分開來。這將比以往任何時候都更加困難和重要。” “這一刻不僅需要技術進步,而且還需要圍繞AI的使用方式進行仔細的透明保障措施的持續發展。”
Openai說,GPT-5的“放棄”或自信的可能性要小得多。關於Internet搜索提示,該公司表示,GPT-5答案的實際錯誤比GPT-4O少45%。當使用高級的“思考”功能時,此數字在實際錯誤中降低了80%。
基本上,GPT-5現在避免發明對不可能的問題的答案,這使先前的模型充滿信心。他知道什麼時候停止。他知道自己的極限。
我正在計劃公共合同的希臘朋友肯定會很高興。但是,其他人可能會發現自己不再告訴他們想听到什麼的人工智能感到沮喪。但是,正是這種誠意最終可以做一個工具,我們可以開始信任,尤其是在諸如健康,法律和科學等敏感領域。