“我們很可能處於一個人工智慧已經具備這些危險能力的世界，這就是為什麼我們需要準確的科學評估來確定這些機器的風險和能力。”
請注意，此 ChatGPT 使用者產生的插圖僅出於代表性目的而發布。
重點
- Yoshua Bengio 表示，由於 AI 的鋸齒狀智能，AGI 可能不會成為下一個重大突破。
- 他警告說，人工智慧雖然強大但很弱，如果濫用的話可能會很危險。
- 深度造假、詐騙和未經同意的人工智慧圖像不斷增加，引發了健康擔憂。
經常被稱為人工智慧專家的加拿大電腦科學家約舒亞·本吉奧 (Yoshua Bengio) 週五表示，如果現代科學繼續擁有人工智慧，那麼最好忘記通用人工智慧 (AGI)，因為人工智慧在許多複雜任務上表現得非常出色，但在許多簡單任務上卻非常糟糕。
Yoshua Bengio 談 AGI
「如果人工智慧繼續擁有這些能力，我們就可以擺脫對通用人工智慧重要性的認識。
他在印度人工智慧影響高峰會上表示：“我們很可能處於一個人工智慧已經具備這些危險能力的世界，這就是為什麼我們需要準確的科學評估來確定這些機器的風險和能力。”
學者、研究人員和政策制定者對人工智慧巨頭發出警告，稱雖然其特性在許多領域仍然令人興奮——特別是在科學研究、藥物發現或癌症治療領域——但它也容易產生幻覺、偏見和糟糕的結果。
護理鋸的智能
「也許幾年前，想到 AGI 達到人類水平會令人興奮，但現在這是徒勞的，因為我們將擁有一些極其愚蠢和殘疾的東西，並且在錯誤的人手中會變得危險。
「我們還需要人工智慧擅長他們正在嘗試做的事情，」本吉奧在記者會上說道 國際人工智慧安全報告。
Google DeepMind AGI 時間軸討論
幾天前，Google DeepMind 執行長兼聯合創始人 Demis Hassabis 表示，距離實現 AGI 還需要大約五到八年的時間，系統將進一步訓練並獲得自主學習的能力。
雖然通用人工智慧能力不斷提高——特別是在數學、編碼和自主操作方面——但這些模型和系統的一些風險現已公開。 Deepfakes 的詐欺和騙局呈上升趨勢。
本吉奧對人工智慧生成的未經同意的親密圖像會影響婦女和女孩表示特別擔憂，這使得馬斯克的 Grok 上個月引起了公眾的關注。
他還警告說，封閉版本也不能免受像開源這樣的攻擊，而且守衛者還沒有意識到。
Deepfake 和濫用者風險
這 人工智慧安全報告 新增了人工智慧系統來尋找軟體漏洞並編寫惡意程式碼。
在一項競賽中，人工智慧代理識別出了真實程式中 77% 的漏洞。
「犯罪夥伴和國家相關攻擊者正在其行動中積極使用人工智慧。
他說：“攻擊者或防御者是否會從人工智慧中獲益更多還不確定。”
人工智慧安全和失業擔憂
報告還表示，通用人工智慧可能會自動化廣泛的認知任務，特別是在知識工作中，早期證據顯示對整體工作量沒有影響，但有跡象顯示對早期職業工人的需求下降。
Bengio 也表達了他的擔憂，即這些機構在解決人工智慧勞動力造成的傷害方面做得不夠。
專題介紹：Ashish Narsale / Rediff
