拉斯維加斯 – 蓋里·馬庫斯（Garry Marcus）想在他的黑色帽子上做一件事情，在星期三在這裡聊天：他不是仇恨的AI或AI注定。
但是，即使是最妄想的AI也不會有誤導性的想法，認為這兩個新成立的企業的創始人，認知科學家和書籍作家通常是技術的粉絲，更不用說會導致AGI（人工智能），超級智能。
“我認為它有可能對世界有利，”馬克在一個開始時允許 對話40分鐘 與Kudelski Security高級研究總監Nathan Hamiel一起。
但是，啟動的風險太多，可能會增加AI數據中心的電氣需求的可能性將開始縮短美國其他地區。馬庫斯說：“目前尚不清楚它是可行的，尚不清楚如果不這樣做會發生什麼。”
他繼續說道，所有這些千兆瓦都被倒入對AGI的追求中可能不會提供值得使用的產品，因為大型語言模型“過於不安全”。
馬庫斯說：“這些系統的真正模仿是什麼。” “他們可以說出像他們之前聽過的事情一樣，但從概念上講非常虛弱。”
因此，試圖在“僅編寫安全代碼”或“不要向任何人解釋生物武器”之類的保護性信息將仍然容易受到攻擊，因為這些LLMS沒有“全球模型”來執行其行為。
馬庫斯說：“有了一個簡單的越獄，就可以解決它。” “這是由於他們對生物武器是什麼或誰是安全守則沒有想法的事實。”
它從這種“令人恐懼的”所謂的簡短結果的預測：“我們將開始看到許多銀行倒下，而什麼將是一個非常糟糕的代碼，因為這些系統並不真正了解編寫安全代碼的含義。”
這是否有厭倦了AGI承諾的投資者？不！
他說：“（埃隆）馬斯克發現您可以做出諾言，對此不承擔任何責任。”他回憶起馬斯克悠久歷史上的聽眾留下來並服從自動駕駛汽車。 “人們會為您提供基於他們的資金。”
馬庫斯（Marcus）提到董事總經理山姆·奧特曼（Sam Altman）是他的主要專業人員。他說：“我今天早上讀書將以5000億美元的估值出售股票。” “這是一家從未獲得利潤的公司。它似乎並沒有特別接近利潤。它沒有技術溝渠。”
然而，馬克還沒有準備好預測AI機器興起的存在災難。哈米爾（Hamiel）隨後問馬庫斯（Marcus） 七月寫的帖子 在其中，他對AI Industry部分的AI末日的可能性“ P（Doom）”從1％提高到了3％。
獲取我們的最佳故事！
保持最新新聞和安全更新安全
單擊我，您確認自己是16歲以上，並同意使用和保護個人數據的政策。
感謝您註冊！
您的訂閱已得到確認。觀看您的收件箱！
儘管“人們真的很難消除”，但他在考慮了埃隆·馬斯克（Elon Musk）的AI範圍以及他尋求的粗心的方式後，提出了這些機會。
“如果一個瘋狂的傢伙有任意金錢，任意數量的錢，他有大量的粉絲，他從事AI的業務，他會以自己的建造方式誤導。他問。”有一天，我醒來並意識到，他在這裡。
但是3％的命運機會仍然很少。馬庫斯說，他看到AI對傾斜的人所做的更直接的傷害。從本質上講，即使它們降低了造成錯誤信息的成本，也會讓他們越來越耗時。
他說：“批判性思維技能。您使用它們發展。” “如果您將所有內容都傳遞給LLM，那麼您將不會發展這些技能。”
由我們的編輯推薦
馬庫斯還說，他擔心人們對AI的監督保持警惕的能力。
他說：“人們將要看到。也許他們看了他們經紀人為他們製作的代碼的第一批摘錄。” “然後他們去外面的皮帶。”
所有這一切都使馬庫斯（Marcus）對這一概念極為理由，特朗普總統在宣布“ AI行動計劃”時公開抓住了這一概念，這是為建造AI的鬥爭而在那裡贏得勝利。
他說：“與中國的比賽的獲勝者不會成為建立最大LLM的人。” “沒有人會在那裡獲得不斷的優勢。”
但是，發現“真正新事物”的人可以使這一巨大飛躍前進。馬庫斯（Marcus）在一場辯論辯論中提出，特朗普對科學的攻擊增加了在中國工作的機會：“這可能不會成為證明其科學機構的國家。”
馬克在這方面看到什麼積極的潛力？他強調了一個我繼續聽取工作來構建AI應用程序的人的地步：AI可以在不編碼為每日登機手續或個人合作夥伴時盡其所能，而是接受了專注於特定，近距離和職責的培訓。
Marcus樹立了子公司Google DeepMind的Alphafold的榜樣，該模型分析了醫學研究的蛋白質結構並導致其開發人員 去年獲得諾貝爾化學獎。
他說：“這不是法學碩士。” “這是故意構建的。它沒有所有這些安全問題。這不是一個聊天機器人，試圖成為適合所有工作的每個人的尺寸。”
獲得更多對話的5種方法
關於Rob Pegoraro
貢獻者
