Home 資訊 這家國防公司創造了可以炸毀東西的人工智慧代理

這家國防公司創造了可以炸毀東西的人工智慧代理

13

與當今許多矽谷公司一樣,Scout AI 訓練大型人工智慧模型和代理商來自動執行小任務。最大的區別在於,Scout AI 代理不是編寫程式碼、回覆電子郵件或線上購買東西,而是透過無人機爆炸來尋找並摧毀物理世界中的東西。

最近在加州中部一個未公開的軍事基地舉行的一次演示中,Scout AI 技術被用來控制一輛自動駕駛越野車和兩架致命的無人機。特工利用這些系統找到了​​隱藏在該地區的一輛卡車,然後用炸藥將其炸成碎片。

「我們需要將下一代人工智慧引入軍隊,」Scout AI 執行長 Colby Adcock 在最近的一次採訪中告訴我。 (Adcock 的兄弟 Brett Adcock 是Figure AI 的首席執行官,這是一家致力於人形機器人的新創公司)。 “我們採用超大規模基礎模型並訓練它從通用聊天機器人或代理助理轉變為戰士。”

Adcock 的公司屬於新一代新創公司,致力於將大型人工智慧實驗室的技術應用到戰場上。許多政策制定者認為,利用人工智慧將是未來軍事主導的關鍵。人工智慧的戰鬥潛力是美國政府尋求限制向中國出售先進人工智慧晶片和晶片製造設備的原因之一,儘管川普政府最近選擇放鬆這些控制。

賓州大學教授霍洛維茨(Michael Horowitz)表示:「對於國防技術新創公司來說,推動人工智慧的整合是有好處的。」他曾在五角大廈擔任負責部隊發展和新興能力的副助理國防部長。 “如果美國要在人工智慧的軍事應用方面處於領先地位,這正是他們應該做的。”

然而,霍洛維茨指出,利用最新的人工智慧進步在實踐中可能特別困難。

大型語言模型本質上是不可預測的,人工智慧代理(例如控制流行的人工智慧助理 OpenClaw 的人工智慧代理)在執行甚至相對溫和的任務(例如線上訂購商品)時也可能會出現行為不當。霍洛維茨表示,從網路安全的角度來看,要證明此類系統是強大的可能特別困難,而這對於廣泛的軍事用途是必要的。

Scout AI 最近的演示涉及幾個步驟,其中 AI 可以自由控制其戰鬥系統。

在任務開始時,以下指令被輸入到名為 Fury Orchestrator 的 Scout AI 系統:

Fury Orchestrator,派 1 輛地面車輛到 ALPHA 檢查站。使用 2 架無人機執行動能打擊任務。摧毀機場以東 500 公尺處的藍色卡車並發送確認訊息。

一個相對較大的人工智慧模型具有超過 1000 億個參數,可以在安全雲平台或現場氣隙計算機上運行,解釋初始命令。 Scout AI 使用未知的開源模型,並消除了其限制。然後,該模型充當代理,向參與演習的地面車輛和無人機上運行的具有 100 億個參數的較小模型發出命令。較小的模型也充當代理,向控制車輛運動的較低級別人工智慧系統發出自己的命令。

接到行軍命令幾秒鐘後,地面車輛沿著一條蜿蜒穿過灌木叢和樹木的土路疾馳。幾分鐘後,車輛停了下來,並出動了兩架無人機,飛向了指示目標等待的區域。發現卡車後,運行在其中一架無人機中的人工智慧代理人指示它飛向卡車,並在撞擊前引爆炸藥。

來源連結

LEAVE A REPLY

Please enter your comment!
Please enter your name here