15 8 月 2026

以下是基於 Gemini 的 Siri 的幕後工作方式

以下是基於 Gemini 的 Siri 的幕後工作方式

本週早些時候 彭博社 報導 谷歌和蘋果即將就 Gemini 模型版本達成 10 億美元的年度協議,該版本將用於明年改進的 Siri。

但也許比價格更有趣的是真正影響每個人體驗的一個因素:它的架構。下面來看看它可能如何運作。

1.2萬億個參數很多嗎?

根據 彭博社報告谷歌將向蘋果提供一個包含 1.2 萬億個參數的模型,該模型將託管在蘋果的私有云計算服務器上,從而有效地拒絕谷歌訪問其中的任何參數。從隱私的角度來看,這很棒。

就規模而言,擁有 1.2 萬億個參數的模型不容小覷。然而,與最新和最好的競爭模型進行直接比較是很困難的。

這是因為近年來,OpenAI、Anthropic和谷歌等封閉的人工智能實驗室已經停止披露其最新旗艦機型的參數數量。這導致對 GPT-5、Gemini 2.5 Pro 和 Claude Sonnet 4.5 等提案的真實參數計數的假設存在很大差異。一些人估計它們的參數低於一萬億個,另一些人則認為它們達到了幾萬億個。事實上,沒有人真正知道。

另一方面,這些巨大的新模型中的大多數都有一個共同點,那就是被稱為專家混合 (MoE) 的底層架構。事實上,蘋果公司已經在其產品中使用了 MoE 的變體。 當前的雲模型據傳它有 1500 億個參數。

基於 Gemini 的 Siri 可能會由專家組成

簡而言之,機器學習是一種利用許多稱為“專家”的專門子網絡構建模型的技術。對於每個輸入,僅激活少數相關專家,從而產生更快且計算效率更高的模型。

換句話說,這使得 MoE 模型能夠擁有大量參數,同時保持推理成本遠低於必須為每個輸入激活 100% 參數的情況。

使用 MoE 方法的模型還有一些其他內容:它們通常具有最大數量的活躍​​專家和每個輸入的最大數量的活躍​​參數,結果如下:

總共有 1.2 萬億個參數的模型可以使用 32 位專家,每個代幣只有 2-4 位活躍專家。這意味著在任何給定時間實際上只計算大約 75-1500 億個參數,使您能夠運行大型模型,同時保持與運行小得多的模型相當的計算成本。

以下是來自 IBM 的精彩視頻,更詳細地解釋了 MoE 的工作原理:

需要明確的是,目前還沒有關於谷歌可能向蘋果提供的模型架構的報導,如果他們就所報導的合作夥伴關係達成協議的話。但對於 1.2 萬億個參數來說,這是 非常 鑑於目前可用的替代方案,很可能需要環境部的方法才能有效運作。

這個尺寸是否足以讓基於 Gemini 的 Siri 與明年推出的其他型號保持競爭,則是另一個故事了。

亞馬遜上的配飾優惠

FTC:我們使用自動會員鏈接來產生收入。 更多的。

來源連結

Copyright © All rights reserved. | Newsphere by AF themes.