除了允許用戶在 Mac 上本地運行 Gemma 模型的 Google AI Edge Gallery 之外,該公司還發布了 Gemma 4 12B 模型和適用於 Mac 的 Google AI Edge Eloquent 聽寫應用程式。以下是詳細資訊。

一點背景

大多數依賴 LLM 完成日常任務的使用者通常使用 ChatGPT、Claude 或 Gemini——在 OpenAI、Anthropic 和 Google 伺服器上運行的雲端模型。

與法學碩士互動的另一種方式是使用本地模型。與在雲端中運行的萬億參數模型相比,它們通常要小得多,功能也不豐富,但它們也有許多優點。

首先,僅僅因為它們比雲端模型效率低並不意味著它們是 壞的。此外,它們不需要有效的互聯網連接,因為它們依靠電腦本身的處理能力運作。此外,計算機越好,反應速度就越快,可以處理的模型就越多。最後,由於一切都在本地運行,因此這些模型也更加私密,因為對話資料不必離開裝置。

在 Mac 上安裝本地模型的方法有很多種,我們在 OpenAI 發布自己的開放模型時對此進行了介紹。簡而言之,您需要安裝 Ollama 和 LM Studio 這樣的平台,然後安裝一個可以在您的 Mac 硬體上流暢運行的模型。

Hugging Face 有數千個開放式模型可供選擇,其中包括來自前沿實驗室的模型。然而,Ollama 和 LM Studio 等平台也提供了直接從它們安裝這些模型的方法。

這將我們帶到了 Google AI Edge Gallery,這是 Google 用於在本地運行人工智慧模型的平台。谷歌已經提供了適用於 Android 和 iOS 的 Google AI Edge Gallery 應用程序,但今天該公司又發布了適用於 macOS 的應用程式。

從一開始就需要注意的一件事:與允許用戶安裝與其硬體兼容的任何 AI 模型的 Ollama 和 LM Studio 不同,Mac 版 Google AI Edge Gallery 目前僅提供對 5 個 Google 自有模型的訪問,其中“it”意味著“指示”,這意味著它們可以配置為遵循用戶的指示而不僅僅是全文:

  • Gemma-4-12B 是
  • Gemma-4-E2B-is
  • Gemma-4-E4B-is
  • Gemma-3n-E2B-is
  • 傑瑪-3n-E4B-it

清單中最重要的一項尤其值得注意。 Gemma 4 12B 今天發布,它旨在將基於代理的多模式智慧直接帶入您的筆記型電腦,」Google表示。

雖然來自尖端人工智慧實驗室的大多數本地面向消費者的模型的參數範圍通常在 20 億到 90 億之間,但谷歌表示,Gemma 4 的 120 億參數設計提供了與其 260 億參數混合專家模型相當的性能,同時保持「足夠小,可以在具有 16GB RAM 的消費筆記型電腦上本地運行」。

Gemma 4 12B 也是多模式的,這意味著它可以處理文字、圖像和音訊。谷歌表示,該模型還具有強大的編碼功能,“允許您直接從設備上的數據中提取有意義的信息。”

您可以在此處了解有關 Google AI Edge 圖庫的更多信息,以及在此處了解有關 Gemma 4 12B 的更多信息。

Google人工智慧邊緣雄辯

隨著 Gemma 12B 和適用於 macOS 的 Google AI Edge Gallery 的發布,Google在幾個月前發布了適用於 iOS 的 Google AI Edge Eloquent 應用程式後,今天也推出了適用於 Mac 的 Google AI Edge Eloquent 應用程式。

Google AI Edge Eloquent 是一款免費的聽寫應用程序,可以捕獲用戶所說的內容並進行轉錄,同時潤色文本、消除不准確之處,並進行一些小的更改以提高清晰度和流暢性。處理發生在設備上,而不是在雲端。

該應用程式還允許用戶選擇不同的寫作風格並添加自己的單詞,例如名稱、行話和其他他們經常使用的術語。這有助於避免聽寫應用程式在使用特定單字和短語時可能犯的常見錯誤。

在此了解更多有關 Google AI Edge Eloquent 的資訊。

值得在亞馬遜上查看

FTC:我們使用自動會員連結來產生收入。 更多的。

來源連結