Perplexity 是一款由人工智慧驅動的搜尋和解答引擎,它提供了一種將個人裝置轉變為分散式資料中心的新方法。

該公司週二表示,它正在為個人電腦添加一個新的混合本地伺服器系統,它的人工智慧代理可以對檔案、應用程式和網路進行操作。從 7 月開始,系統將自動決定任務的哪些部分應該直接在用戶的裝置上執行,哪些部分應該發送到雲端更強大的人工智慧模型。

本地運行的較小模型可以處理敏感資料和日常本地任務,例如財務記錄、健康資訊和個人記錄。需要更大人工智慧模型功能的更複雜的工作仍然可以發送到伺服器。

Perplexity 表示,其係統將自動做出這項決定,將較大的任務分解為較小的部分,並將每個部分路由到適當的位置。在開始之前,用戶無需在本地模型和基於雲端的模型之間進行選擇。

PC 目前可透過 Perplexity 的 Mac 應用程式使用。它透過本機檔案編輯、PC 使用以及透過 Perplexity 的 Comet 瀏覽器進行瀏覽等功能擴展了公司現有的 PC 代理程式。 Perplexity 也表示個人電腦即將登陸 Windows。

儘管目前的實作可以在 Mac 上使用,但 Perplexity 將底層技術呈現為更廣泛的系統,可以在不同類型的硬體上工作。該公司表示,它與英特爾合作透露了該系統,並且相同的框架可以在其他本地晶片上運行,包括 Nvidia 的 RTX Spark 平台。

將更多工作轉移到用戶設備上還可以減少完成人工智慧任務所需的昂貴雲端運算量。 Perplexity 認為,日常工作不應消耗與真正需要最強大的人工智慧模型之一的請求相同的資料中心資源。



來源連結