這樣的分散式運算網路是有意義的,因為“人工智慧推理的運算可以而且應該分佈在‘邊緣’,將其部署在更靠近人口中心和用戶的較小平台上。” 班傑明·李他是賓州大學的電腦架構師和工程師,與 Ars 通訊。他說:“該策略對網格的影響要小得多,因為推理只需要很少的 GPU,而訓練則需要數千個 GPU 協同工作。”
但 Lee 警告說,人工智慧推理任務可以多種多樣,例如文件問答、軟體程式碼產生和多輪對話;其中每一個都有不同的計算要求和效能期望。因此,確保各個運算節點能夠提供每項任務所需的效能,以及維護節點之間的網路連線非常重要。
Lee還質疑是否有必要將資料中心縮小到“幾個GPU的大小”,以減少其對電網的負載。他建議部署傳統的 20 兆瓦資料中心而不是 1 兆瓦超大規模資料中心也可能同樣有益。
然後是安全問題。與集中式資料中心相比,分佈在郊區的 XFRA 節點可能更容易受到某些資料安全威脅。 「許多旁道攻擊需要物理接近機器,而資料中心可以保護這些攻擊,」Lee 說。 “個人家庭中的分散式 GPU 更難以維護。”
除了房屋之外,竊賊可能還會發現 XFRA 節點是一個有吸引力的目標,因為其中的 Nvidia GPU 每個售價約為 10,000 美元。很多 評論主題 打開 紅迪特 我們已經推測過這種可能性;一些評論者表示,居民很容易為自己獲取此類計算資源。 「當然,硬體本身也存在著被盜的風險,」李說。
在 SPAN 試點階段,任何潛在的好處和併發症都將變得更加明顯。但在矽谷目前充斥著軌道資料中心和跨洋人工智慧資料中心之際,位於郊區的資料中心節點可能會站穩腳跟,至少在房主協會意識到它們之前是這樣。










