久久国产精品国产精品国产-青春草在线精品视频-长春欧亚卖场是哪个区-青青草视频在线你懂的-丰满人妻一区二区三区精品高清-国产精品久久久久久无码AV-韩国精品一区二区三区四区-韩国日本在线观看一区二区-av日韩天堂在线播放

發(fā)現(xiàn)者網(wǎng) 手機(jī)網(wǎng)站 站內(nèi)搜索
  • 洞察行業(yè)動(dòng)向,賦能未來(lái)市場(chǎng)!發(fā)現(xiàn)者網(wǎng),商業(yè)視角的探索之旅!
發(fā)現(xiàn)商業(yè)評(píng)論 旗下
洞察商業(yè) 啟迪未來(lái)

3萬(wàn)塊個(gè)人超算DGX Spark評(píng)測(cè):算力強(qiáng)但帶寬受限,借Mac Studio或能破局?

   時(shí)間:2025-11-22 15:40 來(lái)源:天脈網(wǎng)作者:顧青青

一臺(tái)號(hào)稱“全球最小超算”的設(shè)備引發(fā)了科技圈的廣泛關(guān)注。這款名為NVIDIA DGX Spark的個(gè)人AI超級(jí)計(jì)算機(jī),搭載了GB10 Grace Blackwell超級(jí)芯片,擁有128GB統(tǒng)一內(nèi)存和2000億參數(shù)的處理能力,售價(jià)約3萬(wàn)元人民幣。其目標(biāo)用戶群體包括科研人員、數(shù)據(jù)科學(xué)家和學(xué)生,旨在為他們提供桌面級(jí)的高性能AI計(jì)算支持。

從CES展會(huì)亮相到如今正式推向市場(chǎng),DGX Spark的定位逐漸清晰。根據(jù)網(wǎng)絡(luò)評(píng)測(cè)數(shù)據(jù),這款設(shè)備在輕量級(jí)模型中表現(xiàn)優(yōu)異,甚至能夠穩(wěn)定運(yùn)行1200億參數(shù)的大型模型,整體性能介于RTX 5070和RTX 5070 Ti之間。不過(guò),其273 GB/s的內(nèi)存帶寬成為明顯短板——算力足夠強(qiáng)大,但數(shù)據(jù)傳輸速度受限,導(dǎo)致實(shí)際體驗(yàn)中“思考快但表達(dá)慢”,類似“腦子轉(zhuǎn)得快卻說(shuō)話結(jié)巴”的情況。

針對(duì)這一瓶頸,極客團(tuán)隊(duì)EXO Lab提出了創(chuàng)新解決方案:將DGX Spark與Mac Studio M3 Ultra(帶寬達(dá)819 GB/s)協(xié)同工作,通過(guò)“預(yù)填充-解碼分離”(PD分離)技術(shù),將推理速度整體提升2.8倍。具體操作中,DGX Spark負(fù)責(zé)算力密集的預(yù)填充階段,而Mac Studio則承擔(dān)帶寬依賴的解碼任務(wù)。兩者通過(guò)流水線式分層計(jì)算,實(shí)現(xiàn)計(jì)算與數(shù)據(jù)傳輸?shù)闹丿B優(yōu)化。不過(guò),這種組合方案的成本也水漲船高,兩臺(tái)DGX Spark加一臺(tái)Mac Studio的總價(jià)接近10萬(wàn)元人民幣。

拋開(kāi)極限性能測(cè)試,DGX Spark的日常應(yīng)用場(chǎng)景更具吸引力。官方提供了超過(guò)20種開(kāi)箱即用的玩法,涵蓋視頻生成、智能體搭建、知識(shí)圖譜構(gòu)建等領(lǐng)域。例如,用戶可通過(guò)ComfyUI框架運(yùn)行阿里Wan 2.2 14B文本到視頻模型,實(shí)現(xiàn)本地化視頻生成,無(wú)需依賴云端服務(wù)。LM Studio等桌面工具也已支持該設(shè)備,用戶可輕松部署大型語(yǔ)言模型。

在多智能體交互方面,Level1Techs展示了并行運(yùn)行四個(gè)模型(包括1200億參數(shù)的GPT-OSS和67億參數(shù)的DeepSeek-Coder)的案例。得益于128GB大內(nèi)存,設(shè)備可同時(shí)處理文本生成、代碼編寫、圖像嵌入等任務(wù)。NVIDIA官網(wǎng)還提供了詳細(xì)操作指南,例如將非結(jié)構(gòu)化文本轉(zhuǎn)換為知識(shí)圖譜,或?qū)σ曨l進(jìn)行搜索與摘要總結(jié)。

與Mac Mini M4 Pro的對(duì)比測(cè)試顯示,DGX Spark在預(yù)填充階段優(yōu)勢(shì)明顯,但在解碼階段表現(xiàn)平平。例如,在DeepSeek R1開(kāi)源模型中,Mac Mini的平均TPS(每秒生成詞元數(shù))為17.8,而DGX Spark僅為33.1。這種差異源于內(nèi)存帶寬的限制——DGX Spark采用的LPDDR5X內(nèi)存帶寬僅273 GB/s,遠(yuǎn)低于高端顯卡GDDR7的1800 GB/s。

盡管存在短板,DGX Spark的生態(tài)豐富性和硬件設(shè)計(jì)仍獲好評(píng)。多數(shù)用戶反饋設(shè)備運(yùn)行安靜,拆解后可見(jiàn)內(nèi)部布局工整。對(duì)于預(yù)算有限但需要本地化AI部署的用戶,這款設(shè)備提供了新的選擇;而對(duì)于追求極致性能的團(tuán)隊(duì),其模塊化設(shè)計(jì)也支持與更高帶寬設(shè)備協(xié)同工作,拓展應(yīng)用邊界。

 
 
更多>同類內(nèi)容
全站最新
熱門內(nèi)容