一臺被稱為“全球最小超算”的設備——NVIDIA DGX Spark，近日引發(fā)科技圈廣泛關注。這款專為科研人員、數(shù)據(jù)科學家和學生設計的個人AI超級計算機，憑借其強大的性能和獨特的定位，成為許多AI愛好者討論的焦點。其售價約3萬元人民幣，官方宣稱能夠為桌面級AI開發(fā)提供強大支持，但實際表現(xiàn)究竟如何？

DGX Spark搭載了GB10 Grace Blackwell超級芯片，具備1 PFLOP的稀疏FP4張量計算能力，性能介于未來的RTX 5070和RTX 5070 Ti之間。其128GB統(tǒng)一內(nèi)存可輕松運行千億級別的大模型，但273 GB/s的內(nèi)存帶寬成為明顯短板。這一限制導致設備在解碼階段表現(xiàn)平平，盡管算力強勁，但數(shù)據(jù)傳輸速度較慢，影響了整體體驗。有用戶形容其“腦子轉(zhuǎn)得快，但嘴巴跟不上”。

評測數(shù)據(jù)顯示，DGX Spark在處理1200億參數(shù)的大模型時表現(xiàn)穩(wěn)定，但在解碼階段的每秒生成詞元數(shù)（TPS）僅為33.1，遠低于高端游戲顯卡RTX 5090的1800 GB/s帶寬。這種差距在運行較小模型或低批次任務時尤為明顯。例如，在批次大小為1的情況下，每秒解碼詞元數(shù)僅為20個，而當批次大小提升至32時，這一數(shù)值可上升至370。這表明，DGX Spark更適合處理大批量任務，但在單任務效率上仍有提升空間。

為了突破帶寬限制，一些極客團隊嘗試了創(chuàng)新方案。EXO Lab團隊將DGX Spark與Mac Studio M3 Ultra結合使用，利用后者819 GB/s的帶寬優(yōu)勢，將大模型推理速度整體提升了2.8倍。他們通過流水線式分層計算與傳輸技術，使DGX Spark負責預填充階段，而Mac Studio承擔解碼任務。這種“PD分離”模式雖然有效，但成本也大幅增加，兩臺設備組合的價格接近10萬元人民幣，顯得過于奢侈。

盡管存在短板，DGX Spark的應用場景依然豐富。官方提供了超過20種開箱即用的玩法，涵蓋視頻生成、圖像創(chuàng)作、工具調(diào)用和多智能體助手搭建等領域。例如，用戶可以利用ComfyUI框架和阿里的Wan 2.2 14B模型生成視頻，或通過LM Studio在本地運行大模型。設備運行時的噪音控制也受到好評，即使在高溫下仍保持安靜。

DGX Spark的出現(xiàn)，標志著個人AI計算設備進入了一個新階段。它不僅為科研和開發(fā)提供了強大的工具，也引發(fā)了關于本地AI應用邊界的思考。當每個人都能擁有一臺超算時，我們究竟能用它做什么？這個問題或許比設備本身的性能更值得探討。隨著更多評測結果和使用指南的發(fā)布，DGX Spark的真實價值將逐漸清晰。