近日，賽迪顧問發(fā)布的《2025中國AI Infra平臺市場研究報告》顯示，京東云憑借在異構(gòu)算力調(diào)度和GPU池化管理領(lǐng)域的技術(shù)突破，在“2024年中國AI Infra平臺算力管理層市場廠商競爭力象限分析圖”中位列產(chǎn)品能力前三。這一成績的取得，源于其持續(xù)深耕新一代人工智能基礎(chǔ)設(shè)施（AI Infra）的技術(shù)創(chuàng)新與實踐。

報告指出，當(dāng)前AI Infra平臺已形成“算力管理層—模型管理層—應(yīng)用管理層”的三層架構(gòu)體系，其中算力管理層占據(jù)主導(dǎo)地位，2024年市場份額達64.6%。異構(gòu)算力的精細化納管能力成為平臺競爭的核心指標(biāo)。京東云依托京東集團豐富的業(yè)務(wù)場景，聚焦“異構(gòu)算力+極致推理”方向，其核心平臺JoyScale通過軟硬件協(xié)同優(yōu)化，實現(xiàn)了對華為昇騰、寒武紀(jì)、海光等國產(chǎn)芯片的高性能異構(gòu)計算支持。通過算力池化與智能調(diào)度技術(shù)，平臺顯著提升了集群利用效率，完成了國產(chǎn)算力的統(tǒng)一納管與高效運維。

針對大模型訓(xùn)練與推理的算力需求，京東云推出的JoyScale AI算力平臺具備獨特優(yōu)勢。該平臺基于京東內(nèi)部統(tǒng)一GPU池化實踐打造，支持訓(xùn)練任務(wù)與推理服務(wù)的統(tǒng)一調(diào)度和資源共享，兼容10余種國產(chǎn)AI算力卡及20多種訓(xùn)練推理框架。值得關(guān)注的是，其成為業(yè)內(nèi)首個同時支持英偉達顯卡與昇騰NPU遠程調(diào)用的平臺，為AI應(yīng)用運行提供了跨硬件生態(tài)的算力支撐。

技術(shù)層面，JoyScale平臺展現(xiàn)四大核心能力：在算力性能方面，其內(nèi)核態(tài)池化引擎提供多卡聚合、單卡切分、集群化調(diào)度及推理加速等功能，滿足大參數(shù)模型部署需求。作為通過信通院最高等級雙認證的平臺，其金融級數(shù)據(jù)安全保障能力突出，整體推理性能較傳統(tǒng)方案提升50%。在異構(gòu)調(diào)度方面，平臺全面適配國產(chǎn)加速卡，通過云原生AI調(diào)度技術(shù)將資源利用率提升70%。生態(tài)合作層面，京東云與多家國產(chǎn)芯片廠商開展深度技術(shù)協(xié)作，通過開放Runtime層代碼實現(xiàn)硬件復(fù)雜性的內(nèi)核層屏蔽。框架支持方面，平臺覆蓋PyTorch、TensorFlow等主流訓(xùn)練框架，以及vllm、TensorRT-LLM等推理框架。

基于京東集團復(fù)雜業(yè)務(wù)場景的實踐積累，京東云已構(gòu)建覆蓋全鏈條的大模型產(chǎn)品矩陣。該體系從底層智算基礎(chǔ)設(shè)施延伸至上層Agent應(yīng)用開發(fā)，包含模型服務(wù)工具層與中間層解決方案，為國央企客戶提供從算力部署到AI應(yīng)用落地的全流程支持，助力企業(yè)重塑數(shù)字化生產(chǎn)力。