近日,賽迪顧問發布的《2025中國AI Infra平臺市場研究報告》顯示,京東云憑借在異構算力調度和GPU池化管理領域的技術突破,在“2024年中國AI Infra平臺算力管理層市場廠商競爭力象限分析圖”中位列產品能力前三。這一成績的取得,源于其持續深耕新一代人工智能基礎設施(AI Infra)的技術創新與實踐。
報告指出,當前AI Infra平臺已形成“算力管理層—模型管理層—應用管理層”的三層架構體系,其中算力管理層占據主導地位,2024年市場份額達64.6%。異構算力的精細化納管能力成為平臺競爭的核心指標。京東云依托京東集團豐富的業務場景,聚焦“異構算力+極致推理”方向,其核心平臺JoyScale通過軟硬件協同優化,實現了對華為昇騰、寒武紀、海光等國產芯片的高性能異構計算支持。通過算力池化與智能調度技術,平臺顯著提升了集群利用效率,完成了國產算力的統一納管與高效運維。
針對大模型訓練與推理的算力需求,京東云推出的JoyScale AI算力平臺具備獨特優勢。該平臺基于京東內部統一GPU池化實踐打造,支持訓練任務與推理服務的統一調度和資源共享,兼容10余種國產AI算力卡及20多種訓練推理框架。值得關注的是,其成為業內首個同時支持英偉達顯卡與昇騰NPU遠程調用的平臺,為AI應用運行提供了跨硬件生態的算力支撐。
技術層面,JoyScale平臺展現四大核心能力:在算力性能方面,其內核態池化引擎提供多卡聚合、單卡切分、集群化調度及推理加速等功能,滿足大參數模型部署需求。作為通過信通院最高等級雙認證的平臺,其金融級數據安全保障能力突出,整體推理性能較傳統方案提升50%。在異構調度方面,平臺全面適配國產加速卡,通過云原生AI調度技術將資源利用率提升70%。生態合作層面,京東云與多家國產芯片廠商開展深度技術協作,通過開放Runtime層代碼實現硬件復雜性的內核層屏蔽。框架支持方面,平臺覆蓋PyTorch、TensorFlow等主流訓練框架,以及vllm、TensorRT-LLM等推理框架。
基于京東集團復雜業務場景的實踐積累,京東云已構建覆蓋全鏈條的大模型產品矩陣。該體系從底層智算基礎設施延伸至上層Agent應用開發,包含模型服務工具層與中間層解決方案,為國央企客戶提供從算力部署到AI應用落地的全流程支持,助力企業重塑數字化生產力。





















