登录
首页 > 今日新闻 > 京东云发布八大领先智算产品,助力企业火速用上大模型

京东云发布八大领先智算产品,助力企业火速用上大模型

发布时间:2025-02-26 17:13:06 发布用户: 15210273549

AI生产力全面重塑。2月26日,京东云城市大会在深圳顺利举行。会上,京东云发布八大极致性价比的智算产品,五种全场景大模型部署模式,同时推出“开发训练+场景应用”双引擎一站式平台,助力企业实现DeepSeek等大模型开箱即用、智能体深度开发与应用,全面打通从模型落地到产业智能升级的最后一公里。

京东集团技术委员会主席、京东云事业部总裁曹鹏表示,当下,全国大量企业都在加速部署DeepSeek,让员工零时差用上大模型。京东云认为,企业应用大模型应该根据场景找到性能与价值的黄金平衡点。京东云领先的异构算力调度引擎,可以帮助企业盘活存量算力,超智算一体集群将助力大中型企业构建智算底座,重塑企业AI生产力。

AI普惠全面来临 五大模式助力企业火速上线DeepSeek

随着DeepSeek火爆全球,相关数据显示,中国已有2.5亿人用过大模型,AI普惠全面来临。面向众多企业用户多样化DeepSeek部署需求,京东云提供多场景、多形态、多规格的五大解决方案。

对于希望低成本搭建AI应用的初创公司和开发者,提供裸金属智算服务公有云Token调用两种模式;

对于金融、政府、企业等需要“数据不出域”的用户,提供大模型私有化部署,包括一体机纯软件部署算力运营三种模式,实现“数据本地化、模型私有化”。

京东云DeepSeek五大部署模式

京东云DeepSeek大模型一体机,通过自研的算力池化能力、智能推理加速引擎,充分融合软硬件,实现了性能的全面提升,推理速度提升50%,企业可以根据自己的需求灵活选择不同版本,开箱即用。

目前,在河南鹤壁、江苏宿迁、山东滨州,京东云已经助力多地政府基于现有基础设施本地化部署DeepSeek,既满足本地政务业务需求,又让当地企业不用投入资源,即可通过政务云调用DeepSeek。

八大行业领先智算产品 极致性价比托举大模型落地

基于京东集团复杂场景实践,京东云构建了一站式大模型产品矩阵,从底层的智算基础设施,到中间层的模型服务和工具,再到上层的Agent应用开发,支持企业快速部署大模型及应用。

言犀AI开发计算平台,全面支持言犀大模型及20余种开源模型,整合超百种行业算法、工具链及高质量数据集,帮助企业基于业务需求高效开发专属大模型。此外,京东云自研推理引擎,通过P-D分离技术释放异构GPU算力,针对DeepSeek模型的单Token推理成本降低80%。

计算、存储、网络的“黄金三角”,对破解大模型成本至关重要。

京东云超智算一体化算力集群,单集群万卡、全局10万卡级集群调度能力,依托软硬件协同优化,驱动大模型算力利用率(MFU)跃升至75%。

云海AI存储,千亿级大模型全栈支持,4K随机写IOPS突破1000万级极速响应,存算分离架构实现性能提升的同时成本降低30%,构建超大规模AI训练的普惠存储底座。

京东云高性能云网络,RDMA带宽提升至‌3.2T级‌,端到端通信时延压降至‌2微秒,支撑千亿参数模型‌无损训练‌,释放AI算力极限。

京东云vGPU AI算力平台,针对DeepSeek大模型技术特点,通过推理加速与内核驱动级优化,提升单台服务器推理性能50%。通过集群算力池化调度提升集群利用率70%。全面适配十余家国产化算力资源。同时借助AI全密态机密容器能力,确保模型参数与训练数据双域零泄露,为用户提供金融级安全防护。

智算中心功率密度是传统数据中心的5倍,对供电、散热的要求严苛。京东云自研的阿尔法智能算力模块,支持液冷系统一体化交付,PUE控制在1.15以内,同等规模成本直降15%;新一代液冷服务器,散热效能提升 50%,单机柜20KW年度省电8500度。

大模型安全是智能时代的终极防火墙。京东云大模型安全可信平台,超200种自研红蓝对抗攻击手法,覆盖全部31类合规风险,全流程AI检测精准狙击,风险识别率95%+,硬核护航千亿参数模型业务零漏洞。

在行业实践中,京东云成功支持某新能源汽车头部厂商、某全球新能源科技领导企业,打造覆盖全集团的智能计算底座,实现千卡级AI算力集群的精细化管理。技术上一方面创新多元算力调度,显著提升GPU利用率,另一方面创建全生命周期AI开发环境,实现开箱即用,大幅提升研发效率。目前,该平台已支撑起企业智能驾驶研发、人形机器人等20余个核心场景,成为集团的"数智发动机"。预计一年内,两家企业大模型训练周期将缩短40%,每年节省的算力成本相当于新建两座数据中心!

Copyright 2018-2024 集齐豆 版权所有  备2018023569号