2025中国算力发展之AI计算开放架构研究报告

AI 计算需求持续增长

• 大模型发展推动 AI 算力需求不断攀升：GPT-3 参数量达 1750 亿，GPT-4 达 1.8 万亿，模型参数规模呈指数级增长。
• AI 应用泛在化，万卡集群建设加速推进：多模态融合技术兴起，算力需求呈百倍增长，万卡集群成为标配。
• 大模型创新与应用深入，驱动 AI 计算模式升级：大模型推理成为落地应用关键，一体机和推理集群等新产品服务形式出现。
• 万卡、十万卡超大规模集群不断涌现：国外科技巨头和国内头部企业积极建设超万卡集群，推动 AI 技术创新。

国内异构算力发展趋势

• 算力多元异构融合发展：通用算力、智能算力和超级算力协同发展，CPU、GPU、FPGA、ASIC 等不同类型处理器优势互补。
• 异构算力系统的发展现状与趋势：打破单一架构算力形态，协同调度不同算力资源，优化数据处理流程，提升模型训练效率和资源利用率。
• 智算中心的异构算力发展趋势：开放、融合、聚合，搭载多种类型芯片，提供多元能力，聚合超大规模算力，软件栈无缝协同。

中国人工智能发展面临算力瓶颈

• AI 芯片单卡性能相比国际先进水平存在代差：国产 AI 芯片单卡算力不足，影响研发效率与创新速度。
• 发展集群算力是突破算力瓶颈的关键举措：多卡集群成为必然选择，但国产芯片卡间互联带宽低，影响性能。
• 智算配套生态系统不完善，削弱整体算力效能：国产算力硬件与各类算法、软件适配度有待提升，生态协同机制缺失，供需匹配脱节。

AI 计算开放架构：概念与意义

• 计算架构演变史：从大型机时代的集中式，到集群时代的分布式，再到智能时代的超异构融合。
• 集群组网方式：Scale Up（纵向扩展）和 Scale Out（横向扩展），超节点和整机柜服务器是 Scale Up 的杰出代表。
• AI 计算开放架构的概念与定义：面向大规模智能计算场景，以 GPU 为核心，进行高效紧耦合系统设计的协同创新体系。
• 国内外 AI 计算架构发展一览：国外以专用硬件和开源生态协同为核心，国内以自主创新和产业协同为特点。
• AI 计算开放架构产品、方案：国内外相关机构如 OCP、SSIA、ODCC、OCTC 等，以及国内外相关开放架构产品如英伟达 GB200 NVL72、Meta 开放式 AI 硬件设计、Arm Lumex CSS 计算平台、华为昇腾系列和 CANN、字节跳动“大禹”服务器架构、百度昆仑系列 AI 芯片、曙光 AI 超集群系统、沐曦 AI 计算集群等。
• AI 计算开放架构的意义与价值：推动跨层协作，破解算力瓶颈，降低使用成本，强化产业协同。

开放架构面临的挑战与应对

• 面临的困难与挑战：国产算力硬件和软件生态发展不均衡，异构算力协同效率低，用户使用门槛及成本较高。
• AI 计算开放架构的目标：优化算力供需匹配，降低算力使用成本。
• 业界应对举措：部分开放和完全开放两种路径，通过集群算力弥补单卡性能差距，通过生态协同降低应用迁移成本。

智算中心 AI 计算开放架构部署案例

• 曙光 AI 超集群系统：单机柜可搭载 96 张 GPU 卡，访存总带宽超 180TB/s，支持多精度、混合精度运算，兼容主流 AI 计算软件生态。
• 沐曦 AI 计算集群部署案例：规模已超万卡，采用沐曦曦云 C 系列产品，支持各类主流大模型基础训练框架、分布式加速框架和推理引擎，采用先进的 400GRoCE 网络，实现更高带宽的卡间互连方案。

展望：智能时代的中国智算产业生态

• 智算产业生态未来趋势：算力规模不断扩大，呈多元化创新趋势；芯片国产替代加速，国产 GPU 百花齐放；布局端边云协同，算力部署进一步优化。
• AI 计算开放架构发展倡议：加快标准研制，构建产业协同生态；攻关技术难题，突破算力效率瓶颈；优化运营管理，提升智算服务质量。