中国智算中心服务发展报告（2024年）

2024中国算力大会 中国智算中心服务发展报告 （2024年） 2024中国算力大会 2024年9月 DCC 版权声明 本报告版权属于2024中国算力大会，并受法律保护。 转载、摘编或利用其它方式使用本报告文字或者观点的，应 注明“来源：《中国智算中心服务发展报告（2024年）》” 违反上述声明者，将追究其相关法律责任。 ODCCCODCC A CODCC CODCC OODCC ODCC 前言 在当今数字化经济加速发展的时代背景下，算力已成为推动经济社会发展的重要引擎。近年来，我国算力中心总体规模持续扩大，算力总规模显著增长，为数字经济的蓬勃发展提供了强有力的支撑。然而，随着行业智能化转型的加速，对算力的需求也日益多样化、复杂化，传统服务模式已难以满足当前及未来市场的需求。因此，探索并构建智算中心服务模式，助力人工智能技术加速赋能行业应用，对于推动我国数字经济高质量发展具有重要意义， 智算中心服务是随着数字经济的快速发展和人工智能技术的广泛应用而逐渐形成的重要服务形态。覆盖从基础设施规划建设到行业智能应用的全过程，旨在为行业提供高效、可靠、绿色、智能、系统 性的服务，支撑行业智能化转型。《中国智算中心服务发展报告（202400年）》阐述了我国算力中心发展现状与智算中心服务供需背景，提出了智算中心服务体系的框架与内容，分析了产业发展态势及未来趋势 为政府决策和企业实践提供了参考。时间仓促，报告仍有诸多不足 愿请各界批评指正。后续我们将不断更新完善，如有意见建议请联系 中国信通院研究团队：dceco@caict.ac.cn。 CODCC 0000 .ODCC ODCC 目录 、智算中心发展概述， （一）我国算力总规模持续扩大，数字经济发展步伐加快 （二）我国出台一系列政策文件，推动算力中心高质量发展 （三）智能算力成为数字经济发展新引擎，市场规模不断扩大： 二、当前智算中心发展面临的间题， （一）电力消耗大、硬件资源利用率低等管控运维问题. （二）模型训练资源需求大、迁移部署难度高等开发问题.10 （三）高质量数据获取困难、应用开发技术门槛高、落地难等问题.11 （四）在技术创新和体系建设过程中面临硬件与软件协调的间题..：13 三、智算中心服务体系15 CODCC （一）基础设施类服务，16 （二）模型开发与支持类服务27 （三）场景应用类服务32 （四）智算中心服务特征. 四、智算中心行业应用场景 五、智算中心服务发展趋势及展望.45 CODCC ODCC I ODCC ODCC 图1我国算力基础设施总体规模图2我国算力结构图图3智算中心服务结构图： 15 图4业务分析主要工作内容. 18 图5规划建设主要工作内容， 22 图6完善运维体系建设 25 图7通用大模型行业训练微调应用流程图， 31 图8典型行业知识库应用流程图 CODCC 图目录 CODCC CODCC A CODCC A ODCC 0000 II CODCC ODCC 表目录 表1部分国家出台相关政策文件 表2部分地方政府出台相关政策文件 CODCC CODCC CODCC A CODCC CODCC A CODO OODCC III 中国智算中心服务发展报告2024中国算力大会 智算中心发展概述 （一）我国算力总规模持续扩大，数字经济发展步伐加 快 算力是集信息计算力、网络运载力、数据存储力于体的新型生 产力，对助推产业转型升级、赋能我国科技创新、满足人民美好生活需求具有重要意义。算力中心作为数据计算、存储、交换的重要场所，是数字技术与实体经济深度融合的必要条件。 当前我国算力基础设施总体规模持续扩大。作为新一轮科技革命 和产业变革的重要基础支撑，算力已成为大国博奔的核心和关键。算力规模持续增长且智能算力成为增长的主要驱动力，主要应用已经逐步从互联网、电信等行业向政务、金融、教育、制造等领域拓展，算力应用持续赋能经济社会发展。据中国信通院统计，我国在用机架数量三年复合增长率约30%。截至2023年底，全国在用算力中心机架 总规模超过810万标准机架，算力总规模达到230EFLOPS（每秒百亿 三 亿次浮点数计算）。我国算力基础设施总体规模如图1所示。 1000 800 600 400 200 2017201820192020202120222023 ■总机架数量（万架）大型规模以上机架数量（万架） 来源：中国信通院 图1我国算力基础设施总体规模 中国智算中心服务发展报告2024中国算力大会 算力底座进一步夯实，为推动数字经济发展提供核心力量。随着云计算、大数据、人工智能等技术的深度融合，算力底座正展现出更加坚实与灵活的特性。此外，依托强大的算力，大模型可实现高效训练与顺畅应用，使其在应对复杂任务时显得游刃有余，持续推动人工智能技术的蓬勃发展。截至2023年底，我国算力总规模超过 230EFL0PS（FP32），其中智能计算年增速超70%，势头强劲。我国近 三年算力结构如图2所示， 250 200 EFLOPS 单位： 150口超算算力 ■智能算力 LOC ■通用算力 ODCC 50 202120222023 图2我国算力结构图 来源：中国信通院 三 智算中心作为新一代信息技术的重要枢纽，为数字经济发展注入新动能。算力在驱动数字产业化发展进程中发挥辐射带动作用，提升5G、大数据、人工智能、云计算等新一代信息通信技术的创新活跃度。得益于算力的增强，大数据在行业应用更加迅速、分析更为精准。如在医疗行业，智算中心助力医学影像精准分析，加速疾病预测与药物研发；在交通行业，助力智能交通系统的流畅运行，保障自动驾驶的安全与高效：在金融领域支撑风险控制服务，提供个性化投顾服务： 中国智算中心服务发展报告2024中国算力大会 在工业制造领域，智算中心推动智能制造发展，优化供应链管理；在教育行业，为教师提供可行化教学方案，对授课效果进行智能化分析实现智能教学辅助 （二）我国出台一系列政策文件，推动算力中心高质量 发展 行业提出了发展要求。2023年10月，工业和信息化部等六部门联合 印发《算力基础设施高质量发展行动计划》，从计算力、运载力、存储力以及应用赋能四个方面提出到2025年的发展量化指标，引导算 力基础设施高质量发展。2023年12月，国家发展改革委等部门发布 《关于深入实施“东数西算”工程加快构建全国一体化算力网的实施 意见》，以期进步实现资源高效调度、设施绿色低碳、算力灵活供 给、服务智能随需。2024年4月，国家发展改革委办公厅、国家数据 局综合司印发《数字经济2024年工作要点》，提出适度超前布局数 字基础设施，深入推进信息通信网络建设，加快建设全国-体化算力 网，全面发展数据基础设施。部分国家出台相关政策文件如表1所示三 表1部分国家出台相关政策文件 时间政策内容 《关于加快构建全国到2025年，全国范围内数据中心形成布局合理， 2020年一体化大数据中心协绿色集约的基础设施一体化格局。构建一体化算 12月同创新体系的指导意 见》 力服务体系，优化算力资源需求结构。 中国智算中心服务发展报告2024中国算力大会 时间政策内容 以赋能数字经济发展为目标，推动新型数据中心 《新型数据中心发展建设布局优化、网络质量提升、算力赋能加速、 2021年三年行动计划产业链稳固增强、绿色低碳发展、安全保障提高， 7月 （2021-2023年）》打造新型智能算力生态体系，有效支撑各领城数 字化转型，为经济社会高质量发展提供新动能。 统筹布局绿色智能的数据与算力设施，推动数据 2021年《“十四五”信息通中心高质量发展，加快建设绿色数据中心，建立 11月 信行业发展规划》健全绿色数据中心标准体系和能源资源监管体 系，引导使用节能与绿色低碳技术产品、解决方 案。 《贯彻落实碳达峰碳 中和目标要求推动数加强数据、算力和能源之间的协同联动，加快技 2021年据中心和5G等新型术创新和模式创新，坚定不移走绿色低碳发展之 12月基础设施绿色高质量路。 发展实施方案》 加快构建算力、算法、数据、应用资源协同的全 国一体化大数据中心体系。推动智能计算中心有 2022年《“十四五”数字经序发展，打造智能算力、通用算法和开发平台一 1月济发展规划》体化的新型智能基础设施，面向政务服务、智慧 城市等重点新兴领域，提供体系化的人工智能服 务。 推进绿色数据中心建设：推进网络架构优化，精 《信息通信行业绿色简网络层级和网络设备节点数量，逐步形成以数 2022年低碳发展行动计划据中心为核心的扁平化、云网融合、云边端协间 8月（2022-2025年）》的网络架构和算力设施体系，推动实现异构云集 中管理和协同共享。 在完善算力综合供给体系、提升算力高效运载能 2023年《算力基础设施高质力、强化存力高效灵活保障、深化算力赋能行业 10月量发展行动计划》应用、促进绿色低碳算力发展、加强安全保障能 力建设等六方面部署25项重点任务。 《关于深入实施“东 统筹通用算力、智能算力、超级算力的一体化布 2023年数西算”工程加快构局，统筹东中西部算力的一体化协同，统等算力 12月 建全国一体化算力网 的实施意见》 与数据、算法的一体化应用，统筹推动算力与绿色电力的一体化融合，统筹算力发展与安全保障的一体化推进。 提出适度超前布局数字基础设施，深入推进信息 2024年《数字经济2024年 4月工作要点》 通信网络建设，加快建设全国一体化算力网，全 面发展数据基础设施。 中国智算中心服务发展报告2024中国算力大会 00随着国家陆续出台多项政策，各地方政府纷纷响应号召。北京 上海、广东、河南、贵州、山东、江苏等地相继发布有关政策，加大投资建设规模，结合自身发展情况，提出相应发展路线。具体来看，北京强调集中建设一批智算单大集群，改变智算建设“小、散”局 面：上海明确到2025年算力规模需超过18000PFL0PS（FP32）：深圳 则对通用算力、智能算力、超算算力规模做出计划，到2025年通用 算力达到14EFLOPS（FP32），智能算力达到25EFLOPS（FP16），超 算算力达到2EFLOPS（FP64）；河南省计划到2025年，智算和超算算力规模超过2000PFLOPS，高性能算力占比超过30%；贵州围绕高可靠、 高可用目标，重点布局智算基础设施，构建低时延人工智能算力基地 三 全国低成本中心、高安全中心；山东则提到要引导通用数据中心、超算中心、智能计算中心、边缘数据中心等合理梯次布局：江苏省计划构建新代云计算、智能计算、超算、边缘计算等多元算力供给体系部分地方政府出台相关政策文件如表2所示。 表2部分地方政府出台相关政策文件 地区政策内容 《北京市算力基础设施建提到要改变智算建设“小、散”局面，集中建 北京设实施方案（2024—2027设一批智算单一大集群，到2025年，本市智 年）》算供给规模达到45EFLOPS 《上海市推进算力资源统 上海一调度指导意见》 深圳《深圳市算力基础设施高 质量发展行动计划》 提出到2023年，可调度智能算力达到 1000PFL0PS(FP16)以上；到2025年，本市数据中心算力超过18000PFL0PS（FP32） 提出到2025年，通用算力达到14EFLOPS （FP32），智能算力达到25EFLOPS（FP16），超算算力达到2EFLOPS（FP64）。 中国智算中心服务发展报告2024中国算力大会 00地区政策内容 河南《河南省加快制造业“六提到“到2025年，智算和超算算力规模超过 新”突破实施方案》2000PFL0PS，高性能算力占比超过30%， 提出围绕高可靠、高可用目标，从备份中心提 《面向全国的算力保障基 贵州地建设规划（2023- 升为计算中心、效益中心，重点布局智算基础设施，形成低时延人工智能算力基地、全国低 成本中心、高安全中心。到2025年贵州省通 2025)》用算力、智算算力、超算算力的总规模分别达 2EFLOPS、5EFLOPS和10EFLOPS. 提到要引