智算产业发展研究报告（2024）

中国电信研究院（天翼智库） 2024年9月 智算产业发展研究报告 （2024年） 编制说明 主编单位：中国电信研究院 参编单位：深圳海兰云数据中心科技有限公司中国电信股份有限公司上海分公司中国电信股份有限公司湖北分公司 顾问专家： 中国电信研究院战略发展研究所所长：饶少阳 编委成员： 孙雪媛、陈元谋、李思思、赵静、熊小明、谢林翰、马腾滕、王田媛、魏玥王勇、傅蓉蓉 廖志鹏张能 智算产业发展研究报告 （2024年） 目录 一、全球智算产业新动向4 1、智能算力将成为AI发展的关键支撑与引擎4 2、AI投资热潮推动智算产业进入快速增长期5 3、智算产业开启“速度”与“质量”并行8 4、智算产业发展的几点认识10 二、智算产业图谱12 1、智算基础设施：全球建设如火如荼，国产化进程加速13 2、大模型平台服务：国内外云厂商模式创新，差异化布局14 3、行业应用：全球进入应用元年，智算能力全面升级16 4、智算集成服务：ToB市场火热，智算集成释放巨大潜力20 三、智算发展七大趋势预判22 趋势一：软硬协同优化助力大模型降本增效22 趋势二：高质量数据集是大模型能力跃迁的关键23 趋势三：超大规模智算集群成为人工智能发展基石25 趋势四：算力服务由资源租赁向平台化、一体化供给演进28 趋势五：AIAgent（智能体）将成为智能交互的新流量入口29 趋势六：AI技术设备加速AIDC基础设施升级31 趋势七：算力与电力协同发展成为新态势32 四、智算技术发展的六大关键词33 关键词1：MoE33 关键词2：具身智能35 关键词3：分布式智算中心网络36 关键词4：存算一体37 关键词5：空心光纤39 关键词6：算电联合调度40 关键技术成熟度评估42 五、智算发展潜力评估44 1、评估方法44 2、评估结果46 六、典型案例50 1、中国电信上海万卡集群50 2、中国电信京津冀智算中心跨智算中心无损网络解决方案51 3、中国电信湖北中部绿色智算中心54 4、海兰云海底数据中心57 七、总结与展望59 八、附录-智算评估实施方案60 1、评估指标模型构建60 2、评估指标赋值61 3、评估指标权重设计61 4、各省评估得分63 九、参考文献63 一、全球智算产业新动向 1、智能算力将成为AI发展的关键支撑与引擎 （一）AI推动算力需求超线性发展，智能算力需求井喷。根据EPOCHAI数据，全球人工智能经历从传统模型进入深度学习阶段，模型所需算力规模年增长1.5倍突破至4.1倍/年，算力规模实现7个数量级的增长（2010-至今）[1]，其主要在于： 大参数模型、高质量数据集和大算力（智算）成为AI大模型发展的关键要素，Scaling法则带动大模型不断突破新的瓶颈。Transformer架构成为人工智能的事实标准，模型架构趋于稳定，数据规模、质量双提升，GPU单卡性能、集群有效算力的持续迭代升级，为大模型的性能、规模爆发奠定了基础，加剧模型训练算力需求指数级增长，目前全球千亿级参数模型所需算力至少为10^23数量级，所需算力至少为万卡级规模以上（参考A100），持续训练周期为周级时长。 图1主流大模型训练算力需求 大模型加速行业渗透，叠加多模态大模型发展，催生算力需求持续增长。随着AIGC技术发展，IDC预测2024年全球将涌现出5亿个智能化应用，相当于过去40年间的应用数总和[2]，在巨大的应用蓝海市场面前，算力缺口显著。Sora、GPT-4o、Gemini等多模态大模型持续迭代，多模态的海量数据、高清晰度的多轮去噪将带来算力百倍以上的增长。根据测算，与语言大模型（GPT-3）相比，Sora训练阶段的算力需求是大语言模型170+倍；推理阶段，即完成一项常规任务，算力需求是大语言模型600+倍。 （二）智算正在成为我国算力主赛道。2023年我国算力总规模达到230EFLOPS，近五年年均增速30%；智能算力规模达70EFLOPS，增速超70%，占算力总规模30%。2023年10月工信部等六部门联合发布《算力基础设施高质量发展行动计划》，明确了到2025年算力规模超过300EFlops，智能算力占比达到35%。多省跟进总体目标，上海、广东等省提出到2025年智能算力在总算力中占比达到50%及以上，截至2024年6月，中央企业智能算力规模同比实现翻倍增长。 2024年7月国务院“推动高质量发展”新闻发布会上，国资委AI赋能产业焕新工作计划“有序推进智算中心和算力调度运营平台建设，做强智能算力供给”。 2、AI投资热潮推动智算产业进入快速增长期 多国政府将AI基础设施上升至国家战略，持续加大投资及政策支持。面对新一轮人工智能引发的科技竞赛，各国纷纷加码支持，针 对AI基础技术、算力基础设施等出台一揽子投资举措。美国瞄准细分领域，2024财年AI投资预算增长至31亿美元，创历史新高；对通用人工智能基础技术保持高强度投入、算力基础设施等资助力度逐年增强，并于2024年9月美国政府宣布成立AI（人工智能）数据中心基础设施工作组，该工作组将由国家经济委员会、国家安全委员会和白宫副幕僚长办公室领导，以协调政府各部门的政策，进一步打造AI基础设施的全球领先优势。加拿大政府2024年4月宣布24亿加元AI投资举措，通过AI开发和使用来提高生产力。其中20亿加元为AI研究人员、初创企业和规模化企业提供算力和技术基础设施。欧盟2024年8月正在推进设立“人工智能工厂”，鼓励成员国建设 人工智能基础设施建设；欧委会将向数字欧洲计划拨款8亿欧元，用于购买新的AI专用计算资源或升级现有基础设施。沙特致力于成为全球人工智能中心。2024年3月沙特阿拉伯称将启动成立一只高达400亿美元的国家基金，专注于人工智能领域投资，特别是对初创企业、芯片制造商和数据中心扩张。沙特阿美旗下风投公司Wa'edVentures（实际上是沙特的投资工具）近期围绕AI芯片、AI平台持续投资，加快沙特在全球AI竞赛中布局。 国家加大力度支持算力产业发展，重点聚焦国产算力。政府通过“国家大基金”、“算力券”“模型券”等方式支持AI产业发展。国家大基金目前已进行到第三期，目标推动国内集成电路产业及半导体产业的持续发展、促进半导体以及芯片技术的创新。2024年2月中央企业人工智能推进会上，国资委强调“中央企业要把发展人工智 能放在全局工作中，统筹谋划加快建设一批智能算力中心，国产算力进一步加速”。3月两会上，政府工作报告首提“加快形成全国一体化算力体系”。 资本市场加大AI投资力度，基础设施及模型成为资本关注重点领域。从全球看，2024年上半年AIGC行业投融资总额达1384亿元，较去年同期增长23.3%；累计发生投资事件363次，同比猛增307.9%。国内方面，AIGC行业融资金额约为221亿人民币，同比增长192.4%；累计发生投资事件170次，融资次数快速增长了178.7%。到目前为止，大部分资金都投向AI基础设施和基础模型（Foundationallayer）；七家科技巨头1（下图所示M7）已将AI作为竞争焦点，尤其是AI硬件层和AI模型层的竞争正在升温[3]。摩根士丹利认为，算力周期的发展进入第二阶段，红利逐渐从芯片转向基础设施，具体包括服务器、网络设备、冷却系统、数据存储等。 图2AI投资分布情况 1M7指的是Alphabet,Amazon,Apple,Meta,Microsoft,Nvidia&Tesla 图3M7人工智能布局情况 头部科技公司持续加强全球化AI基础设施布局。OpenAI正计划在美国投资数百亿美元用于建设AI基础设施，并寻求美国政府支持，组建全球投资者联盟；微软计划投资超100亿美元在英国、日本、印尼、法国等国家地区建设人工智能中心、扩大AI基础设施、培训AI劳动力技能等；三星电子表示将在美国、韩国成立半导体AGI（通用人工智能）计算实验室；字节投资21.3亿美元在马来西亚建立人工智能中心。 3、智算产业开启“速度”与“质量”并行 在人工智能领域，各国持续加大监管行动的开展，全球加快推进“人工智能治理”。根据世界经济论坛（WEF）发布《生成式人工智能与国际贸易分析》数据，自2023年1月以来，有超600项针对人工智能供应商的监管行动[4]。美国开启“全面立法”治理人工智能。2023年1月，美国商务部国家标准与技术研究院发布《人工智能风险管理框架》，旨在对人工智能系统全生命周期实行有效的风险管理。 2023年10月，发布总统行政令《安全、可靠和值得信赖的人工智能开发和使用》，明确了美国政府治理人工智能的政策法律框架，具有里程碑意义。2024年5月，美国参议院人工智能工作组发布《推动美国在AI领域的创新：参议院AI政策路线图》。欧盟展现领先全球的立法速度。2024年3月，其发布的《人工智能法案》被认为是全球首部综合性人工智能治理立法，对人工智能系统进行了分类，并根据风险等级制定了相应的监管要求，设定了普适、全面的人工智能监管方法，包括数据管理、透明度、可解释性、人类监督等方面。同时新设了人工智能办公室，推动实施《人工智能法案》。 “算力治理”成为人工智能治理抓手，倒逼智算产业高质量发展。2024年世界人工智能大会提出“选取人工智能技术发展中最直观量化的算力作为治理对象，通过算力治理间接实现人工智能治理”。算力治理的提出，反映了对于人工智能发展的全面考量。通过算力治理，可以更好地协调和优化计算资源的分配，提高计算效率，从而提升人工智能系统的整体性能。此外，算力治理还有助于监控和管理人工智能技术的潜在风险，确保其在法律和伦理框架内运行，保护个人信息安全和国家安全。算力治理不仅关乎底层计算基础设施，更是对智算全产业链的完整治理。生态伙伴按治理规则，全面提升智算基建、智算运营、智算安全等一体化智算服务能力。 我国明确“算力一体化”战略，生态联合实现算力产业高质量发展。2024年政府工作报告明确提出，“加快形成全国一体化算力体系，培育算力产业生态”。多部委牵头联合正在加紧构建“全国一体 化算力网”，推动建设中国式现代化数字基座；建设“全国统一算力服务大市场”，降低中小企业用算成本。三大运营商支撑了全国一体化算力网原型试验场的构建，在建设算网基础设施，深化算网资源布局、创新算力网络服务模式方面发挥了主力作用；阿里云、华为云、天翼云等现已加入全国一体化算力调度平台。 4、智算产业发展的几点认识 （一）算力正在成为塑造未来社会经济发展格局的核心驱动力，其与数据、算法交互融合，正在催生数字化、智能化、生态化的新质生产力形态。 当前人工智能已进入大模型时代，算力、数据、模型快速增长，相比之前的人工智能，大模型具有更好的通用性、更广的应用范围，具备赋能各行各业的潜力，颠覆传统的生产流程、创新模式，引领产业加快向智能化升级，是形成新质生产力的关键力量之一。大模型推动算力爆发式增长，由“算力-数据-算法”三位一体构成的智能化生产力形态，是数智时代最具颠覆性的“新质生产力”，在各行各业、应用场景中落地生根，释放产业新动能。根据IDC预测，到2030年人工智能（AI）将为全球经济贡献19.9万亿美元，推动全球GDP增长3.5%[5]。 （二）智算规模稳定增长，年均增长70%左右；能效水平不断提升，每瓦特消耗的算力规模每2年翻一倍。 多模态大模型快速发展，推动智能算力需求规模大幅增长。以文 生视频大模型Sora为例，Sora生成60秒视频对比GPT-3生成3000字文本，对应推理计算负荷增加超600倍。预计未来1-2年，我国智算规模能将维持在70%以上增长率，到2025年有望超过200EFLOPS。同时，智能算力的高能耗特征日益显著，但整体能效水平将不断优化提升。参照英伟达/AMD等主流AI芯片系列产品，AI芯片每W消耗算力约每2.2年翻倍[6]，同时结合数据中心高效制冷模式普及所带来PUE优化，预计未来1-2年每瓦特所承载算力每2年左右可翻一倍。 （三）底层算力具有高价格、高利润特点，智算产业活力难以释放，影响对数字经济的带动作