AI DC白皮书

౧म˃ྶ̒ᐘᄓఎᑨː႖ 一份给CIO规划建设智算数据中心的参考 前言 算力正成为新“黑金” 十几年前，美国《时代》周刊提到：网络带宽将成为石油之后，二十一世纪的新“黑金BlackGold”。那个时候，或许没有人预见到，十年之后的人工智能会跃迁到今天的水平。大模型的疯狂“涌现”，生成式AI的突然“顿悟”，一时间构筑起AI的“拉瓦尔喷管”，全球人工智能产业正无限逼近“迸发”的状态，人类社会将以远超我们想象的速度，加速迈向智能世界，算力正成为二十一世纪的另一个新“黑金”。 AI是趋势，不是潮流 从1956年人类首次提出“人工智能”的定义以来，AI的发展经历了多次的起起伏伏，即使在AI持续占据全球科技头条的今天，依然有相当数量的人和组织，对人工智能的未来表示怀疑、担忧和犹豫；但AI从未停止向前，技术不断创新突破，产业规模不断增大，应用从单点到多元化扩张、从通用场景向行业特定场景不断深入。AI必将重构传统产业，并将催生出诸多新产业。 ChatGPT的横空出世，让人类通往通用人工智能AGI之路从未像今天这样清晰，AI已经是不可逆转的趋势，不是潮流。AI驱动下，人类将从以数据（Data）和信息（Information）为主的信息社会，到以产生知识（Knowledge）和智慧（Wisdom）为主的认知社会。未来几十年，我们将迎来一场认知革命，今 天的生成式AI只是一个开始。 这是DC白皮书，不是AI白皮书 当“百模千态”已然成型，当“千行万业智能化”快速成势，首先得到全行业重点关注的不是AI应用，而是AI基础设施。要想富、先修路，任何国家和企业，要想在AI时代“富”起来，首先要把AI基础设施这条“路”修好，而数据中心恰恰是AI基础设施的核心之核心。 数据中心的雏形从1940年前后就开始出现，随后几十年间，随着互联网、大数据和云计算的发展，数据存储和数据处理变得越来越重要，数据中心也成为企业信息化、数字化的核心基础设施。迈向智能时代，数据中心首先要提供的是算力，承载的主要是AI训练和推理，支撑的是企业关键智能化应用，这类面向未来的数据中心我们称之为智算数据中心AIDC。 未来的数据中心一定是AI定义的 AIDC不是传统数据中心的简单升级改造，而是数据中心的一次全方位重构。从过去的成本中心到今天的生产中心，从数据存储和处理中心，到价值创造中心。 互联网和云计算带来了软件定义（Software-defined）的基础设施，未来的数据中心基础设施一定是AI定义的。AI带给数据中心的挑战也将是多维度的，如：算力密度、能源效率、AI-powered的运维与运营以及可持续性发展等。 强大而坚实的AI算力底座，是智能化转型的基石。数据中心不断演进，从存储数据、支撑应用，到提供算力、承载AI训练和推理，再到生产智慧、使能智能化，其重要性和行业价值不断凸显，值得产业链各方重点关注。希望这本白皮书能为全行业AIDC的规划与建设提供一些参考。 杨超斌 谢海 ——华为公司董事、ICT产品与解决方案总裁——中国铝业集团CIO 最近一段时间，围绕企业AI落地、AI算力基础设施建设，我与很多客户伙伴、AI生态链的朋友们进行了沟通交流，大家基本有一个共识，都把AIDC建设作为企业智能化转型的优先举措；但AIDC与传统数据中心存在很大区别，在企业数智基础设施中的定位变了、承载的业务变了、数据处理和算力提供的要求也变了，再加上技术还在不断创新升级，如何高效高质量建设AIDC值得全行业深入思考。从实践中进行复盘总结，汇聚全行业智慧，这就是这本白皮书的价值。 千行万业正在积极拥抱人工智能，把行业知识、创新升级与大模型能力相结合，以此改变传统行业生产作业、组织方式。在如何用好人工智能方面，有色行业不断探索，聚焦人工智能服务有色场景，在氧化铝、电解铝、高端铝加工等领域持续实践。这本白皮书提出了很多可供企业参考的观点，特别是针对如何规划建设企业数智基础设施的核心--AIDC上，给出了方向性的建议和非常实用的评估指标，而这也是企业落地AI的最关键一步。 李鹏 ——华为公司高级副总裁、ICT销售与服务总裁 中国有句谚语：“要想富、先修路”，建设高质量的ICT基础设施是企业数智化转型、实现商业成功的基石。AIDC作为新一代数智基础设施的核心，华为在过去几年与客户的建设实践与创新探索中，有经验、有教训，也还存在许多新课题需要大家一起解决。这本白皮书只是一个开始，全行业需要协同创新，共同推动AIDC发展，携手迈向智能时代。 生成式AI为保险行业发展提供了新质生产力，场景落地和价值闭环是当前核心问题，不论是技术探索，还是大规模应用部署的效率和成本考量，对企业AIDC的建设和运营都提出了极高的要求。白皮书基于技术趋势和产业实践，系统性地阐述了AIGC产业应用的建设策略和实现路径，并给出不同场景下的AIDC建设方案，具有重要参考价值，激发深入思考。 王磊 ——太平洋保险集团数智研究院院长 邹志磊 何宝宏 ——华为公司高级副总裁——中国信息通讯研究院云计算与大数据研究所所长 智能时代，AI只有进入企业的核心生产场景才能发挥巨大价值，这势必驱动企业业务系统从传统的“构成式”变成“生成式”。企业智算数据中心作为数智基础设施的核心，将从成本中心变成创新中心，技术架构也会发生颠覆式变化，传统数据中心时代的建设模式、系统架构、运维运营等可能都不再适用。这本白皮书是对当前行业实践的总结和复盘，面向未来我们还将持续探索和思考，就如何规划建设好AIDC给出更多参考建议。 马海旭 ——华为公司副总裁、ICT产品组合管理与解决方案部总裁 走向智能时代，AIDC将是整个智能社会的坚实底座。中国各级政府在布局引导、建设规划、技术创新和应用赋能等方面持续出台举措，推动算力基础设施发展。企业也不断加快探索实践步伐，推动AIDC向大规模、高质量和强应用的方向发展。本研究报告在规、建、管、用等多个维度，体系化梳理，立体化呈现AIDC最新态势，有助于促进产业发展。 苏廉节 ——Omdia人工智能首席分析师 人工智能应用繁荣的基础是算力。作为提供算力的关键数智基础设施，AIDC需要充分发挥计算、存储、网络、云、能源等技术领域的综合优势，以系统架构创新，持续突破规模算力瓶颈。从2019年发布AI战略及解决方案开始，华为就广泛参与到全球客户AI算力基础设施的建设实践中，并不断与产业链相关方开展联合创新，打造有竞争力的产品与解决方案，为客户创造价值。把这些有价值的客户建设实践与全行业的智慧汇聚在一起，形成了这本白皮书，希望帮助客户更快更好地建设AIDC，加速千行万业智能化转型。 AIDC承载的是人工智能应用、训练和推理等工作，与其他类型的数据中心存在很大的差异。当前的人工智能发展迅速，新技术新应用层出不穷。如何去构建一个坚实可靠的算力底座来满足长远未来的发展需求和应付人工智能应用的迭代演进是每个企业都必须去迎接的新挑战。 目录 第一章AIWorld总体愿景及宏观驱动力�������������������� 10 第四章典型AIDC规划与建设������������������������56 人工智能是一个大方向，不可阻挡������������������������������� 11 超大型AIDC����������������������������������������57 AIforAll������������������������������������������ 15 大型AIDC�����������������������������������������72 理想主义与现实主义交相辉映迈向AGI����������������������������� 17 小型AIDC�����������������������������������������88 第二章 AllinAI生成式业务系统�����������������������18 企业发展AI的不确定性和确定性��������������������������������19架构先行,将不确定挑战变成确定机遇������������������������������21应用场景为纲，四位一体，实现价值三角�����������������������������23 以数据中心为中心���������������������������������������32 第三章 智能时代数据中心的发展与变化���������������������34 数据中心走向智算数据中心AIDC�������������������������������35AIDC主要承载AI模型的“训推用”������������������������������37AIDC四大建设场景及三大类型��������������������������������39AIDC五大特征变化�������������������������������������43数据中心将被重塑，由分层解耦到垂直整合����������������������������53 第五章 AIDC建设与发展倡议������������������������94 行动倡议一： 适度超前建设AIDC�������������������������������������95 行动倡议二： 共同实现AIDC集约化建设和绿色发展�����������������������������98 行动倡议三： 共建开放协作的行业AI生态����������������������������������99 行动倡议四： 筑好三个底座，加速行业AI走深向实�����������������������������100 09 08 AIDC白皮书一份给CIO规划建设智算数据中心的参考 第1章 人工智能是一个大方向，不可阻挡 AIWorld总体愿景 及宏观驱动力 10 AIDC白皮书 生成式AI日新月异的发展，让人工智能如风卷残云般走向舞台中央。 根据中国信息通信研究院的相关报告显示，截止2024年7月，全球AI企业近3万家，全球人工智 能大模型有1328个，其中中国各类企业在不到2年 时间就上市发布478个人工智能大模型。 人工智能正引发全产业链的新一轮工业革命，也将给人类社会发展带来一个“天大的机会”。斯坦福大学“Human-Centered”人工智能研究所发布的《2024年人工智能指数报告》显示，从2023年到2024年第一季度,全球AI独角兽已有234家，新增数量为 37家，占新增独角兽总量的40%；2023年，虽然全球AI投资总额有所下滑、降至1892亿美元，但生成式AI领域的投资激增，比2022年增长了近8倍，达到252亿美元。 六十年的芯片技术发展，三十年的互联网发展，Transformer架构的不断突破，以及数据的极大丰富，让AI技术不断走深，AI应用不断向实。继OpenAI公司推出ChatGPT之后，2024年华为公司推出的盘古大模型5.0版本，以及Anthropic公司推出的大模型Claude3.5Sonnet版本，宣告大模型从“聊天”正式迈入“工作流”。 11 一份给CIO规划建设智算数据中心的参考 AI是过去70年ICT产业发展的总成果AI将引发百年未有之大变革 1956年，时任达特矛斯学院助理教授的约翰·麦卡锡组织召集了达特矛斯讨论，正是在这次会议上，第一次正式提出了“人工智能”的定义。从那以后，人工智能经历了两次发展的低谷，即所谓的“冬天”，但其发展的脚步并未就此停止。 AI流行度 摩尔定律牵引下的ICT产业发展 自从1971年英特尔发布第一颗微处理器开始，摩尔定律见证了ICT产业的蓬勃发展。如果把AI产业和ICT产业这70年的发展轨迹画到一起，我们发现， 人工智能与ICT产业的总体发展水平密切相关，学术研究发现和工程