生成式AI时代的数据中心

核心观点与关键数据

• 生成式AI（GenAI）的兴起：2022年末GenAI的诞生从根本上改变了科技行业，预计到2029年AI软件市场规模将达到2180亿美元，主要得益于GenAI助手、生产力工具以及嵌入SaaS解决方案的GenAI增强功能。GenAI能力已从文本扩展到复杂的文本到图像生成、高级语音识别和合成、视频生成以及全面的代码生成和分析。
• AI数据中心的重要性：AI需求增长推动AI数据中心爆炸性增长。预计到2029年，全球AI服务器出货量将超过400万台，2024-2029年复合年均增长率约为14%。AI服务器资本支出从2022年的229亿美元翻了一番，达到2023年的560亿美元，预计2024年将达到1380亿美元。
• AI数据中心的类型：根据工作负载类型，现代AI数据中心分为三类：超大规模AI数据中心、大型AI数据中心和小型AI数据中心。超大规模数据中心主要用于大规模预训练任务，大型数据中心优化用于训练和推理，小型数据中心用于计算和能源资源有限或数据隐私要求严格的环境。
• 关键技术驱动因素：AI芯片组的指数级增长、加速的网络连接以及通过创新的电源和热管理解决方案提供的服务保障是AI数据中心的关键技术驱动因素。AI芯片组市场由NVIDIA主导，但竞争对手如AMD也在快速增长。网络连接方面，智能网络接口卡（SmartNIC）和数据处理单元（DPU）被用于提高效率。电源和热管理方面，原生液冷、两阶段直接到芯片冷却（DTC）和高电压直流（HVDC）解决方案被采用以应对日益增长的功率密度和效率需求。
• 成本效益高的基础模型：DeepSeek-V3等成本效益高的基础模型的推出表明，高性能模型可以在不访问高端GPU的情况下开发，从而推动了GenAI的采用。
• 区域AI数据中心趋势：北美（尤其是美国）和中国是AI数据中心部署的领先中心，而东南亚和中东正在迅速成为关键参与者。美国市场由超大规模云服务提供商主导，中国拥有庞大的国内市场，东南亚和中东地区受到政府政策和 hyperscaler 需求的推动。

研究结论与建议

• 电信运营商的机会：电信运营商应抓住机遇，成为AI数据中心市场的关键参与者。他们可以利用现有的光纤网络和连接基础设施，提供边缘计算能力和全面的服务水平协议。
• 战略合作伙伴关系：电信运营商应与AI硬件和软件提供商建立战略合作伙伴关系，并通过开发增值管理AI服务、实施高级加密和数据保护措施以及提供专家咨询服务来差异化竞争。
• 开放性和协作：电信运营商应采用开放和标准化的解决方案，与电信运营商和生态系统参与者合作，以提升整体AI数据中心系统的性能和效率。基于开源和开放标准的解决方案可以促进GenAI的采用。

关键数据

• 全球AI软件收入预计到2029年将达到2180亿美元。
• 2024年，全球AI服务器市场规模估计为1400亿美元，中国为580亿美元，东南亚为58亿美元，中东为31亿美元。
• 预计到2029年，全球AI服务器出货量将超过400万台。
• 2022-2024年，AI服务器资本支出每年翻一番，从229亿美元增长到560亿美元，预计2024年将达到1380亿美元。