英特尔中国公有云和互联网创新实践

核心观点与关键数据

• AI 算力需求持续高涨：AI 应用普及推动算力需求激增，用户对数据隐私安全及云计算稳定性提出更高要求，企业级用户需要更具性价比的高性能算力新选择。
• 英特尔至强® 6 性能核处理器助力 AI 普惠：凭借核数、单核性能和内存带宽优势，显著提升算力性能；利用英特尔® AMX 和英特尔® TDX 提升 AI 应用性能，构筑稳固的安全防线。
• 云服务升级方案：阿里云 ECS g9i、火山引擎 g4il、金山云 SE9 等云实例采用至强® 6 性能核处理器，实现计算性能突破，提升性价比，满足不同场景需求。
• 大语言模型（LLM）推理加速：阿里云 ECS g8i、百度千帆大模型平台、用友 NLP 应用等利用英特尔® AMX 和英特尔® AVX-512 加速 LLM 推理，降低成本，提升性能。
• 绿色数据中心发展：阿里云和京东云采用浸没式液冷方案和高密度算力方案，降低 PUE 值，提升资源利用率，推动液冷技术普惠发展，实现绿色高效数据中心。
• 传统深度学习加速：阿里妈妈推荐系统、腾讯云向量数据库等利用英特尔® AMX 和英特尔® oneDNN 等加速传统深度学习应用，提升性能和效率。
• 数据中心可靠性提升：字节跳动与英特尔合作，利用英特尔® MRT 技术预测和隔离内存故障，降低数据中心 TCO，提升业务稳定性。

研究结论

• 英特尔至强® 6 性能核处理器在 AI 算力、云服务、大模型推理、绿色数据中心和数据中心可靠性等方面具有显著优势，有效满足企业级用户需求。
• 英特尔® AMX 和英特尔® AVX-512 等加速引擎能够显著提升 AI 应用性能，降低成本，推动 AI 普惠。
• 浸没式液冷方案和高密度算力方案能够有效降低数据中心能耗，推动绿色数据中心发展。
• 英特尔® MRT 技术能够有效预测和隔离内存故障，提升数据中心可靠性，降低 TCO。

英特尔至强® 6 性能核处理器优势

• 性能核和能效核 SKU 丰富：多达 288 个内核，提供更高性能和能效选择。
• 全新架构设计：模块化 SoC 架构，实现更高可扩展性和灵活性。
• 更高内存带宽和容量：采用 MRDIMM 内存，数据速率高达 8800 MT/s。
• 更高 I/O 带宽：多达 192 条 PCIe 5.0 通道，实现更高 I/O 带宽。
• 先进的 RAS 支持：支持 DC-MHS 和 GPU 系统机头，提供更优机头 CPU。
• 内置众多加速器：包括英特尔® AMX、英特尔® QAT、英特尔® IAA 等，提供更高性能、更低成本和更高可持续性。
• 强大的软件生态：支持英特尔® oneAPI、OpenVINO™ 等工具套件，简化开发部署。

英特尔 AI 软件工具组合

• 英特尔® oneAPI AI Analytics 工具套件：面向英特尔® 架构优化的深度学习框架和工具，提升训练和推理性能。

• OpenVINO™ 工具套件：使用高性能人工智能和计算机视觉推理，实现快速准确的实际结果。

• BigDL*：统一的大数据分析和 AI 平台，支持分布式 AI 应用。

• xFaster Transformer (xFT)：为大语言模型推理加速，提升性能和扩展性。

• 注：BigDL 指的是 BigDL 2.0，已包含 BigDL 和 Analytics Zoo。