科技前瞻专题：AI ASIC：算力芯片的下一篇章

ASIC芯片市场前景

1. 市场增长：预计2028年数据中心ASIC市场规模将达到429亿美元，复合年增长率（CAGR）为45.4%。
2. 客户需求：大型云计算服务提供商（CSPs）如谷歌、亚马逊、微软和Meta正在自研ASIC，以优化内部工作负载、降低功耗和成本，并适应特定的内存和I/O架构。
3. 应用领域：目前，ASIC主要用于推理场景，已经开始切入部分训练环节。

ASIC与GPU对比

1. 硬件性能：

   • 能效比：ASIC通常具有较高的能效比，因为其硬件结构为特定任务定制。
   • 吞吐量：ASIC在处理特定任务时能实现高吞吐量，而GPU则在图形处理和通用计算中表现出色。
   • 算力和片间互联：ASIC在片间互联方面具有通用性强、生态开放和低成本等优势，但绝对算力和片间互联通常低于AI GPU。

2. 单位算力成本：ASIC的单位算力成本通常低于GPU，有助于降低整体成本。

3. 软件生态：

   • 优势：云厂商为ASIC研发了全栈软件生态，提升了特定场景下的计算效率。
   • 劣势：软件生态相对单一，编程难度较大，开发工具和软件库较少。
   • 对比：GPU软件生态丰富成熟，但特定任务上的优化程度可能不如ASIC。

相关标的

1. 博通：全球AI ASIC龙头，向多家头部CSP客户批量供应ASIC产品，拥有广泛的技术IP储备。
2. Marvell：全球一线ASIC厂商，提供多种定制计算产品，包括AI加速芯片，客户涵盖北美头部云厂商。

北美四大CSP自研AI ASIC

1. 谷歌：

   • 产品：TPU系列，最新一代TPUv6预计2024H2推出，提供926 TFLOPS的FP16/BF16算力，能效提升67%。
   • 架构：TPU v4采用3D torus架构，提供高速网络连接和扩展性。
   • 性能：TPU v4在MLPerf基准测试中表现优异，与A100相比，功耗更低，性能更强。
   • 迭代：TPU v5e和v5p在性能和能效上显著提升，成本降低。

2. 亚马逊：

   • 产品：Trainium和Inferentia系列。
   • Trainium：第二代Trainium 2提供430 TFLOPS的FP16/BF16算力，性能和能效提升显著。
   • Inferentia：第一代Inferentia 1提供190 TFLOPS的FP16/BF16算力，第二代Inferentia 2性能提高4倍，延迟降低10倍。

3. 微软：

   • 产品：Maia 100。
   • 性能：Maia 100采用5nm制程，提供3200 TFLOPS的算力，网络带宽达600GB/s。
   • 架构：支持广泛的数据类型，包括FP32和BF16，具有强大的网络互连能力。

4. Meta：

   • 产品：MTIA v2。
   • 性能：提供354 TFLOPS的INT8稠密算力和708 TFLOPS的稀疏算力，内存带宽205GB/s。
   • 架构：包含加速器、片上和片外存储及互联结构，支持RISC-V内核。

风险提示

1. AI产业发展不及预期：AI技术进步可能不如预期。
2. 大型科技企业资本支出不及预期：资本开支可能低于预期。
3. GPU竞争：GPU厂商的竞争可能加剧。