算力概念与市场规模总结
一、算力定义与特征
算力是指IT设备的计算能力,在“智算中心”“新基建”等国家政策驱动下热度持续攀升。智算时代算力呈现两大特征:
- 训练算力:集中高密部署,需高计算性能和海量数据,适合西部区域部署
- 推理算力:贴近客户快速交互,需低时延、高弹性计算,部署于京津冀等重点区域
二、算力分类与单位
算力分类
- 基础算力:以CPU为主,适用于各领域计算
- 智能算力:以GPU、FPGA等芯片为主,侧重AI领域
- 超算算力:以超算集群为主,用于科研、国防等领域
此外,广义算力还包括存储的“存力”、网络的“传力”及算法能力
算力单位
- FLOPS:每秒浮点运算次数(如1GFLOPS=10亿次/秒)
- 其他单位:MIPS、DMIPS、OPS、Hash/s等
三、AI算力芯片路线
- GPU算力:英伟达T4(70W/卡)、华为昇腾Atlas300i Pro(72W/卡)
- CPU算力:英特尔至强Gold6348(双精2.3Tflops,单精4.6Tflops)
- AI推理场景:安防监控、自动驾驶、边缘计算等
四、算力统计标准
- 信通院标准:基础算力(FP16)、智能算力(FP16)、超算算力(FP64/FP32)
- 精度分析:FP32(32位浮点数)、FP16(16位浮点数)、TF32(英伟达特殊类型)
五、算力计算方式
CPU算力
- 计算公式:Flops=CPU核数×单核主频×CPU单个周期浮点计算能力
- 跑分工具:SPECCPU(如SPECCPU2017)
GPU算力(以A100为例)
- 峰值算力公式:GPUCore运行频率×GPUSM数量×指令吞吐量×2
- 不同精度算力:
- FP64 TensorCore:19.5Tflops
- FP16 TensorCore:312TFlops
- 稀疏算力:标准算力2倍
六、GPU算力综合指标
- 英伟达GPU分类:
- GeForce(消费级)
- Quadro(专业级)
- Tesla(企业级)
- 不同类型对比:
- AI训练:A100 > A30 ≥ A40
- AI推理:A10 > T4
- HPC应用:A100 > A30
七、主流AI芯片算力
- 国产厂商超过10家,常见型号如华为昇腾、寒武纪等
- 算力指标包括FP16算力、显存大小、带宽等
八、智算中心技术架构
产品组成
- AI算力服务器:GPU服务器为主,如超云R8628 G13(支持10张GPU)
- GPU服务器与标准服务器区别:扩展性、功耗、互联方式等
GPU服务器类型
- PCIE机型:GPU通过PCIe互联,带宽受限
- Nvlink机型:GPU通过Nvlink全互联,带宽更高
GPU拓扑
- PCIe机型:NVLink扩展(桥接器实现两卡互联)
- Nvlink机型:基于HGX模组,如超聚变G8600 V7(模块化设计)
英伟达产品迭代
- H200:H100性能提升60%,预计2024年Q2上市
- NVL72:72块B200芯片组成逻辑“大GPU”,采用NVLink 5.0技术
九、智算中心网络需求
- Mellanox IB网络:
- DR分类:SDR、DDR、QDR、FDR、EDR、HDR、NDR
- 主流速率:200Gbps/400Gbps
- 网卡:ConnectX-7(单/双端口,支持x16 PCIe)
- 交换机:NDR系列(32个OSFP连接器,64个400G端口)
- 典型互联链路:交换机-交换机、交换机-网卡(支持一转2/4)