热门搜索：

电子行业周报：英伟达推出新款GPU H200，首次搭载HBM3e性能飞跃

电子设备2023-11-18刘牧野中航证券L***

AI智能总结

该研报详细介绍了H100、SXMH200、SXMFP系列GPU的技术参数与特性，主要亮点如下：

计算性能：
- FP64 Tensor Core：在FP64浮点运算上提供67 teraFLOPS（万亿次浮点运算）的性能。
- FP32 Tensor Core：同样在FP32浮点运算上达到67 teraFLOPS。
- FP16 Tensor Core：在FP16（半精度）浮点运算上实现1979 teraFLOPS的性能。
- INT8 Tensor Core：在INT8整数运算上提供3958 TOPS（万亿次操作）的性能。
内存与带宽：
- 提供80GB和141GB两种不同大小的GPU内存选项。
- 内存带宽分别为3.35TB/s和4.8TB/s，显著提升了数据处理效率。
解码能力：
- 支持7个NVDEC和JPEG解码器，适合多媒体和视频处理应用。
热设计功率（TDP）：
- 最大TDP为700W（配置可调），确保高性能同时考虑散热需求。
多实例GPU（MIGs）支持：
- 最高支持7个MIGs实例，每个MIGs@16.5GB的配置下最多支持7个实例。
互联技术：
- 支持NVLink（最高900GB/s）和PCIe Gen5（最高128GB/s），优化数据传输速度。
服务器选项：
- 提供NVIDIA HGX H100、NVIDIA DGX H100、NVIDIA HGM H200等系统选项，支持不同规模的GPU配置，如4到8个GPU，满足各种数据中心的需求。
企业级扩展：
- 提供NVIDIA Enterprise Add-on服务，增强系统的稳定性和安全性。

综上所述，该系列GPU旨在提供强大的计算能力、高速的数据处理和传输能力，以及灵活的配置选项，适用于高性能计算、人工智能训练、大规模数据分析等领域，尤其适用于需要高度并行处理和大量内存的应用场景。

   1    H100SXM H200SXM FP64 34teraFLOPS 34teraFLOPS FP64TensorCore 67teraFLOPS 67teraFLOPS FP32 67teraFLOPS 67teraFLOPS FP32TensorCore 989teraFLOPS 989teraFLOPS BFLOAT16TensorCore 1979teraFLOPS 1979teraFLOPS FP16TensorCore 1979teraFLOPS 1979teraFLOPS FP8TensorCore 3958teraFLOPS 3959teraFLOPS INT8TensorCore 3958TOPS 3960teraFLOPS GPUmemory 80GB 141GB GPUmemorybandwidth 3.35TB/s 4.8TB/s Decoders 7NVDEC7JPEG 8NVDEC7JPEG Maxthermaldesignpower(TDP) Upto700W(configurable) Upto701W(configurable) Multi-instanceGPUs Upto7MIGs@10GBeach Upto7MIGs@16.5GBeach Formfactor SXM SXM Interconnect NVLink：900GB/sPCIe Gen5:128GB/s NVLink：900GB/sPCIeGen5:128GB/s Serveroptions NVIDIAHGXH100 partnerandNVIDIA-CertifiedSystemswith4or8GPUsNVIDIADGXH100 with8GPUs NVIDIAHGMH200partnerandNVIDIA-CertifiedSystemswith4or8GPUs NVIDIAEnterprise Add-on Add-on

点击免费查看完整报告

你可能感兴趣

电子行业周报：英伟达推出新款GPU H200，首次搭载HBM3e性能飞跃

你可能感兴趣

【盘中宝】联想即将发布新款AI服务器，将搭载8颗英伟达H800 GPU，这家公司服务器电学测试能力属于行业领先水平，客户涵盖国内外知名厂商

电子行业周报：英伟达发布新一代H200 GPU芯片，关注HBM产业链投资机会

英伟达发布H200点评：首次配备更高容量HBM3e，预计24Q2开始出货

通信周跟踪：英伟达新推H200，推理性能飞跃

半导体行业：HBM3e助力英伟达H200算力芯片，抓住上游确定性较高的原材料投资机会