英伟达推出全新H200,算力建设保持高景气
报告概述:
近期,英伟达在2023年全球超算大会(SC23)上推出了其最新的AI芯片H200,这款产品采用HBM3e内存,旨在加速生成式AI和大语言模型的运行,同时提高HPC(高性能计算)工作负载的科学计算效率。H200预计于2024年第二季度开始出货,并已被亚马逊云科技、谷歌云、微软Azure和甲骨文云列为首批部署基于H200实例的云服务提供商。
主要升级点:
- 内存升级:H200搭载全新HBM3e内存,相较于H100的显存容量增加了76%,显存带宽提升了43%。
- 兼容性:继承了Hopper架构,与H100相互兼容,使得已经使用H100进行训练的AI公司无需更改其服务器系统或软件即可使用H200。
- 算力参数:在FP64、FP32、FP16 TensorCore和FP8 TensorCore算力方面,H200与H100保持一致,未见算力参数提升。
性能亮点:
- AI推理性能:在推理70B的LLaMa2模型时,速度提升90%;在推理175B的GPT-3模型时,速度提升60%。
- HPC应用性能:在处理显存密集型HPC应用时,速度相比H100提高了20%以上,相较于双核X86 CPU提高了110倍。
行业影响:
- 超算市场:英伟达在超算领域持续发力,超算TOP500中,超过80%的新上榜系统使用了英伟达H100技术。
- 技术迭代:英伟达通过快速迭代H200展示了深厚的技术储备和竞争优势,这反映了AI算力建设的高景气度。
- 产能限制:H200的出货延迟至2024年第二季度,可能受限于HBM的产能问题。
投资建议:
- 关注国产替代:鉴于英伟达在中国市场的限制,看好国产AI芯片产业链的发展,尤其是华为昇腾为代表的国产AI芯片。
- 投资组合:推荐关注神州数码、软通动力、海光信息、寒武纪、中科曙光、中国长城、英维克等公司。
风险提示:
- 技术发展风险:AI技术进步可能低于预期。
- 性能与产能风险:国产AI芯片性能或产能可能不如预期。
- 地缘政治风险:地缘政治因素可能影响供应链稳定。
- 行业竞争风险:市场竞争加剧可能导致收益下滑。
结论:
英伟达的H200推出进一步推动了AI算力建设的高景气,特别是在HPC和AI推理领域的性能提升。虽然存在一定的产能限制和技术替代风险,但随着国产AI芯片的发展,市场前景依然被看好。