英伟达推出中国区改良版芯片电话解读会议–20231111

Q：英伟达最近推出的芯片有哪些特点，包括算力、连接速度和带宽？ A：最近推出了HGX，H20，L20PCIe和L20PCIE共三款新品。其中，H20的浮点计算能力在44-45TFLOPS(trillionfloatingpointoperationspersecond)，FP32精度约为44TFLOPS，FP64精度几乎为零。内存带宽则达到了96GB/s。 Q：英伟达最近推出的芯片有哪些特点，包括算力、连接速度和带宽？ A：最近推出了HGX，H20，L20PCIe和L20PCIE共三款新品。其中，H20的浮点计算能力在44-45TFLOPS(trillionfloatingpointoperationspersecond)，FP32精度约为44TFLOPS，FP64精度几乎为零。内存带宽则达到了96GB/s。Q：H20与A10相比有何优势？A：H20的计算能力略高于A10，后者的大致计算能力为31TFLOPS. Q：H20在集群训练上的表现如何？ A：可以通过使用多张卡（比如最多可达256张），以提升集群训练的效果，但由于H20属于中低端产品，相较于H800的训练性能仍存在差距.Q：如果英伟达产品在中国市场上缺失，将会产生什么影响？ A：华为和寒武纪等国内厂商将有机会进入市场，填补这一空缺，这有助于满足日益增长的人工智能训练需求。假设未来中国的出口政策不变， H20将成为中国市场最优质的产品之一。 Q：H20的价格如何？ A：个人预计H20售价将在几万元人民币之间，考虑到它是合规且优质的GPU产品，其售价应介于中高端之间。 Q：H20的成本大概多少？ A：使用NVLink技术的L20显存更大，片间连接速度更快，而且显存拉大了，成本估算约814平方毫米。 Q：L20的LP32值如何？ A：L20的LP32值约为A10的两倍。Q：英伟达推出了哪些产品？ A：H20主打训练场景，而L20适用于边缘计算和推理应用场景，A10则是第三代旗舰产品。 Q：H800与H20的算力对比？ A：H800的显存为80G，而H20为96G。在连接速度上，H800为600GB/s，而L20为900GB/sQ：L20的互联系统速度如何？ A：比H800的600GB/s更快，达到900GB/s。Q：推出和适用时间有多久？ A：发布日期尚未公布，但是从设计到上市可能需要3到6个月的时间。之后可能还会需要额外三个月的时间进行适配工作，确保兼容性和稳定性达标。 Q：在FP16计算能力上，H20与同类国产竞品有何区别？ A：H20约为157TFLOPs，而像华为Kirin910B的性能约为280TFLOPs，二者之间存在50%的差距。Q：市场份额是否会重新分配？ A：随着H20的推出，市场份额可能转向国内市场，也可能变成由国内市场主导的局面。另外由于禁令的原因，在国内销售的一些高端产品只能使用一段时间，一旦售罄就会停止供应。 Q：对英伟达有什么好处和坏处？ A：将减少对中国企业的限制，并使其获得更多机会。然而不利之处在于为了适应这些新设备，用户可能面临性能降低等问题。 Q：哪些互联网企业在使用H800？Q：是否仍有购买NVIDIA的倾向？ A：是的，这是一个开放的市场，取决于性能、性价比和其他多种因素。目前禁令造成的转变认购趋势尚未可知，以前H800的市场份额可能为 50%或更高。腾讯拥有数千张卡，但仍不及字节跳动和阿里巴巴的量级。Q：目前有多少H800和A800在市场？A：数据难以准确回答，但不清楚具体的数值。Q：对高速互联系统市场有什么影响？ A：高速互联系统将带动光模块市场的发展，尤其是400G光模块。总体而言，市场需求较为平稳，收入不会大幅度增长。 Q：A800和H800使用哪种光模块？ A：根据网络架构的不同，可以支持200G或400G。通常选择400G光模块，不过可以根据实际需求选择200G。 Q：功耗下降会影响PCB的价格吗？ A：功耗降低会对PCB的成本产生一定的影响，不过整体而言该部分成本不会太高。Q：如果功耗降至400W会影响散热或风冷/液冷系统的设计吗？A：功耗降低确实会影响散热，但是如果采取液冷散热系统可以降低运行成本。Q：下游客户有哪些类型？降低算力对于租借GPU服务的影响？ A：目标客户仍然是进行计算密集型任务的客户，只是算力减少，这意味着他们需要更多的GPU卡才能完成相同的任务。这对于消费者来说意味着更大的成本和更低的效能。 Q：英伟达H20芯片供应是否充足？A：英伟达正在努力满足中国市场的需求，预期在未来会得到改善。Q：下一代PCB会对运算性能产生多大的影响？ A：互相链接的8张卡并不一定能够达到单张卡片8倍的能力。性能取决于应用的具体情况。 Q：国产GPU在成本上与NVIDIA相抗衡的能力如何？ A：NVIDIA在生态系统上有较大优势。尽管切换到本土产品的过程中可能需要额外的时间和精力来适应，但在特定情况下实际表现并不一定会逊色于NVIDIA。 Q：新款GPU设计为何如此快速？此设计会对NVIDIA本身产生影响吗？ A：NVIDIA已经拥有了设计原型和技术基础，并在此基础上开发出了新款GPU。我认为它的制造速度相对较快。 Q：NVIDIA为何定价较高？ A：NVIDIA是一家追求盈利的公司，因此他们在定价上更看重利润而非低成本策略。 Q：NVIDIA的H20，L20和L2有何不同之处？ A：这三种型号之间的核心差别在于算力密度不同。L2和L20采用了不同的设计方案，导致算力密度有所不同。Q：NVIDIA是否计划在新款GPU上搭载HBM技术？ A：是的，新款GPU将会采用HBM技术进行组装和封装。Q：显存的作用是什么？如何实现提高算力密度？A：大容量显存能够减少数据传输频率并提高算力效率。显存与内部速率的提升将有助于降低算力密度。Q：连接系统升级会产生多大影响？ A：会让生产和组装过程更加严格，对于国内的相关企业和产能也会有所帮助。