GB200架构下AI服务器和PCB市场演变20240603

随着人工智能(AI)技术的进步，对AI服务器，特别是GB200的组装需求发生了显著变化，这 对代工厂提出了更高要求。目前市场上只有少数供应商能胜任这些任务，反映出市场高度集中的特性。短期内，GB200的组装和采购模式主要受到英伟达的控制，但从下半年开始，由于北美云厂商的定 制化开发需求增加，这种状况将发生改变。云厂商推动基于英伟达技术的定制化GPU生产，预示着供应链结构的重大调整。英伟达的新技术和产品，如B200加速器，增强了公司在推理卡市场的地位，并促进了服务器品牌厂商和云服务商之间的竞争格局变化。此外，GB200服务器的推出伴随着散热系统的重大变革和电源设计的成本增加，凸显了AI服务器领域面临的挑战。与此同时，一些供应商如麦格米特正寻求加入该供应链，提供部分产品支持，尽管它们的市场份额较小。总的来说，随着AI服务器需求的增长和技术的进步，供应链、市场竞争以及服务器设计都经历着深刻的变革。Q：在服务器市场中，有哪些关键点需要关注？A：目前市场关注的重点是服务器产品，尤其是服务器中的GCCB（GPU加速计算卡）。针对这一 问题，我们邀请专家探讨了AI服务器在达到200台后，对代工厂的要求变化。专家指出，GB20 0对代工厂的要求明显提高，例如需要具备英伟达训练卡和推理卡的组装经验，并且主要代工厂商集中在广达和鸿海这两家。 Q：为何目前GB200的主要代工商是广达和鸿海？A：这是因为其他供应商缺乏组装GB200所需的板卡组装经验和能力。GB200要求在主板上将多个B200、一个C和一个国际CPU组装在一起，这种复杂性使得只有具备相应能力的广达和鸿海能够胜任代工工作，而其他供应商暂时无法满足此类需求。Q：红海企业在GB200市场中的份额如何？A：红海企业在中国市场的份额大约占了40%到50%，他们主要以NVL72这种机型为主，代工规模较大。相比之下，广达在代工GB200的机型以NVL36为主，但在板卡绝对数量上略低于红海。 Q：红海和广达在GB200组装业务中，是如何选择客户决定的采购模式？ A：在短期（2024年）来看，红海和广达在GB200组装业务中，大部分部件（如GPU、CPU、网络散热模组等）都由英伟达购买并分配给代工厂商。从下半年开始，部分互联网客户会根据自身业务场景进行GB200的定制化开发，此时IP归属权会转移到各个云厂商自己。在这种情况下，代 工厂商需要自己付费购买相应部件并进行组装，采购模式会发生改变。Q：目前tk200主要客户群体是云厂商吗？A：是的，目前tk200的主要客户群体确实集中在云厂商方面，今年他们主要使用英伟达提供的固定配置进行采购。 Q：明年云厂商对tk200的采购策略会有何变化？A：明年云厂商将开始寻求代工厂商定制化tk200，不再使用英伟达现有的固定配置。这不仅意味着采购模式的变化，还会导致供应链基础上的显著改变，由云厂商主导供应商选择。 Q：云厂商定制化tk200对毛利率和净利率有何影响？A：毛利率和净利率可能会发生变化，但主要原因是云厂商自定义生产后，代工费用与英伟达固有生产模式基本一致，因此利润率会因不同厂商的铁路模式而有所差异。以英伟达为例，代工英伟达现有GP200的毛利率大约为30%，净利率约为25%；而代工云厂商定制化产品的毛利率可能降至5%左 右，但盈利金额仍保持在12万美金左右。Q：英伟达新政策对品牌服务器厂商的影响是什么？ A：英伟达新政策将允许云厂商采购自有的GB200产品并研发整机服务器，这对品牌服务器厂商如 戴尔、惠普和美超威等市场造成了冲击，因为它们的采购量较小，研发能力相对较弱，而且英伟达有更大的研发能力和更低成本的优势。Q：英伟达如何解决与品牌服务厂商的矛盾，以确保GP200的市场份额？A：英伟达为解决与品牌服务厂商的矛盾，提供了两种可能性选择。第一种是提供给这些厂商较低的GB200成本价格，让他们以代理商身份销售GP200。第二种选择是将整个GB200主板的授权 授予像戴尔、惠普和美超微这样的公司，让它们根据自身客户和公司情况对新板卡进行调整，从而实现差异化竞争，避免价格战。 Q：戴尔在AI服务器市场的策略和表现如何？A：戴尔通过追求低毛利策略，在AI服务器市场中表现突出，尤其在借助AI服务器的风口快速提升 了销售额。然而，尽管营收额有所增长，但从零售额来看，由于依赖价格优势抢占市场，其增长相对有限。戴尔的销售模式在短时间内不太可能做出太大调整，仍会持续低毛利水平销售。Q：未来AI服务器市场中，头部厂商如浪潮和广达的前景如何？A：无论未来采购模式如何变化，头部厂商如浪潮和广达在AI服务器市场的份额会提高，且其核心能力不会降低，因此他们的表现将持续利好。 Q：GB200与传统AI服务器架构有何不同？A：GB200架构相较于传统AI服务器有显著区别，它将两个B200GPU直接集成到CPU主 板上，不再需要打卡模组。这意味着GB200主板上主要由UB和CPU服务器主板构成，而非传统AI服务器中的三部分。 Q：GB200主板供应商有哪些，它们在不同领域的分工如何？A：GB200主板供应商主要包括联盟、新兴电子和TTM，它们在B200卡上占据主导地位。底 层CPU主板部分则主要由护垫等台湾PCB厂商提供，其中沪电份额相对较小。此外，由于AI服务器对材料需求提升，供应商在这一领域也会发生相应变化。Q：目前PCC版主要采用哪种芯片？未来层数会如何变化？A：目前我们主要使用马力（马六）芯片，预计明年随着板子上设备功率增加，下一 代PCC版（GB200）的层数将从16到18层提升至20层，并采用马八或马八的芯片。Q：马六芯片的单价是否有明显变化？马八芯片预计价格是多少？ A：目前马六芯片的单价为2001美元/块，预计马八芯片的价格会比马六提升40%到50%，大概在3000美元左右。Q：云厂商定制的GB200产品中，会有传统的低功耗八卡服务器的需求吗？ A：云厂商定制的GB200产品虽然主要基于整机柜形式，但也会有传统的低功耗八卡服务器的需求 。预计明年GB200产品的份额能占到50%左右，传统巴卡服务器的比例大约为一半。Q：英伟达明年预计出货多少B100和B200芯片？B100和B200芯片在性能上有什么主要区别？A：明年预计英伟达会出货约350万张B200卡和近50万张B100卡，其中B200芯片数量 更多，占据主导地位。B200芯片相比B100，HDMI接口更大，互联带宽虽对性能影响不大，但推理性能提升将近四倍，这成为英伟达推广的重点。Q：B100、B200、NVL32和NVL72芯片的出货节奏如何？A：GB200芯片（NVL36和NVL72）初步节奏一致，预计今年10月份开始正式出货，全 年出货量3000套左右。明年英伟达预计出货近400万套GB200芯片，其中ML36占3万套 ，ML72占1万套，云厂商自定义ML72约1万到1.5万套，整体出货量在5万到5.5万套机柜之间。 Q：BB200服务器的推出时间是什么时候？GB200服务器的组装复杂程度和供应节奏如何？A：BB200服务器预计会在今年九月份推出。GB200服务器的组装复杂程度比发卡更高，但其供应节奏与发卡基本持平，都在今年下半年。Q：GB200服务器的生产线上是否有足够的供应链准备？ A：GB200服务器的生产线上，包括规模在内的整个供应链已经基本准备就绪，代工厂在组装时没有遇到太多技术问题。 Q：下一代服务器中PCB升级的方向是什么？A：对于通用AI服务器，预计仍会使用目前GB200主板的规格（18层马6架构），但对于功耗较高的B200卡，其PCB会升级到20层。同时，由于AI服务器板卡更新换代速度加快，PCB技术也在快速提升。 Q：服务HPI在下一代服务器中的占比会提升吗？A：服务HPI在下一代服务器中的成本比例预计不会明显提升，因为PCB价值的提升主要受其所承载的元器件价量提升影响，而AI服务器板卡更新换代速度太快，不足以拉动PCB技术的全面上升。Q：NVL36和72服务器除了PCB以外，还有哪些环节价值量提升较大？A：除了PCB外，NVL36和72服务器在散热和光模块方面价值量提升较大。散热方面，从风冷 到冷板式液冷的转变导致散热模组成本增加；光模块方面，从400G升级到800G甚至1.6T，使得光模块的价值提升迅速。 Q：在电源领域，电源的占用量和价格是如何计算的？ A：电源的占用量一般按照单瓦数的价格来计算，例如普通服务器（包括AI服务器）的电源价格基本在1.5到2块钱之间，而GB200这类高端服务器的电源价格会显著提升，因为它们使用的电源是 非传统服务器电源，如powershelf集中整机柜供电，单瓦数价格可达近四块钱。Q：GB200服务器中电源瓦数的变化与传统服务器有何不同？GB200服务器电源相比传统服务器电源增加了哪些特殊功能或设计？A：GB200服务器中的电源瓦数相比普通服务器要大得多，例如普通的打卡AI服务器单电源瓦数一般在3200瓦左右，而GB200中单个电源瓦数可达5500瓦，一个GB200服务器可能需 要多达十个这样的电源以满足供电需求，整体电源的价值提升量较大。GB200服务器电源在设计上 增加了稳定性电子消除和电池功能。电源可以电子消除来自不稳定电源的干扰，并在外部供电突然停电时利用内置电池供电30秒左右，以确保服务器在发生停电时能够自动关机而不会造成数据丢失，这是传统服务器电源所不具备的。Q：目前GB200服务器电源的主要供应商有哪些，价格情况如何？国内是否有其他电源供应商进入GB200服务器电源供应市场？A：GB200服务器电源的主要供应商是台湾厂商，其中BN厂商（全球排名第一的泰达）是主要专 利持有者，并授权全球第二大电源厂商光宝进行生产。由于研发成本和专利授权费用等因素，目前GB200服务器电源的价格相对较高，大约在9到10美元每瓦，预计随着量产和技术成熟，价格会逐渐 降至11到12美元每瓦。目前还没有其他国内电源供应商完全进入英伟达GB200服务器电源供应 列表。虽然有传闻称麦格米特可能进入供应链，但据推测，由于生产能力和技术水平限制，其份额预计不会超过10%，而且可能要到明年下半年才能实现小批量供应。