英伟达和AMD公布AI芯片路线图,全面进入液冷时代 英伟达公布未来技术路线图,算力边际成本不断下降。2024年6月3日,英伟达在COMPUTEX 2024上发布GPU、CPU、NVlink、NIC网卡以及交换芯片的技术路线。Blackwell Ultra系列GPU将于2025年发布,搭载八个HBM3e内存堆栈;下一代Rubin GPU预计将在2026年推出,搭载8个HBM4内存堆栈,配对的新一代Arm数据中心CPU Vara也将问世;Rubin Ultra系列将于2027年推出,将搭载12个HBM4内存堆栈,拥有更多内存容量,GPU加速效应显著,单卡算力性能持续提升,算力边际成本不断下降,以支撑AI大模型参数持续增长。 AMD公布全新云端AI加速芯片路线图 , 今年将推出全新Instinct MI325X。2024年6月3日,AND在COMPUTEX 2024上公布全新云端AI加速芯片路线图,将会在今年推出全新的AI加速芯片Instinct MI325X,2025年推出MI350,2026年推出MI400。其中,MI325X将延续CDNA3构架,采用HBM3e高带宽内存,容量大幅提升至288GB,内存带宽也将提升至6TB/s,相较竞品英伟达H200将有1.3倍以上的提升,更具性价比,预计MI325X将于今年第四季度开始供货,其他方面规格基本与MI300X保持一致;新一代MI350系列将采用 3nm 制程,基于全新的构架,集成288GB HBM3e内存,并支持FP4/FP6数据格式,推理运算速度较现有MI300系列芯片快35倍。 算力芯片功耗持续增长,全面进入液冷时代。单个英伟达B200八卡风冷DGX服务器功耗接近15KW,散热模组体积较大,空间利用率较差,相比之下液冷MGX服务器算力密度更高,液冷散热性价比优势显著;同时,据供应链信息透露,AMD MI350将同样切换至液冷散热时代。 AI用户初具规模,ChatGPT宕机造成竞品访问量激增 “一鲸落而万物生”,ChatGPT用户的庞大AI需求致使竞品系统瘫痪。6月4日,OpenAI旗下ChatGPT(包括网站、App和桌面应用)出现系统故障,导致全球大量用户无法正常使用,持续长达近8个小时。ChatGPT在全球拥有约1.8亿活跃用户,已成为部分人群工作流程的关键部分,此次宕机期间,用户纷纷转向替代工具,包括Anthropic公司的Claude、谷歌Gemini和Perplexity等,据软件公司QRFY分析,谷歌Gemini的日均搜索量激增近60%,显示出用户对ChatGPT替代品的蓬勃需求。然而,在流量激增之下,上述三大AI平台也遭遇了系统瘫痪,Perplexity网站显示因为接收到太多请求,显示超出服务容量。我们认为,此次事件映射出使用AI模型对于某些用户已为刚性需求,且AI用户量已初具规模,短时间内大量的增量需求已超出竞品的基础设施容量上限。当下算力基础设施建设仍存在结构性缺口,随着用户对于AI的需求持续增长,算力基础设施建设或将长期持续。 Aspeed 5月营收同比大幅增长,服务器需求或迎来复苏 全球服务器管理芯片供应商龙头Aspeed 2024年5月实现营收4.35亿新台币,同比增长92.90%,环比增长4.67%,月度营收规模已接近2022年平均水平。我们认为,公司营收大幅改善主要是AI服务器的强劲需求,导致管理芯片单个服务器的价值量上升,以及传统服务器需求逐渐复苏所致。 风险提示:5G建设不及预期、AI发展不及预期、智能制造发展不及预期、中美贸易摩擦等。 1、周投资观点:算力芯片持续更新,AI用户量初具规模,基 础设施建设仍然不足 1.1、英伟达和AMD公布AI芯片路线图,全面进入液冷时代 英伟达公布未来技术路线图,算力边际成本不断下降。2024年6月3日,英伟达在COMPUTEX 2024上发布GPU、CPU、NVlink、NIC网卡以及交换芯片的技术路线。Blackwell Ultra系列GPU将于2025年发布,搭载八个HBM3e内存堆栈;下一代Rubin GPU预计将在2026年推出,搭载8个HBM4内存堆栈,配对的新一代Arm数据中心CPU Vara也将问世;Rubin Ultra系列将于2027年推出,将搭载12个HBM4内存堆栈,拥有更多内存容量,GPU加速效应显著,单卡算力性能持续提升,算力边际成本不断下降,以支撑AI大模型参数持续增长。 以太网网络持续优化,未来交换芯片将支持更大算力集群。网络互联方面,英伟达第6代NVLink switch将在2026年推出,带宽容量高达3600GB/s,卡间互联速率持续增长,加速大模型训练速度,CX9 NIC网卡带宽将达到1600Gb/s。此外Spectrum Ultra X800 51.2T以太网交换芯片将于2025年推出,X1600 102.4T IB及以太网交换芯片将于2026年推出,X800将支持10万卡算力集群互联,X1600将支持百万卡算力集群互联,以太网在AI集群组网上的应用或将持续增长。英伟达持续推出网络新品,提供更高带宽、更多接口以及软件功能以支持AI以太网/IB网网络性能,集群网络互联效率或持续增长,助力AI组网向着万卡、十万卡等大规模集群发展,持续拉动对高速交换机、高速光模块的需求。 AMD公布全新云端AI加速芯片路线图,今年将推出全新Instinct MI325X。 2024年6月3日,AND在COMPUTEX 2024上公布全新云端AI加速芯片路线图,将会在今年推出全新的AI加速芯片Instinct MI325X,2025年推出MI350,2026年推出MI400。其中,MI325X将延续CDNA3构架,采用HBM3e高带宽内存,容量大幅提升至288GB,内存带宽也将提升至6TB/s,相较竞品英伟达H200将有1.3倍以上的提升,更具性价比,预计MI325X将于今年第四季度开始供货,其他方面规格基本与MI300X保持一致;新一代MI350系列将采用 3nm 制程,基于全新的构架,集成288GBHBM3e内存,并支持FP4/FP6数据格式,推理运算速度较现有MI300系列芯片快35倍。 算力芯片功耗持续增长,全面进入液冷时代。单个英伟达B200八卡风冷DGX服务器功耗接近15KW,散热模组体积较大,空间利用率较差,相比之下液冷MGX服务器算力密度更高,液冷散热性价比优势显著;同时,据供应链信息透露,AMDMI350将同样切换至液冷散热时代。 1.2、AI用户初具规模,ChatGPT宕机造成竞品访问量激增 “一鲸落而万物生”,ChatGPT用户的庞大AI需求致使竞品系统瘫痪。6月4日,OpenAI旗下ChatGPT(包括网站、App和桌面应用)出现系统故障,导致全球大量用户无法正常使用,持续长达近8个小时。ChatGPT在全球拥有约1.8亿活跃用户,已成为部分人群工作流程的关键部分,此次宕机期间,用户纷纷转向替代工具,包括Anthropic公司的Claude、谷歌Gemini和Perplexity等,据软件公司QRFY分析,谷歌Gemini的日均搜索量激增近60%,显示出用户对ChatGPT替代品的蓬勃需求。然而,在流量激增之下,上述三大AI平台也遭遇了系统瘫痪,Perplexity网站显示因为接收到太多请求,显示超出服务容量。我们认为,此次事件映射出使用AI模型对于某些用户已为刚性需求,且AI用户量已初具规模,短时间内大量的增量需求已超出竞品的基础设施容量上限。当下算力基础设施建设仍存在结构性缺口,随着用户对于AI的需求持续增长,算力基础设施建设或将长期持续。 1.3、Aspeed5月营收同比大幅增长,服务器需求或迎来复苏 全球服务器管理芯片供应商龙头Aspeed 2024年5月实现营收4.35亿新台币,同比增长92.90%,环比增长4.67%,月度营收规模已接近2022年平均水平。我们认为,公司营收大幅改善主要是AI服务器的强劲需求,导致管理芯片单个服务器的价值量上升,以及传统服务器需求逐渐复苏所致。 推荐标的:宝信软件、中际旭创、英维克、中兴通讯,受益标的:新易盛、天孚通信、华工科技、光迅科技、源杰科技、腾景科技、飞荣达、网宿科技、光环新网、润泽科技、云赛智联、奥飞数据、科华数据、紫光股份、锐捷网络、烽火通信、盛科通信、广和通、美格智能、移远通信、威胜信息、亿联网络、梦网科技、会畅通讯等。 1.4、市场回顾 本周(2024.6.3—2024.6.7),通信指数下跌2.46%,在TMT板块中排名第二。 2、产业数据追踪 2.1、云计算:仍处于逐步复苏中 (1)全球服务器管理芯片供应商龙头Aspeed 2024年5月营收同比增长92.90%,环比增长4.67%; (2)2024Q1海外五大云巨头(亚马逊、谷歌、苹果、微软、Meta)资本开支为463亿美元,同比增长25.7%,环比增长2.1%;BAT 2024Q1总资本开支为275.50亿元,同比增长199.98%,环比增长37.47%;阿里2024Q1购置物业及设备资本开支为101.74亿元,同比增长304.85%,环比增长39.64%;腾讯2024Q1资本开支为143.59亿元,同比增长225.53%,环比增长90.84%;百度2024Q1资本开支为20.38亿元,同比增长57.37%,环比减少44.32%; (3)2024Q1,Equinix机柜平均价格为2258美元/机柜/月,价格持续上升; 2024Q1,万国数据机柜价格为2078元/平米/月,环比持续下降;2023Q1,世纪互联机零售柜价格为8742元/机柜/月,价格持续回落。 2.1.1、云计算:Aspeed月度营收情况 图1:2024年5月Aspeed月度营收持续增长(百万新台币) 2.1.2、云计算:BAT季度资本开支情况 图2:2024年第一季度BAT资本开支同比大幅增长 图3:2024年第一季度百度、阿里、百度资本开支同比增长(百万元) 2.1.3、云计算:海外云巨头(亚马逊、谷歌、苹果、微软、Meta)资本开支 图4:2024年第一季度海外云巨头(亚马逊、谷歌、苹果、微软、Meta)资本开支持续增长(亿美元) 2.1.4、云计算:Equinix、世纪互联、万国数据机柜价格 图5:Equinix机柜价格呈上升趋势(美元/机柜/月) 图6:万国数据机柜价格持续下降(元/平米/月) 图7:世纪互联零售机柜价格持续回落(元/机柜/月) 2.2、5G:2024年4月底,我国5G基站总数达374.8万站 2024年4月底,我国5G基站总数达374.8万站,比2023年末净增37.1万站; 2024年3月三大运营商5G套餐用户数达14.02亿户,同比增速有所放缓;2024年4月,5G手机出货2023.2万部,占比84.1%,出货量同比增长52.17%。 2.2.1、5G基建:5G基站建设情况 图8:5G基站持续建设,占比超三成(万站) 2.2.2、5G基建:三大运营商5G用户数 图9:2024年4月末三大电信运营商5G用户数达14.02亿户(百万户) 图10:移动、电信、联通5G用户数持续增长(百万户) 2.2.3、5G基建:国内手机及5G手机出货量 图11:2024年4月5G手机出货量持续回暖(万部) 2.3、运营商:创新业务发展强劲 (1)云计算方面,2023年三大运营商数据如下: 1、中国移动:移动云营收达833亿元,同比增长65.6%; 2、中国电信:天翼云营收达972亿元,同比增长67.9%; 3、中国联通:联通云营收达510亿元,同比增长41.6%。 (2)三大运营商ARPU值方面,2023年三大运营商数据如下: 1、中国移动:移动业务ARPU值为49.3元,同比略增0.6%; 2、中国电信:移动业务ARPU值为45.4元,同比略增0.4%; 3、中国联通:移动业务ARPU值为44.0元,同比略减0.7%。 2.3.1、运营商:移动