当前AI芯片市场发展迅速,谷歌TPU与英伟达GPU作为两大代表,各有优势。TPU在能效比和成本效益上表现优异,适合特定任务高效处理;NVIDIA GPU则凭借通用性和模型兼容性,在广泛应用场景中占据主导地位。国内外AI芯片设计策略存在差异,国内倾向于开发类似GPU的通用芯片,而国际市场更青睐定制化ASIC芯片。
全球AI算力供给焦点:谷歌TPU与OCS光互联、英伟达GPU与NV switch、AMD和博通在光电互联与软硬件协同方面的优势,凸显全栈方案与芯片互联技术的核心地位。
全站自研优势:全站自研可协同优化硬件、软件和互联,显著提升效率,但具体提升百分比需参照基准。英伟达在产业链中话语权较高,因其生态完善、迭代速度快,尽管成本非最优,但在大模型推理和训练方面占据主导。
大模型厂商与ASIC厂商合作与竞争:大模型厂商如谷歌转向使用ASIC(TPU),博通等设计服务公司专注于为客户提供芯片设计服务。随着成本优化和效率提升成为关键,大模型厂商寻求与低成本设计服务商合作,如联发科,对ASIC厂商话语权构成挑战。
芯片设计行业壁垒与IP自研重要性:芯片设计行业壁垒包括丰富的IP库、复杂芯片集成能力和与代工厂的良好关系。自研IP对提升芯片性能至关重要,尤其是定制IP。
大模型架构与硬件适配性:GPU通用性强,无需针对模型重编;TPU定制化设计,适配依赖软件栈。谷歌TPU硬件调整有限,以保持低功耗与高效互联。定制芯片能效比优于GPU,但需软件栈适配。
云厂商转向谷歌TPU原因:混合部署策略下,TPU在大规模训练推理场景中的成本效益和能效优势。迁移至TPU平台成本高、效率损失大、风险高,谷歌正帮助客户迁移,但过程漫长。
国内外芯片定制化趋势差异:国内云厂商因缺乏稳定模型结构和完整生态链,更倾向于采用通用GPU芯片;国外厂商因生态完善、需求量大,逐渐转向定制化芯片。国内定制化芯片面临模型不稳定、生态不健全、缺乏自主IP和架构等挑战。
国内算力与芯片定制化趋势:国内算力供给有限,定制化芯片成为趋势,如采用12纳米制程的仿TPU架构,通过创新如Tilt结构降低设计成本。海外需求量大仍是主要趋势。
2023年谷歌TPU芯片出货量与代际分布:预计明年谷歌TPU出货约400万颗,V7占比50%以上(约210万颗),V8约90万颗,V6计划三季度停用(约100万颗)。联发科参与生产的V8E芯片占比15%-20%。
2027年英特尔EMID封装技术合作与GPU市场趋势:预计明年英伟达数据中心AI加速GPU出货近600万颗(Blackwell和Ruby系列)。亚马逊推理芯片年出货近200万颗,算力结构落后于谷歌和英伟达一代至一代半。
数据中心芯片出货量与系统交付趋势:明年数据中心芯片出货量预计Meta、OpenAI等厂商芯片数量增加,以机柜形式交付占比高。博通等公司正从芯片供应商向系统供应商转变,主导定制化数据中心系统集成。
芯片与IP模式收费探讨:芯片单价随工艺复杂度提升而上涨,如谷歌V系列芯片价格显著增长。非谷歌厂商项目合作中,成本加成与整体性能打包销售策略,涉及芯片、子系统及模块提供商的报价与利润分配。