一、AI模型趋势:大小模型互补,预训练市场快速收敛,Scaling Law新方向增强推理需求
- 预训练和现实数据触顶,后训练时代将开启新的Scaling Law方向: 模型能力提升速度随着参数规模的扩大而放缓,需要新的Scaling Law方向。
- 方向一:用推理代替思考: OpenAI发布o1系列模型,通过增强推理阶段的计算资源来提高能力,例如OpenAI的o1模型在科学、技术、工程和数学(STEM)领域的问题上表现优异。
- 方向二:测试时训练: 在推理过程中根据测试输入动态更新模型参数的技术,例如MIT在Llama38B模型上使用该方法后,准确率显著提高。
- 方向三:合成数据: 合成数据在LLM开发中的应用正在迅速扩大,例如OpenAI、Anthropic、阿里通义等公司都大量使用合成数据。
- 方向四:模型量化逐渐失效: 使用更低精度的参数会降低模型的有效参数数量,而推理量化后的模型的性能下降会随着模型训练数据量的增加而增加,需要新的量化技术。
- 方向五:多模态融合模型发展空间大: 多模态模型在实时交互、音频与视觉生成领域展现出巨大潜力,例如OpenAI的GPT-4o具备多模态理解与生成、统一模型、端到端训练、实时交互等能力。
二、AI应用渗透率持续增长,落地场景多点开花
- AI应用活跃度持续增长,应用场景得到认可,进入快速获客期: ChatGPT活跃度持续增长,其他AI聊天助手应用也保持增长态势,AI应用渗透率不断提升。
- AI程序员是确定性的强需求: AI代码生成已经从概念验证阶段进入企业实际应用阶段,显著提升开发效率。
- AI搜索是25年最有希望诞生超级APP的赛道: 在大模型上加入搜索功能,可以丰富模型的知识库,缓解模型无法获取新知识和幻觉问题的出现。
- AI为通用型和数据类SaaS平台打开增长空间: 数据的重要性在快速提高,数据的管理与安全SaaS平台业务迎来高速增长期,例如Snowflake、Datadog和Databricks等公司业务高速增长。
- AI眼镜是AI应用落地的最佳硬件: AI眼镜是最靠近人体三大重要感官的穿戴设备,可以非常直接和自然地实现声音、语言、视觉的输入和输出,预计将在2025年迎来大规模出货。
三、算力系统面临“木桶效应”挑战,供给端瓶颈或成主要矛盾
- 人工智能算力系统面临诸多挑战: 模型规模和复杂性呈指数级增长,算力需求迅速攀升,系统故障率也相应上升。
- 单卡算力升级速率落后于模型迭代速率,Blackwell延后预示系统摩尔进一步降速: 大模型算力需求增长速度已经明显领先于传统芯片晶体管数量增长速度,英伟达最新的Blackwell架构算力芯片仍在云端具备绝对统治力,但硬件迭代速度可能在未来趋缓。
- 数据中心电力消耗呈指数级增长,核电或成最优解决方案: 随着单数据中心规模的不断扩大,局部供电压力激增,独立于传统居民/工业电网的核电站成为潜在最优解决方案,美国几大云厂都在积极寻求核电解决方案。
四、大模型推理服务大规模部署,如何影响硬件市场?
- 大模型性能提升,推动推理算力需求加速增长: 大模型服务已从聊天机器人进化为严肃生产力,系统集成大模型提供类似于AIAgent功能,输入和输出Token的数量将大大增加,单位Prompt所需的推理算力将显著增长。
- 服务器推理:内存墙难破,HBM容量仍为竞争要点: GPT类模型每次生成下一个token时,所有模型参数必须从内存传输到处理器,对硬件的内存带宽、容量以及数据传输效率提出了严苛要求。
- 端侧推理:单用户推理导致内存端高成本,端云结合将是未来趋势: AI手机和AIPC提供的端侧AI允许用户将数据留在本地,但端侧AI的单用户场景意味着Batch Size为1,每次从内存加载模型参数到芯片上时,其成本只能分摊到单个token上,无法通过其他用户的并发计算来缓解这一瓶颈。
五、AI设备销量正在提升
- AI手机焦点在于旗舰机: AI手机在硬件上重点突出了NPU和内存的提升,高配置、高价格的旗舰机在硬件需要提升带来成本增长的情况下更能满足消费者的需求。
- AIPC的竞争将会越发激烈: 未来X86笔电市场竞争将会更为激烈,英特尔和AMD产品在性能、续航、适配性、生态方面各分秋色。
- AI设备产业链随着AI加入将迎来更新换代: 除了处理器之外,在AI设备产业链中,散热、光学、OLED和内存都是确定性较强的产业机会。
六、智能驾驶&机器人行业正在摸索技术路径
- 智能驾驶:模块化方案与端到端方案之争: 目前行业内主要存在两种技术路线:模块化方案和端到端方案,两种方案在复杂场景和简单场景中各具优势。
- 具身智能想要放量需要更实用的场景及更低的价格: 具身智能可以通过机器人或其他具身设备与真实世界进行交互,实现感知、决策和行动的闭环,国内龙头公司如宇树更容易放量。