您的浏览器禁用了JavaScript(一种计算机语言,用以实现您与网页的交互),请解除该禁用,或者联系我们。[国信证券]:海外AI应用近况点评:AI应用逐步落地,推理算力需求提速 - 发现报告
当前位置:首页/行业研究/报告详情/

海外AI应用近况点评:AI应用逐步落地,推理算力需求提速

信息技术2024-12-10熊莉、艾宪国信证券周***
AI智能总结
查看更多
海外AI应用近况点评:AI应用逐步落地,推理算力需求提速

海外AI应用近况点评 AI应用逐步落地,推理算力需求提速 优于大市 行业研究·行业快评计算机投资评级:优于大市(维持) 证券分析师: 熊莉 021-61761067 xiongli1@guosen.com.cn 执证编码:S0980519030002 证券分析师: 艾宪 0755-22941051 aixian@guosen.com.cn 执证编码:S0980524090001 事项: ToC端,ChatGPT等应用访问量数据持续上涨。ToB端,AI赋能公司业绩增长,例如在广告领域,AppLovin通过AI提升工具性能,拉动广告商支出增长;在数据分析领域,Palantir推出AIP平台,集成多款大模型,用于数据分析,拉动其商业客户收入增长。 国信计算机观点:1)C端AI应用数据持续增长,B端AI赋能公司业绩增长,随着AI应用逐步落地,模型推理次数提升,拉动推理算力需求快速增长;2)OpenAI发布GPT-O1,通过思维链提升模型推理能力,思维链需要多步推理进而大幅提升推理算力的需求;3)推理算力占比有望提升,根据《2023-2024年中国人工智能计算力发展评估报告(IDC&浪潮)》发布数据,预计24年中国推理算力占比为67.7%,同比+26.4个pct;4)投资建议:AI应用逐步落地,叠加思维链等技术的使用,推理侧算力需求有望快速提升,建议关注国产算力芯片海光信息。5)风险提示:AI应用落地不及预期,AI芯片迭代不及预期,AI芯片供应不及预期。 评论: C端AI应用数据持续增长,B端AI赋能公司业绩增长 C端:AI应用数据持续增长。从全球来看,ChatGPT周度访问量持续提升,根据Similarweb数据,最近一周(11月28日-12月4日)访问量合计为8.99亿次,环比+0.5%;根据AI产品榜数据,11月ChatGPT的MAU数据为287.25M,环比+11.27%。从国内来看,豆包、文小言、Kimi、智谱清言等AI应用快速发展,根据AI产品榜数据,11月豆包、文小言、Kimi、智谱清言MAU分别为59.98M、12.99M、12.82M、6.37M,分别环比+16.92%、3.33%、27.40%、22.18%。 图1:ChatGPT周度访问量数据持续上升图2:11月全球TOP10AI产品有7款MAU环比增长 资料来源:Similarweb,国信证券经济研究所整理资料来源:AI产品榜,国信证券经济研究所整理 B端:AI赋能公司业绩增长。在广告领域,AppLovin在AppDiscovery平台使用AXON2.0AI驱动技术拉动广告商支出增长,三季度收入同比+39%、净利润同比+300%,且四季度展望乐观;在数据分析领域,Palantir推出AIP平台,集成多款大模型,用于数据分析,拉动其商业客户收入增长,三季度收入同比+30% (其中美国商业业务同比+54%),且上调全年收入指引为28.05-28.09亿美元(前值为27.42-27.50亿美元)。Saleforce、DocuSign、Asana等公司受益于AI驱动,三季度业绩表现出色。 AI应用逐步落地,拉动推理算力需求增长。从单次推理来看,主要包括分词(Tokenize)、嵌入(Embedding)、位置编码(PositionalEncoding)、Transformer层、Softmax,推理主要计算量在Transfomer解码层,对于每个token、每个模型参数,需要进行2×1Flops=2次浮点运算,则单词推理算力消耗为模型参数量×(提问Tokens+回答Tokens)×2,随着模型参数量增长、模型向多模态发展,单次推理算力消耗持续增长。从推理次数来看,AI应用逐步落地,模型推理次数提升,拉动推理算力需求快速增长。 OpenAI发布GPT-O1,思维链拉动推理算力增长 OpenAI发布GPT-O1,通过思维链提升模型推理能力。24年9月12日,OpenAI发布GPT-O1,同GPT-4O相比,GPT-O1在数学、代码、科学问题(PhD级别)评分显著提升。GPT-O1在回复用户问题之前会生成一条较长的内部思维链,将复杂的问题拆分为更简单的步骤,且当前方法无效时,会进一步尝试其他方式,引入思维链将显著提升模型的推理能力。 图3:GPT-O1在数学、代码、科学问题(PhD级别)评分显 图4:GPT-O1推理占比大幅提升 著高于GPT-4o 资料来源:OpenAI官网,国信证券经济研究所整理资料来源:JimFan(FromX),国信证券经济研究所整理 思维链(CoT)拉动推理算力增长。1)思维链(CoT)需要多步推理进而大幅提升推理算力的需求,同时推理时间的增长亦是推理算力消耗增长的反映;2)根据JasonWei等人在23年发布的文章 《Chain-of-ThoughtPromptingElicitsReasoninginLargeLanguageModels》,思维链仅对1000亿以上参数模型的推理有显著提升;此前,为节省推理算力消耗,大多数模型通过蒸馏等方式缩小模型参数量,而思维链反向限定模型参数量下限,进而拉动推理阶段算力需求增长。 图5:思维链多步推理提升推理阶段算力消耗图6:思维链(CoT)在1000亿参数模型上才能带来显著提升 资料来源:ShiyuFang等著-《TowardsInteractiveandLearnableCooperativeDrivingAutomation:aLargeLanguageModel-DrivenDecision-MakingFramework》-arXiv(2024)-P6,国信证券经济研究所整理 资料来源:JasonWei等著-《Chain-of-ThoughtPromptingElicitsReasoninginLargeLanguageModels》-arXiv(2023)-P5,国信证券经济研究所整理 推理算力占比有望提升,定制化芯片或大有可为 中国AI芯片市场规模快速增长,推理算力占比有望提升。根据亿欧智库数据,23年中国AI芯片市场规模约1038.8亿元,预计25年增长至1780亿元,对标23-25年CAGR为30.9%,中国AI芯片市场规模快速增长。随着AI应用逐步落地以及思维链等技术的运用,推理侧算力需求有望快速提升,根据《2023-2024年中国人工智能计算力发展评估报告(IDC&浪潮)》发布数据,预计24年中国推理算力占比为67.7%,同比 +26.4个pct。 图7:中国AI芯片市场规模快速增长图8:预计24年开始推理算力占比大幅提升 资料来源:亿欧智库,国信证券经济研究所整理资料来源:《2023-2024年中国人工智能计算力发展评估报告(IDC& 浪潮)》-P18,国信证券经济研究所整理 博通:从客户来看,公司为谷歌、Meta等客户定制AIAsic芯片;从技术来看,公司可以提供高复杂度的定制加速卡(XPU)和Asic,主要包括:1)计算:处理单元架构(客户提供)、设计流程和性能优化(博通);2)内存:HBMPHY、集成与性能(博通);3)网络I/O:架构及执行(博通);4)封装:2.5D、3D和硅光子体系结构(博通)。 Marvell:公司19年收购Avera,随后宣布提供定制AsicSOC服务,目前客户主要有亚马逊等。海光信息:公司深耕AI芯片领域,采用GPGPU架构,其DCU芯片在推理领域表现出色。 寒武纪:公司云、边、端三位协同,发布思元370加速卡,推理领域表现出色。 云天励飞:公司DeepEdge系列推理卡已经适配了包括云天天书、通义千问、百川智能、以及Llama2/3等在内的近十个主流大模型。 投资建议: AI应用逐步落地,叠加思维链等技术的使用,推理侧算力需求有望快速提升,建议关注国产算力芯片海光信息。 风险提示: AI应用落地不及预期,AI芯片迭代不及预期,AI芯片供应不及预期。 相关研究报告: 《美股AI软件公司情况追踪》——2024-11-17 《计算机行业2024年11月投资策略暨三季报总结-三季度依然承压,关注智谱AutoGLM和信创投资机会》 ——2024-11-10 《美股大厂三季报资本开支&ROIC回顾》——2024-11-03 《人工智能行业专题-全球云厂商复盘,AI驱动新一轮资本开支周期》——2024-10-28 《计算机行业2024年10月投资策略-化债政策超预期,深度关注AI基建》——2024-10-22 免责声明 分析师声明 作者保证报告所采用的数据均来自合规渠道;分析逻辑基于作者的职业理解,通过合理判断并得出结论,力求独立、客观、公正,结论不受任何第三方的授意或影响;作者在过去、现在或未来未就其研究报告所提供的具体建议或所表述的意见直接或间接收取任何报酬,特此声明。 国信证券投资评级 投资评级标准 类别 级别 说明 报告中投资建议所涉及的评级(如有)分为股票评级和行业评级(另有说明的除外)。评级标准为报告发布日后6到12个月内的相对市场表现,也即报告发布日后的6到12个月内公司股价(或行业指数)相对同期相关证券市场代表性指数的涨跌幅作为基准。A股市场以沪深300指数(000300.SH)作为基准;新三板市场以三板成指(899001.CSI)为基准;香港市场以恒生指数(HSI.HI)作为基准;美国市场以标普500指数(SPX.GI)或纳斯达克指数(IXIC.GI)为基准。 股票投资评级 优于大市 股价表现优于市场代表性指数10%以上 中性 股价表现介于市场代表性指数±10%之间 弱于大市 股价表现弱于市场代表性指数10%以上 无评级 股价与市场代表性指数相比无明确观点 行业投资评级 优于大市 行业指数表现优于市场代表性指数10%以上 中性 行业指数表现介于市场代表性指数±10%之间 弱于大市 行业指数表现弱于市场代表性指数10%以上 重要声明 本报告由国信证券股份有限公司(已具备中国证监会许可的证券投资咨询业务资格)制作;报告版权归国信证券股份有限公司(以下简称“我公司”)所有。本报告仅供我公司客户使用,本公司不会因接收人收到本报告而视其为客户。未经书面许可,任何机构和个人不得以任何形式使用、复制或传播。任何有关本报告的摘要或节选都不代表本报告正式完整的观点,一切须以我公司向客户发布的本报告完整版本为准。 本报告基于已公开的资料或信息撰写,但我公司不保证该资料及信息的完整性、准确性。本报告所载的信息、资料、建议及推测仅反映我公司于本报告公开发布当日的判断,在不同时期,我公司可能撰写并发布与本报告所载资料、建议及推测不一致的报告。我公司不保证本报告所含信息及资料处于最新状态;我公司可能随时补充、更新和修订有关信息及资料,投资者应当自行关注相关更新和修订内容。我公司或关联机构可能会持有本报告中所提到的公司所发行的证券并进行交易,还可能为这些公司提供或争取提供投资银行、财务顾问或金融产品等相关服务。本公司的资产管理部门、自营部门以及其他投资业务部门可能独立做出与本报告中意见或建议不一致的投资决策。 本报告仅供参考之用,不构成出售或购买证券或其他投资标的要约或邀请。在任何情况下,本报告中的信息和意见均不构成对任何个人的投资建议。任何形式的分享证券投资收益或者分担证券投资损失的书面或口头承诺均为无效。投资者应结合自己的投资目标和财务状况自行判断是否采用本报告所载内容和信息并自行承担风险,我公司及雇员对投资者使用本报告及其内容而造成的一切后果不承担任何法律责任。 证券投资咨询业务的说明 本公司具备中国证监会核准的证券投资咨询业务资格。证券投资咨询,是指从事证券投资咨询业务的机构及其投资咨询人员以下列形式为证券投资人或者客户提供证券投资分析、预测或者建议等直接或者间接有偿咨询服务的活动:接受投资人或者客户委托,提供证券投资咨询服务;举办有关证券投资咨询的讲座、报告会、分析会等;在报刊上发表证券投资咨询的文章、评论、报告,以及通过电台、电视台等公众传