您的浏览器禁用了JavaScript(一种计算机语言,用以实现您与网页的交互),请解除该禁用,或者联系我们。[未知机构]:苹果iPhone16系列在国内AI落地的具体形式与海外AI功能差异换机节奏及推理算力需求估计20240904 - 发现报告
当前位置:首页/会议纪要/报告详情/

苹果iPhone16系列在国内AI落地的具体形式与海外AI功能差异换机节奏及推理算力需求估计20240904

2024-09-04未知机构尊***
苹果iPhone16系列在国内AI落地的具体形式与海外AI功能差异换机节奏及推理算力需求估计20240904

以下为专家观点: 1,苹果与百度的具体合作方式? 目前,苹果与百度的合作主要集中在两个方面:Siri的底层智能和桌面等全局搜索能力(不包括桌面办公类套件)。此外,苹果还计划将大模型能力逐步应用到其平板设备和穿戴式设备中。 目前在国内市场上,只有百度在Siri底层和搜索功能方面与苹果有实际合作。以下为专家观点: 1,苹果与百度的具体合作方式? 目前,苹果与百度的合作主要集中在两个方面:Siri的底层智能和桌面等全局搜索能力(不包括桌面办公类套件)。此外,苹果还计划将大模型能力逐步应用到其平板设备和穿戴式设备中。 目前在国内市场上,只有百度在Siri底层和搜索功能方面与苹果有实际合作。 其实苹果也有自己的大模型,然而苹果的大模型尚未获得国内监管认证。在服务端侧,只有经过认证的大模型公司或产品才能面向公众提供服务,因此目前在终端服务方面,苹果使用的是包括百度等第三方公司的经过认证的大模型技术。 2,苹果在端侧和云端使用的模型参数规模? 在云端大模型方面,使用的是文心4.0,其参数量规模达到4000亿级别。在端侧小模型方面,与苹果合作所用的则是80亿参数量级别的小模型。目前,这两种类型的模型均由百度提供。未来是否会有变化,还需视监管要求及市场反馈而定。 3,针对iPhone16,国内和国外的AI功能是否存在显著差异? 在iPhone16上,国内和国外的AI功能总体上差异不大,主要区别在于底层服务的训练内容。核心差异其实体现在苹果自己的办公套件,海外苹果办公套件使用了苹果自己的模型,但国内这部分并没有上,所以国内还是相比之前属于标准的升级,并没有像海外加入了AI功能,相当于阉割版。 而用户在使用Siri以及搜索功能时,由于国内市场与海外市场在内容层面本身具有较大差别,所以很难去直接比较用户体验上的差异。其中国内手机的AI能力依赖于百度文心大模型的数据训练结果,意味着虽然基础功能类似,但由于训练数据和推理过程不同,具体体验可能有所差异。例如,在语音识别和调用Siri助手时,其识别准确度等核心能力取决于所用模型及其训练数据。 4,苹果自研大模型短期内进入中国市场的可能性?即在国内获取监管认证的可能性? 短期内苹果的大模型进入中国市场面临诸多挑战:首先是内容监管问题,大语言模型需要进行内容屏蔽以符合当地法规,但这会影响用户体验,可能短期内不会为了国内市场去做一些内容过滤或内容屏蔽;其次是数据安全问题,大语言模型通常基于英文语料库,需要重新训练以适应中文环境,所以重新训练涉及技术层面的调整,短期内其优先级可能并不高。因此 目前来看,短期内这些大语言模型难以顺利进入中国市场。 所以为了更好地适应中国市场需求,苹果或其他海外公司可能需要与本地供应商合作,例如百度等具备强大AI能力的公司。这种合作可以通过定制方案实现,即利用本地公司的大语言模型进行优化,以满足中国监管要求和用户习惯。除非现有方案无法满足需求,否则未来不会轻易更换合作伙伴。同时,也需要关注政策变化,以便及时调整策略,实现技术落地。例如,目前特斯拉自动驾驶技术也面临类似挑战,需要解决数据安全及合规性问题才能顺利落地。 5,为什么苹果在国外率先推出AI赋能的办公套件,而不是同步在国内发布? 主要原因是不同市场用户渗透率不同及产品策略差异。在国外,苹果办公套件拥有较大的用户基础,因此需要提前推出具备AI功能的新版本以满足用户需求并保持竞争力。而在国内,由于办公套件的用户渗透率相对较低,即使推迟发布,对现有存量用户影响不大。 此外,从技术成熟度来看,无论是海外还是国内,这些产品仍处于探索阶段,并未完全成熟。因此,在国外率先发布新版本也可以作为一种市场营销策略,为未来在中国市场推广做好预期铺垫。总体而言,这是基于不同市场特点及战略考量所做出的决策。 6,针对苹果用户,特别是AI相关功能的需求,如何评估其潜在推理算力需求? 目前苹果在AI手机方面的推理需求主要依赖于百度提供的算力资源。现阶段,百度拥有大约12万张GPU卡用于支持整体业务,并会根据苹果产品上线后的用户使用量,划出专属资源池以满足其需求,这部分专属资源将从百度云现有的一些公共资源中压缩出来。 此外,百度计划扩充约两到三万部GPU卡,以填补可能出现的额外需求。然而,这些资源是否足够,还需视Siri新版本发布后用户活跃度及使用情况而定。初期用户量预估和实际使用情况存在一定不确定性,因此将梯度调整资源配置。比如从产品发售到终端消费者手中,大约需要一个半月时间,在此期间预计初期用户规模不会很大,大致为百万级别。随着手机铺货进入常态化阶段,用户规模将在一个月到一个半月后逐渐提升至千万级别。 7,苹果对所用GPU卡的要求? 苹果主要使用英伟达系列的GPU卡。目前英伟达的新款H20GPU交付延迟,本应在今年第一季度交付的大部分订单推迟至第二季度开始逐步交付。此外,百度也在通过国内一些渠道或原有算力租赁厂商获取被禁售的高性能卡片。由于市场上算力价格下降,一些租赁厂商因成本高企而出售部分算力。 8,除了手机终端外,其他设备如电脑、平板、穿戴式设备等AI应用对推理算力的需求评估?除了手机终端外,苹果其他设备如平板和穿戴式设备也将在未来推出相应的大模型应用。平板与手机方案类似,仅需适配调整,而穿戴式设备则需针对语音输入等特定交互场景进行技术方案调整。目前,这些技术方案仍在讨论阶段,没有明确执行计划,因此目前主要集中在手机终端的大模型应用推广上。 9,苹果与百度之间的合作具体如何进行结算? 苹果与百度之间的合作主要分为两部分:首先是预制开发项目的费用,这部分收入从项目立项到最终验收;其次是基于用户使用量和算力消耗的后续收入,包括产品运维服务费。目前,苹果模型上线后尚未有增值商业产品,因此主要收入来源于算力消耗和常规技术服务成本。其实当前百度在提供整体算力服务方面仍处于亏损状态(综合来看的情况,针对单个项目很难判断),这不仅包括苹果这个项目,还涵盖了与所有客户的算力合作。 10,除了苹果,百度是否还与其他品牌合作提供AI解决方案? 百度也在和三星合作提供AI解决方案。具体来说,自今年第一季度起,三星在其新款S系 列手机(S24)中集成了百度文心的大模型,但目前仅限于新设备,并未进行全量系统升级。这些模型主要提供手机助理功能,如翻译和文本编辑等简单场景化服务。由于三星在国内市 场占比不高,加之仅限于新款手机,因此用户体量约为百万级存量用户(非日活跃用户概念)。对于三星百万级存量用户,其推理需求并不大。百度为其专门提供了约2000多张卡片的算 力,这些卡片并非全负载运行,因为所需功能相对简单,不涉及复杂深度服务。因此,这部分实时算力消耗较低。 11,针对苹果新机不同规模的用户体量,百度大致为其预留的算力卡数量? 按照现有数据,可以推测如果苹果新机用户达到千万级,大致需要5000张卡左右来满足其算力需求。如果进一步扩展到2000万至3000万,则需要预留7000至10000张算力卡。当前来看,百度总体可以为苹果提供的算力卡数量峰值大概在5万张左右,但实际使用当中可能差不多2万至3万预计就可以满足苹果最大程度上的需求。 12,苹果与百度的合作中短期内是否存在变数的可能性? 苹果通常不会在小版本更新中更换模型供应商,这类变动一般会在大版本更新时进行。因此,如果苹果要更换模型供应商,预计最早也要到明年的新品发布周期。即使产品体验不佳,今年内也不会更换服务商,因为技术开发和产品规划需要一定的时间周期。 当前在国内百度既是模型供应商也是算力供应商,如果未来苹果调整模型供应商,那么算力供应商可能也会有所变化。不过,这取决于多个因素,包括价格成本、稳定性和技术服务等维度。如果这些方面表现良好,即使扩容或推出新产品,也有可能继续使用百度的算力资源。但在前期至少半年内,不太可能发生大的变动。 13,伴随新版本操作系统的推出,老机型用户升级后使用AI功能的用户量预估? 相应需要看苹果新版本操作系统的推送进度,新机型发售后,如果系统更新包含AI功能,新版本推送后的半年内存量用户更新率约为20%,一年内更新率约为40%。但针对老机型,由于硬件等限制,虽然存量用户基数较大,但还需要看对应硬件配置可以使用的具体AI服务形态,如果可使用的AI服务形态越多,则算力消耗越大。 14,除了与苹果和三星,百度是否正在与其他国内品牌洽谈类似合作? 目前并未与其他国内品牌如OPPO、小米等进行定制化大模型合作(如果定制大模型,从接触到上线至少需要一个季度的时间),这些品牌多在自行研发大模型。他们更多是接入百度 千帆,用于一些对内的基础测试和应用场景(针对开发者,而非C端用户)。但如果他们未来觉得自研效果不佳,有可能再寻求三方合作。 相关文章: iPhone大概率将通过云端引入文心大模型的能力,核心落地场景包括Siri、桌面套件及搜索产品