海内外AIPC发展情况及趋势20240526_1_智能速览2024年05月28日00:32 关键词 AIPCAITV端侧算力通用大模型本地模型智能体个人大模型混合算力用户画像 隐私安全软件加密硬件加密千人千面教育套大模型压缩芯片算力大模型云平台私有云 全文摘要AIPC作为新一代智能设备解决方案,其设计理念超越了传统CPU架构,专注于端侧计算、云端服务与网络通信的整合,致力于提供强大的算力支持和混合AI应用能力。通过优化云平台,AIPC 能够有效整合本地模型与云端通用模型,实现高效资源调度和数据处理,尤其在带宽管理与网络自适应方面表现突出。AIPC还开发了一系列端侧产品,如AIphone和AIpad等,以满 足不同场景的需求。公司致力于推动AIPC技术进步,通过建立高效交互平台,提高用户体验。关键技术包括用户画像和大模型压缩,可优化软件功能,提升处理速度和数据分析效率。AIPC的发 展将经历从端侧硬件到云平台构建的过程,最后实现跨设备协同工作和高度个性化的人机互动。国内外在技术发展上有明显差异,国内注重本地模型优化和用户隐私保护。公司采用分段定价策略,通过软件服务获取利润,并强调数据安全和个人隐私保护。未来技术发展趋势包括Arm架构在各领域的应用和更快的用户设备唤醒功能,同时探讨了AI与操作系统整合的两种方式。 章节速览 ●00:00AIPC:综合解决之道与未来趋势□AIPC作为新一代的智能设备解决方案, 其内涵远超过传统的CPU架构,涉及端侧计算、云端服务以及网络通信等多个方面。它的核心在于实现端边云网的一体化,为用户提供强大的算力支持和混合AI的应用能力。通过云平台的构建和优化,AIPC能够有效整合本地模型与云端通用模型,实现高效的资源调度和数据处理,特别是在带宽管理和网络自适应方面展现出了显著的优势。此外,AIPC致力于开发一系列端侧产品,如AIphone、AIpad等,以满足不同场景下的需求。总体来说,AIPC代表了人工智能技术 在消费电子领域应用的最新趋势,展现了面向未来的广阔前景. ●03:24AIPC与传统PC的主要区别及优势□AIPC相较于传统PC,在主角、应用 与模型关注点、交互方式以及算力支持方面具有显著优势。AIPC以个人智能体(EAK)为核心 ,注重与用户密切相关的应用程序和个性化模型,如用户画像,实现更自然的双向交互,并在本地高效处理大规模模型,提供更贴合用户需求的服务。 ●07:16加速AIPC发展与应用:打造更安全、高效的计算平台□公司致力于推动AIPC技术的进步与应用,旨在通过建立第三屏与PC、手机之间的高效交互,提高用户体验。重点在于实现混合算力调度和优化用户画像构建,同时倡导开放的AI应用生态,降低开发门槛并促进产业发展。此外,重视数据的安全与隐私保护,采用软硬件加密措施保障用户信息安全。硬件方面,计划采 用DDR5内存等最新技术,并控制成本,以亲民价格策略吸引用户,助力AIPC技术的普及与成熟。 ●11:06构建个性化用户体验与提高办公效率的关键技术□介绍两种关键技术:用户画像和 大模型压缩,以及如何利用它们优化软件功能。用户画像基于用户的思维、操作习惯和知识图谱构建 ,依赖本地模型以保护用户隐私并实现个性化服务。大模型压缩使得复杂的模型能在本地运行,提高处理速度并支持更有效的数据分析,如快速索引和内容关联,从而极大提升办公效率。此外,讨论了云平台的作用,即通过封装不同系统的功能,提供给特定行业(如政府、电信和金融)的开发者,以加速行业应用的开发,进而促进AIPC硬件产品的销售,采用新的收入模式。 ●16:57AIPC发展的阶段性与国内外差异□AIPC的发展预计将经历三个阶段:初期 着重于端侧硬件产品的建设与APC云平台搭建;中期随着底层能力和软件生态的完善,将出现更多AI应用,促进用户更换APC,并实现设备间的高频交互;长期目标是实现跨设备的产品协同调度 及高度个性化的人机互动。国内外发展存在明显差异,海外在芯片和大模型算法方面具优势,而国内则侧重于本地模型的优化和用户隐私保护,提出构建企业及个人云解决方案以满足特定市场需求。 ●26:56探讨WindowsonARM的意义及其对未来技术的影响□本次讨论重点 在于WindowsonARM的选择理由及其潜在价值,强调了Windows系统的用户基础 广泛和其底层对用户行为的记录与分析能力。此外,探讨了高通在AIPC领域的地位以及其arm 架构的优势,包括高通在市场上的高占有率和强大的处理能力。进一步地,讨论了未来云侧和端侧资源分配的趋势,强调了即便端侧模型性能增强,云服务依然不可或缺,并提出了边缘计算的重要性及其对未来技术研发的指导意义。 ●33:26理想oneAIPC定价策略与隐私保护□公司采用分段定价策略,高端800 0-10000元,终端6000元左右,旨在让更多用户尝试并体验AIPC带来的便利。重视软 件和AI生态系统发展,通过软件服务获取长期利润。同时,强调Record功能的隐私保护,利用用户画像和语义感知技术,提升用户体验的同时确保数据安全和个人隐私。 ●39:27推动企业级应用创新与合作:OEM厂商的多方位策略□OEM厂商在应用层面侧 重于为企业客户提供定制化服务,如针对政府和金融客户的特定行业模型构建。面向消费者市场,通过与技术巨头如微软的合作,利用其平台如Teams的功能增强,开发出能够理解和执行复杂任务的 应用程序,如智能助理和高效的数据处理工具。这些应用程序不仅依赖于OEM厂商的本地模型能力和AI技术,还受益于企业PC提供的API访问权限,从而实现更加智能化的用户体验,包括屏幕 共享、语音识别等功能。这种合作模式标志着软件和服务在提升终端用户吸引力方面的重要性日益增加,超过了单纯依靠硬件升级来吸引用户的时代。 ●43:21WindowsonArmvsX86:Performance,Ecosystem,andFutureProspects□微软选择Arm架构而非In tel的原因在于其更高的算力和适应更广泛的应用场景,尤其是在行业网关领域。对于Windo ws生态系统构建,虽然面临挑战,但通过国际合作有望实现快速发展。Arm与X86的主要区别 在于软件生态适配性和架构效率,尽管存在一些兼容性问题,但Arm在特定领域的低功耗和高效能潜力巨大。 ●47:49联想AIPC新品发布与市场策略□联想即将发布搭载高通XZB及支持本地模型 功能的AIPC产品,并计划于十月推出基于英特尔IRke系列的新品。公司强调了在游戏本领域的投入,期待通过增强的游戏体验吸引消费者。同时,AIPC将按照计算 能力和市场需求分为不同档次,高端型号预期具有超过60TOPS的算力,而入门级产品则在10TOPS左右。性能差异主要体现在使用不同的芯片以及本地算法处理能力上,这些因素共同影响产品的最终售价和应用场景。 ●52:11探讨AI与操作系统整合、技术发展趋势□讨论了AI与操作系统的两种整合方式 :一是通过开放的底层API供软件厂商利用,二是基于特定用户属性定制应用程序。此外,探讨了未来技术的发展趋势,包括Arm架构在不同领域的应用及AIPC如何实现更快速的用户设备唤醒 功能。还涉及了端侧模型与云侧模型的交互过程,以及为何选择在CPU中使用NPU而非独立显卡GPU来进行模型处理,强调了多线程并行运算的优势。 问答回顾 发言人问:AIPC的整体架构是什么样的? 发言人答:AIPC是一个基于端边云网一体化解决方案的产品,它不仅包括端侧的AIPC产品, 还涉及云平台、AI服务器以及网络侧的自适应带宽管理。通过将个人智能体(EAK)作为主角,AIPC不仅关注计算服务,更侧重于应用和模型,尤其关注用户画像,以实现个性化应用和服务。AIPC具备自然交互能力、内置个人大模型、混合算力调度和开放AI应用生态等特点,同时保障用户隐私安全。 发言人问:AIPC与传统PC有何区别? 发言人答:传统PC基于操作系统之上,侧重计算而非算力,而AIPC的角色转变为个人智能体EAK,它更关注应用和模型,特别是用户画像,通过记录用户的行为习惯和信息构建个人模型,实现定制化服务和优化体验。此外,AIPC具备自然交互能力,内置个人大模型,通过压缩技术本地处理,提高处理效率并适应用户属性,以及混合算力调度和开放AI应用生态等特点。 发言人问:AIPC硬件方面的变化有哪些? 发言人答:AIPC硬件方面可能会采用最新的CPU、DDR5内存、升级后的主板连接器或屏蔽 膜以及小幅度的电源散热升级,带来大约8%的成本增量。但在初期阶段,AIPC更注重用户培养 ,售价上不会直接体现这8%的硬件成本提升,希望通过较低售价吸引用户,促进产业的发展。发言人问:在软件技术方面,有哪些关键点需要关注? 发言人□答:软件技术中,首先涉及到的是用户画像的构建。它基于个人思维方式、操作习惯以及知识图谱,是通过本地模型实现个性化算法定制的基础。如果将用户信息上云,则失去了构建用户画像 的背景和意义。其次,用户画像技术能够实现千人千面,即针对不同用户制定定制化的教育方案,以提升教育效果。 发言人问:AIP在用户画像方面的延伸能力体现在哪些方面? 发言人答:AIP(AIPersonalComputer)在用户画像方面的延伸能力表现 在交互模式和感知能力的提升上。相比传统MPC,AIP具备本地模型,能够与屏幕及其他设备进行互动和感知,如语音交互、眼神交互以及语义解析等,使其更符合用户画像定义。 发言人问:大模型压缩技术在本地运行的优势有哪些? 发言人□答:大模型压缩技术的优势在于将通用大模型压缩后放在本地运行,无需依赖网络,不仅节省了资源,还能够更好地构建用户画像。例如,在文档阅读过程中,后台会记录目录结构并进行索引 ,当 用户关注特定页面时,后台会提取关键词,并基于用户的阅读轨迹快速生成PPT内容,从而大大提高办公效率。 发言人问:云平台在软件应用中的作用是什么? 发言人答:云平台的作用是集成底层芯片和系统提供的功能,针对特定行业用户开放封装后的API ,方便开发者快速开发行业应用。这样既能丰富软件应用,又能促进硬件产品的销售,实现从硬件销售向软件订阅收费模式的转变。 发言人问:NATC的发展阶段是怎样的? 发言人答:NATC的发展阶段分为三个阶段。第一阶段是2020年至2025年,期间主要搭建端侧产品和后台云平台基础架构。第二阶段是2025年至2027年,随着底层能力的完善和软件 生态丰富,将会有更多优质应用出现,促进用户更换APC,并实现多屏之间的协同互动。第三阶段是远期(2030年前后),APC将承载更多大模型,在统一协同下实现多端产品的一体化人机互 动,实现自我画像映射的实时升级和迭代。 发言人问:国内与海外在AIPC发展方面存在哪些差距? 发言人□答:国内在AIPC发展中主要存在两个方面的差距。首先,在芯片领域,国内目前缺乏自主AIPC芯片的研发实力,而海外公司如英特尔、AMD和高通具备绝对领先优势。其次,在模型 压缩和大模型部署方面,美国云厂商如微软和亚马逊具有更强的技术优势,对大模型处理具有明显优势,短期内国内难以追赶。 发言人问:在大模型训练方面,为什么GPU是必不可少的,特别是英伟达在该领域有何优势?发言人答:在大模型训练中,GPU是不可或缺的,因为它提供了高效并行计算的能力。英伟达在GPU领域具有领先地位,特别是今年发布的第100款GPU,它进一步提升了其在市场上的优势,特别是在端侧、服务器侧以及大模型算法方面的表现。 发言人问:国内厂家在整机领域对于AIPC的态度是怎样的? 发言人□答:国内厂家对AIPC的态度非常积极。尽管我们可能需要依赖英特尔、高通等公司的芯 片,但在本地模型方面,我们会结合国内市场情况做一些定制化的工作,特别是在政府、金融、电信等高价值行业领域,为用户提供定制化的本地模型服务。 发言人问:如何处理用户对于个人隐私的重视,以及在AIPC中如何实现隐私保护? 发言人□答:在AIPC中,为了