您的浏览器禁用了JavaScript(一种计算机语言,用以实现您与网页的交互),请解除该禁用,或者联系我们。[中国移动研究院]:魏华:构筑边缘智能推动算力网络新发展 - 发现报告
当前位置:首页/行业研究/报告详情/

魏华:构筑边缘智能推动算力网络新发展

AI智能总结
查看更多
魏华:构筑边缘智能推动算力网络新发展

边缘智能发展的新趋势 边缘计算行业发展新趋势 数字经济对网络和算力提出了更高要求,边缘计算将向连接和算力深度融合的立体泛在的算力方向发展 数字经济的发展,对网络连接提出更高要求 行业发展的新变化,要求算力向多样性、泛在性变化 •要求优化网络架构,推进省域/区域内3ms以及城市内1ms低时延 •产业数字化转型升级对网络确定性提出更高要求 •网络与算力进一步融合演进,催生网络应用感知能力 •算力内核包括通用算力和异构算力,呈现多样化特征 •算力形态随着数据处理向边端扩散呈现云、边、端分布,呈现泛在化 •算力结构趋向智能化 数字经济时代,网络与算力关系更加紧密,深度融合发展 边缘计算行业发展新特征 边缘应用场景激增,泛在算力需求大量释放 算力结构持续演进,智能算力占比持续增加 计算需求呈差异化,异构算力发展不断繁荣 •边缘侧应用场景层出不穷,市场增速持续加快,市场规模持续扩大 •算随人动、算随需流促使应用向边缘迁移成为产业新趋势 •计算模式正向云-边-端多级、高度协同的泛在架构方向发展 •预计2023年我国智能计算占总算力规模将达到70%,2030年人工智能算力需求增长500倍以上 •AI训练计算复杂度年增速达10倍,且逐渐从云端训练扩展到边缘端推理 •工业互联网、人工智能、大数据等应用对算力的专用化、差异化需求凸显GPU、FPGA、AI芯片等异构算力需求增长迅猛 •异构算力发展进入繁荣期,与通用计算一起构成坚实的算力底座 边缘计算行业发展新动能 算力资源利用率(数据来源:IDC) 100 80 60 40 20 0 数据中心 物理服务器 电脑PC 消费终端 一般资源利用率峰值资源利用率平均资源利用率 (数据来源:发改委高技术司) 我国移动互联网接入流量持续增长,边缘计算应用市场规模不断扩大,其中智能算力规模及能力呈现快速增长,但算力资源整体利用率偏低 (数据来源:CCID前瞻产业研究院) 800 700 600 500 400 300 200 100 0 2016-2022边缘计算市场规模(单位:亿元) 中国智能算力规模及预测数据来源:IDC 2016201720182019202020212022E 中国移动边缘计算新实践 融通边缘侧多样性算力 明确“两层架构”和“三大核心技术” 两层架构:算力池化层、算力抽象层 三大核心技术:算力抽象、跨架构编译优化、原生运行时 打造“芯合”算力原生原型系统 算力原生将程序统一转译为中间元语,并通过原生运行时与多样算力适配、动态映射执行 应用层 框架层 Pytorch 华为 分支版本 intel 分支版本 NVIDIA 分支版本 海光 寒武纪 …… 原始程序 分支版本分支版本 任选1种工具链开发 原生程序 原生runtime 动态链接 工具链 硬件1体适配 硬件层 …… 编程模型转换、编译、优化 算力原生层 边缘侧多样性异构算力是主流,AI需求为主的异构算力开发生态体系繁多。融通多样算力,是边缘算力发展关键,中国移动以“芯合”跨架构平台为牵引,推进应用跨异构架构迁移。 CPU/NPU CPU/GPUFPGA GPU/DPU DCU MLU 产品能力:实现视频分析、图像识别两类智算应用在GPU T4、MLU370间的跨架构部署迁移 开源建设:在OIF与业内伙伴联合贡献算力原生开源系统 打造边缘计算多级开放能力 基础(原子)API能力 平台产品级能力 服务使能能力 APP1APP2APP3APP1APP2APP3APP4 服务运营自助平台开通 服务能力任务开放模板拆解 统一API网关 OpenSigmaECP OnePoint OneHealth OnePower 边缘计算PaaS平台 虚拟化基础设施(虚机/容器) •硬服务 •协同运营,算网一体化服务 分流无线 策略信息 带宽通用行 管理业API •工业互联网平台 •路车网体系化产品矩阵 •自助业务开通,便捷运维 •边缘能力对外服务开放 •安全服务能力 •网络能力API •分流规则,DNS规则 •小区级/应用级/用户级无线信息 •通用行业能力API •人脸识别、人体识别 •比对搜索、图形匹配 •数据互联互通 •智慧园区平台 •数字化运维能力 •分析智能化 •用户数据、教学应用互联互通 •软服务 •从“资源式”转向“任务式” •提供算法模型及能力模板 •提供智能无感极简的服务模式 筑造边缘智能协同服务框架 中国移动OpenSigma平台行业能力中已具备针对AI、视频识别场景下差异化任务识别能力,构建智能云边端协同服务框架,实现低延迟、高效能的自适应感知智能计算 OpenSigma-ECM OpenSigma-MEPM OpenSigma-ECP API网关 行业能力 特色网络能力 基础能力 系统管理 用户管理 网络能力配置 ECPFCAPS管理 测试认证中心 系统配置中心 应用中心 开发者中心 以多目标视频追踪场景为例,利用智能协同服务架构可以进行云边端的协同优化,可以由云边端三级根据本地能力执行部分任务,分别完成数据采集、预处理、分类决策、多分支跟踪、计算任务卸载决策等功能,分工合作从而实现加速视频分析的目标 边缘智能模型-训练优化 训基于流水线并行+stage-level混合策略搜索的练分布式深度学习,通过搜索完整的策略空间,实优现GPU的负载均衡,提高GPU利用率与模型训化练吞吐量,减少训练时间。 制 机相比现有的数据并行方法,可以实现5.5×提升。 系统异构:终端的计算能力不一致,当终端训练轮次相同时,会导致落后终端的产生。数据异构:终端本地模型收敛方向不一致,因此终端的全局模型收敛增益不一致。 练 联基于终端训练迭代次数自适应分配机制,同时考邦虑系统异构与数据异构对于训练效率的影响,将训训练时间效率与训练收敛质量建模为多目标优化 方问题,从而解决了两者之间的矛盾。 法相比现有联邦学习训练算法,最高可以减少约 49.5%的收敛时间。 边缘智能模型-推理优化 优 模基于动态推理路径进行端边协同优化,引入出口型指示器进行出口预测,考虑带宽将最低延时问题切转化为最小割问题,实现动态路径DAG网络的切分分。 化相比现有多出口DNN工作,实现最高6.78x加速 比。 速 推结合分支网络出口选择、模型切分与资源分配断三个维度进行自适应优化,在异构终端、动态加网络环境下实现最小化任务平均执行时间。 机相比现有工作,实现1.1-13.7x的推理加速比, 制精度损失控制在1.2%-3.3%。 算力网络开启算力服务新模式 中国移动算力网络体系架构 运营服务层 算力交易 算网运营 统一运营 能力开放 算力并网 意图感知 算力封装 编排管理层 算网大脑 算网统一编排 一体编排 数据湖 泛在调度 算力解构 算网智能化 数字孪生意图网络 算网自智 基础算网管理 人工智能引擎 安全 绿色 算网基础设施层 算网底座 分布式算力(边) 分布式算力(边) 分布式算力(中心) 分布式算力(中心) 分布式算力(端) 分布式算力(网) 统一IP算网底座 分布式算力(网) OTN/OXC OTN/OXC 全光底座 分布式算力(端) OTN/OXC 边缘侧是融通云边端多层级架构的核心 算力网络是以算为中心、网为根基,网、云、数、智、安、边、端、链(ABCDNETS)等深度融合、提供一体化服务的新型信息基础设施。算力网络的目标是实现“算力泛在、算网共生、智能编排、一体服务”,逐步推动算力成为与水电一样,可“一点接入、即取即用”的社会级服务,达成“网络无所不达,算力无所不在,智能无所不及”的愿景 融合统一的运营服务融数注智的算网大脑 算网一体的基础设施 开启算力服务新模式 服务新体验 端到端质量一致性 服务新模式 “TaaS”任务式 服务新业态 算力并网算力交易 超大型数据中心 中心算力 一体化机柜 边缘算力 中小数据中心 边缘算力 运营平台 算网大脑 个人泛终端算力 三方算力池C 中心云提供商A 边缘节点提供方B 边缘云 中心云 边缘云 可信算力交易平台 车联网、云游戏…图像渲染、AI训练推理…算力普惠、科学计算… 网随算动,算随网流,算网一体共生,实现服务端到端质量一致性保障 用户只需要提出任务的具体需求 (如输出60帧1080P视频),无需关注底层复杂的算网环境 通过跨地域、跨运营主体算力资源交易新型供给模式,盘活存量算力,降低单位算力使用成本和门槛 展望 自动驾驶等高可靠性、超低时延、高速移动、业务连续性保障要求的服务 •制造业等更多方参与的发展机会 •算随需流,要求更高的网络和计算节点、算法和服务的实时调度能力 场景诉求 高动态高实时服务 元宇宙高质感服务 云游戏、XR极致服务等为代表的元宇宙“全沉浸、全场景、临场感”高质感虚拟世界 •算力运营企业、AI企业、内容制作企业、终端企业的发展机会 •要求超强算力、超强存储、超强网络、超级终端、智能调度 社会级算力服务 城市本地时延圈内的多方社会算力池提供大任务的拆解算力交易服务 •多方算力/社会闲置算力的企业或个人、区块链企业充分协作的机会 •算力上链注册、度量、管理、配发,实现分布式算力共享交易 融合∙协作∙共赢 共同把握工业互联网的历史机遇 联盟公众号:工业互联网产业联盟 联盟网址:http://www.aii-alliance.org/联盟邮箱:aii@caict.ac.cn