通信行业：网络赋能AI的思考和实践

网络赋能AI的思考和实践 中国移动研究院陆璐2023年10月 01 网络与AI的融合发展趋势 02 网络赋能AI的思考与实践 数字经济社会步入高质量发展新阶段，通用智能技术加速发展，促进网络从传统通信网络向新型信息通信网络加速转变 数字经济步入发展新阶段 由高速增长阶段转向高质量发展阶段,成为全面建设社会主义现代化国家的首要任务 通用智能加速发展 通用智能成为推动科技跨越发展、产业优化升级、生产力整体跃升的驱动力量 提供语音、短信、移动宽带等各类传统通信服务 提供通信、感知、计算、智能、大数据、安全等 一体融合的新一代信息服务 通用智能时代需要随时随地的AI接入 AI赋能网络 AI是满足移动通信网络新指标的关键路径，赋能网络提升网络运行效率、降低运维成本、增强用户体验 网络实现智能的普惠泛在，AI赋能未来网络的。智能自治。，二者“双向驱动”网络与AI的融合包括“AI赋能网络”和“网络赋能AI”两个方面 网络赋能AI 新型信息通信网络是实现AI泛在普惠的基础平台，使能AI成为泛在化的社会级服务 网络性能指标要求更全更高 网络复杂度逐代递增 网络需快速适配多样化场景定制化需求 需要泛在算力 需要泛在连接 网络AI 由场景驱动，重点解决网络泛在算力和平台化服务网络的构建问题，支撑数据/AI模型流动和一体化AI服务供给，助推AI成为社会级服务 赋能场景 调用 服务 AI 1、算力+能力2、平台 6G 算网一体 构建 6G网络支持网络能力聚合、AI数据和模型流转及AI任务调度执行等，提供按需匹配的、质量可保障的平台化服务网络 算网一体通过计算和网络的深层次融合，为AI提供新型智算基础设施、高效智算中心网络和高性能广域互联网络 01 网络与AI的融合发展趋势 02 网络赋能AI的思考与实践 01 6G架构赋能AI 02 算网一体赋能AI 管理编排体 能力开放管理 自治运维管理 资源智能调度编排 数据管理 提出三体、四层、五面的6G总体架构，其中数据面、计算面、服务使能层、数字孪生体共同实现6GAI内生的信息服务全流程支撑 服务使能层 网内AI服务 第三方AI服务 通感服务 计算服务 任务分解能力+服务编排能力 数字孪生体 服务化功能层 统一数据与 控制接口 闭环预验证 孪生大模型 安全面 计算面 数据面 用户面 控制面 场景模型库 ①数据面：构建统一数据服务框架，以服务化功能的形式支持数据的采集、预处理、分析、存储、转发，为AI提供高质量数据 ②计算面：以任务为中心进行算网联合 网编排，为AI的训练和推理提供按需、 本 络个性化、可保障的算力资源 连接与路由层 （空天地多接入，可信连接，异构互联，算力路由， 确定性转发） 通信与算力层 （无线通信，光通信，计算，存储） 体③服务使能层：对AI服务需求进行分解， 对数据、计算、连接资源进行编排调度 ④数字孪生体：为AI赋能网络提供真实的训练环境和可靠的预验证平台 为什么需要新增数据功能和计算功能？ 业务需求跃迁 服务于连接管道+服务于信息的全流程 能力问题： 现有架构的不足 服务于人与物+服务于机器和智能 面向机器和智能的业务与传统业务特征不同，控制手段不同 面向新型感知数据的传输、处理没有相应功能设计 服务于业务报文转发规则式信息“生产” +服务于感知+AI数据综合处理 +智能化信息“生产” 性能问题： 现有网络采集的数据在数量、质量、性能不足 AI的算法、数据、算力不能高效集成，与网络对象不能有机融合 网络需新增两类功能：以数据为中心的新的存储和交换机制，以计算为主的新的处理逻辑 为什么新增的数据功能和计算功能需要设计新的独立面？ •功能异构：①聚焦状态、AI模型等数据采集、预处理、存储、共享等；②聚焦AI计算等任务的分解、调度、执行等 •指标各异：数据存储要求高可靠，数据共享要求高同步，AI计算要求高性能 •演进不同：可用可靠存储、高速数据访问等数据技术，以及高性能计算等技术 新增 功能、指标、演进优化路线和传统控制面、用户面差异较大 数据面，计算面 数据面 计算面 安全面 连接与路由层 通信与算力层 管理编排体 /数字孪生体 服务使能层 控用 制户 面面 数据转发 任意拓 扑转发 非perUE转发 数据分发 数据汇聚 数据存储 其他存储 分析数据存储 非结构数据存储 统一数据存储 数据分析 聚类分析 趋势分析 相关分析 数据统计 数据预处理 匿名化处理 数据校正 数据过滤 数据去重 数据采集 感知数 据采集 网络状 态采集 据采集 AI数据采集 用户数 数据面通过构建统一可信的数据服务框架，提供数据采集、预处理、分析、存储、转发服务，为网络AI提供高质量数据，为AI模型和参数的传输构建数据通道 数据面基本功能 数据采集：以服务化功能的方式支持6G新型网络数据的采集 数据预处理：对采集的网络数据进行去重、过滤、校正等预处理，为网络AI数据分析提供其所需的高质量数据 数据分析：通过AI模型对采集和预处理的6G新型数据进行分析处理；建立数据管道，实现数据的随路分析 数据存储：用户基础数据和个性化策略数据分级分类存储，实现6G新型数据的统一存储 数据转发：扩展5G用户面的数据转发功能，支持6G网络新型数据的多设备数据传输 数据面对AI内生的支持 数据按需提供：对网络数据进行采集、处理和存储，为网络AI提供高质量数据； 数据高效传输：为AI模型和参数的传输，提供满足其QoS需求数据通道 计算面以任务为中心进行AI在内的计算任务编排，基于服务化设计提供计算即服务，实现算网一体内生设计目标 连接与路由层 服务使能层 安全面 计算面基本功能 计算资源管理： 资源统一建模：对计算资源的度量和归类 控制面 用户面 计算面计算任务编排计算资源 管理 计算任务计算任计算任务计算任需求识别务分解映射部署务汇总计算资源 统一建模计算资源 计算策略控制计算会话管理注册管理计算任务移动性调整计算会话模型计算资源 拓扑试图 算网路径规划算网QoS保障计算资源状态感知 数据面 资源注册：将计算节点的相关信息注册在计算面中，从而完成一个对计算节点的整体拓扑 资源感知：计算节点状态感知，对算力节点状态、资源等 管信息的动态感知能力 理计算任务编排：识别应用计算任务需求，按需进行计算任务分解编和汇总，根据应用部署需求和算网资源情况，能够将应用动态部排署到算力节点上 体计算策略控制：根据初始算网业务需求，能够生成算网融合调度 /策略，并进行合理的算网路径规划 数 字计算会话管理：增强会话模型，在会话QoS参数中携带计算相关 孪需求 生计算面对AI内生的支持 体 多要素按需智能编排：实现AI服务的多样化供给 任务式的AI计算服务提供：构建端到端的AI学习和推理环境 资源与业务深度融合：实现面向AI业务高QoS的全生命周期保障 在控制面的全局控制下，基于统一的数据面、计算面，五面协同，共同完成AI计算任务的分解、调度和执行，形成跨网络功能面的AI能力体系，共同构成AI内生的网络架构 控制 控制 控制 计算结果 数据、AI模型 AI执行 数据面 AI计算 计算面 AI执行 用户面 AI执行 安全面 控制面 AI执行 全网统一控制内生AI网络安全 业务报文 业务报文 计算结果 管理、孪生数据 孪生体 用户接入锚点，业务数据收发，提炼用户、网元等的特征数据，提供给数据面 面向AI计算任务，进行计算任务的分解、调度，协同各面共同计算 从各面采集数据、预处理、可靠存储、各面共享，为计算面提供算法数据、模型 为AI赋能网络提供真实的训练环境和可靠的预验证平台 11 01 网络与AI的融合发展趋势 02 网络赋能AI的思考与实践 01 6G架构赋能AI 02 算网一体赋能AI 中国移动持续推动算力网络技术创新突破，构建算力网络核心技术体系，已形成一批标志性算网一体创新技术，目标打造标准统一、技术领先、兼容开放的高性能智算底座，为AI应用强实筑基 算力网络核心技术体系 提出十大技术发展方向和32大核心技术 算网一体创新技术 入算算间算内 在网计算 打破算网边界 全调度以太网 突破无损以太性能瓶颈 G-SRv6 统一承载协议 400G/800G 超高速大容量全光网络 新一代SD-WAN undelay与overlay协同 全光接入 新型接入网架构 运营服务层 融合服务技术 算网数据感知 算网多要素融合编排 编排管理层智能网络 调度 算网基础设施层 算力提升技术 OTN灵活 40光0G电/联80动0 星云算力 G 全光速互 高 算网联SPN承载 存算一体 多样性算力 以网强算技 应用术感知 确定性网络 新一代SD-WANSRv6/G-SRv6 算力卸 载 PON高速 全光接入 在网计算 算力度量 算力路由 云原生 智算中心 算力原生 泛在调度 算网智能化 数据流通 算力交易 绿色 服务器节能 能源 节能 中心 数据 节能 芯片 低碳 安全 计算 隐私 编排 安全 可信 全程 算力路由 突破互联网架构协议 广域高通量网络 突破广域传输性能瓶颈 算力原生 实现应用跨架构迁移 创新提出算力路由体系，将算力信息引入路由域，通过统一控制和调度实现算网资源的全局优化 发现问题 云边以及边边调度之间出现“性能反转” 中心云 边缘节点 -计算负载高及网络队列深的条件下，边缘响应平均时延及尾时延远大于中心云 -算的负载状态以及网的拥塞情况均是问题来源 问题本质 计算和网络是独立系统，算的负载和网的拥塞信息没有产生关联 算：降低负载、计算资源预留... 造成大量计算资源的闲置 网：增加带宽、配置专线... 增加网络建设、运维成本 解决思路 在路由中引入计算信息，进行联合调度, （1）感知：路由系统感知计算资源 （2）路由：综合网络和计算信息寻址选路 形成算力感知网络CAN的核心方向-算力路由 边缘节点 当前进展：实现国际标准突破，推进样机研发和性能验证 历时4年推动IETF成立算力路由工作组CATS，中国移动担任主席 完成首个立项：CATS问题分析、场景及需求 研发算力路由样机，初步验证了在负载较重的场景下，全局时延优化和系统处理容量上约30%的性能提升 算力路由的不同技术路线需要面向多种场景、不同范围等进一步深入研究，同时探索与AI结合的性能优化方案 ①明确广域和局域场景适用范围 需分析验证不同方案的协议开销和性能优化，研究量化各个方案的适用范围，重点探索面向AI大模型调度的算力路由方案 推动面向AI大模型的算力路由场景写入CATSWG标准 基于CATS的分布式推理基于CATS+AI的内容获取 AI-basedMediaDistributionandTrafficSteering ②探索underlay和overlay技术路线 需同步探索不同路线，一方面研究新型算力路由架构和协议；另一方面研究面向AI的应用层和网络层跨层协议、算法优化 验证基于随机森林算法预测的算力路由优化方案 算力收集频率设置为15s，在两次收集之间通过预测反馈机制实现90%的平稳性提升，并进一步提升性能 阿里巴巴：draft-an-cats-usecase-ai BBC:ai4me.surrey.ac.uk 基于预测的调度分布无预测的调度分布 进一步攻关算力路由核心技术难点，构建国内外标准体系，推动实现算网一体丰富产业生态 深化技术攻关 攻关算力指标定义、通告频率优化、多维选 推进标准体系 推动CATS架构等系列标准，扩展CATS工作组 丰富产业生态 依托CFITI验证核心技术，推进共建算网一 路等关键技术 范畴从单域扩展至多域 体孵化和评测环境15 为融通智算生态竖井，中国移动联合产业提出算力原生CAMA原创技术，目标实现“应用一次开发、跨芯部署迁移”，研发“芯合”算力原生平台，开辟以软件为