构建基于大模型的新型智能服务体系助力我国数智经济的高质量发展

0 构建基于大模型的新型智能服务体系助力我国数智经济的高质量发展 中国移动研究院邓超 1 01大模型催生新的范式 以大模型为代表的通用智能技术正在催生世界发展的新范式，它将深刻地改变我们现有的科学技术体系、产业布局及社会治理模式 智能化 数字化 工业化 农业化 游牧文明 时间 经济产出 在通用智能时代： 170019712023 图片参考：https://miracleplus.feishu.cn/file/TGKRbW4yrosqmixCtprcUlAynzg 开启能量和信息融合的新范式 C 人类文明发展程度 = ∑[E+I+ f(E×I)] 改变 文明的累积人类获取利用效应能量的水平 人类生成运用信息的水平 增长型函数 能新 量信息融合创 无限可能性 能量和信息融合创新 •科学技术体系 •产业布局 •社会治理模式 信息安全、经济安全、 文化安全、治理安全 通过建设规模化基础 设施，将边际成本降至足够低，让利于民， 普惠全社会使用 智能普惠 国家安全 中央企业对人工智能基础设施及服务的技术能力和运营能力，是确保国家安全、智能普惠、智能泛在及智能产业高效规模化发展的核心基础 传统基础设施 交通、水、电、通信... 人工智能新型基础设施 算力、数据、平台、模型... 智能基础设施覆盖各行业及全国城乡地域，全面赋能社会生产和人民生活 智能泛在 实践新型举国体制，汇聚优势资源，带动智能产业链和数字经济高效集约发展 智能产业 高效规模化发展 体系化 强运营 多样化 调度 编排 生活 生产 社会治理 可信、泛在、普惠、公平 运营对象 分布式算力（边） 分布式算力（边） 分布式算力（中心） 分布式算力（中心） 统一IP算网底座 OTN/OXC分布式算力（网）OTN/OXC分布式算力（网）OTN/OXC 分布式算力（端） 全光底座 分布式算力（端） 能力 模型 数据 运营内容 安全 调度 编排 全要素全场景 算 网 客服家庭医疗...... 通信工业交通...... 政务司法安防...... 规划 建设 维护 优化 网内生 充分发挥通用人工智能技术的变革性作用，激发内生赋能模式，重塑业务流程、形态、服务模式、价值呈现 X+AIAI+X 在现有行业业务流程中，以智能化技术提升业务成效 语音识别实体词识别...... 以通用人工智能技术重构业务内核，实现全新业务形态与模式 AI+网络AI+产品AI+客服AI+OA 投诉用户 新形态新产品 新模式 客服接听生成工单工单处理 AI赋能 AI内生 大模型 投诉用户 客服接听生成工单工单处理 智算基础设施 充分融通和激发全产业算力、知识、数据价值，打造以通用大模型为基座，共建行业大模型的合作新模式 通信 政务 客服 工业 医疗 司法 分立式小模型创新 体系化大模型协同创新 问诊语音识别医疗中文分词 口罩识别 医疗主题词识别目标检测 医疗文本分类 单任务 行业大模型 病例OCR 文本脱敏 肺部CT影像分析 AI小模型 声纹识别 医疗中文分词医疗近义词分析 通用基础大模型 行业知识行业特色数据 智算基础设施 ………… 7 02中国移动智能服务实践 运营 HAIOS 产业合作新生态 智算引擎 行业大模型 行业大模型 行业大模型 行业大模型 面向国民经济主体的通用基础大模型 入驻通用大模型 开源通用大模型 测评系统 人工智能训推技术服务平台 基础设施 数据汇聚平台 体系化人工智能 大规模智算中心 算力网络 汇聚 运营 建设面向通用智能的“人工智能大平台”，包括大规模智算中心、数据汇聚平台、人工智能模型训推服务平台、面向国民经济主体的通用智能大模型、行业大模型等，基于泛在的算力网络提供开放、高效、安全、可控的社会级智能化服务 供给 生产生活社会治理 中国移动发挥网、算、数一体全要素资源优势，构筑领先的算力网络、智算中心，提供丰富的人工智能数据资源 网： 全球最大的通信网络 算： 算网覆盖广、规模大、时延低 数： 海量高质量数据 4G基站数335.4万 5G基站数170.6万 千兆宽带覆盖住户数3亿 “4+N+31+X”数据中心布局 总算力达到9.4EFLOPS 全国20ms、省域5ms、地市1ms的三级算力时延圈 汇聚高价值数据650PB 打造大数据分布式协同计算平台 中国移动围绕算力网络“三层两域”总体架构，体系化推动算力网络构建和发展 营 运算网运营 服意图感知统一运营能力开放 务 融合统一的运营服务 层TaaS 编 算力并网MaaS 算网大脑 开创算力并网、任务式等新型服务模式 排算网统一编排 管 算网智能化 绿安融数注智的算网大脑 理一体编排泛在调度 算力解构 数字孪生 意图网络算网自智 色全 层数据湖 算网 基础算网管理人工智能引擎 算网底座 深度融合多要素，统一编排、统一调度，实现端到端业务质量保障 基分布式算力（边） 础 分布式算力（边） 算网一体的基础设施 设 分布式算力（端） 分布式算力（中心）分布式算力（中心） 统一IP算网底座 分布式算力（端） 形成通智超多维、云边端多级、 施 层OTN/OXC 分布式算力（网） OTN/OXC 全光底座 分布式算力（网） OTN/OXC 主体多元的一体化算力供给 强化互联技术、深化算力协同、定义新型存储、新增算力原生、升级绿色节能，构建标准统一、技术领先、软硬协同、兼容开放的NICC新型智算中心技术体系 AI开发框架 应用使能 TesnsorFlow PyTorch PaddlePaddle DeepSpeed ... 智算运营 运营管理模块 算力原生 跨架构编译器算力抽象运行时 智算平台ROCmCUDACANN Hypervisor+ 裸金属实例虚拟机实例容器实例 ... 编排调度计量计费算力交易用户界面 智算运维 运维管理模块 开发管理交付管理 IaaS管理模块 虚机容器裸机 存储 网络 平台跨节点分布式训练调度 算效互联 计算网络 存储存储 基础设施 CPUGPU DPU CIM RoCE 文件对象块 内存池 高速互联计算总线 节能 GSE 融合存储全局统一存储 机房配套 液冷高效供电 冷却水系统 行业大模型 能力 + 模型 （MaaS） 客服大模型 政务大模型工业大模型能源大模型 基 础大模 入驻国产基础大模型 型 A I 能 力 领域训推服务 训推技术服务 平台 训练服务 推理服务 智能推荐 算力管理（计算资源池化、异构算力混合调度、性能加速等） 数据清洗 数据标注 单机训练 分布式训练 自动建模 智能交互 模型加速 ...... 城市AI 毕昇·教育 网络智能化 业界开源基础大模型 中国移动基础大模型 测评服务（安全、性能等） 模型部署 云边协同 模型监控 规模化应用830+个 年赋能价值39亿+ 算法能力370个 平台型产品8个 规模化人工智能服务 “九天”人工智能平台汇聚多样化智能算力、深度学习框架，提供大模型训推一体化研发能力和新型MaaS能力 机器视觉 智能语音 自然语言 数据分析 感知智能 预测智能 诊断智能 控制智能 体系化AIOS 泛AI算力 云/网/边/端/…GPU/ASIC/ NPU/CPU/… AI能力大闭环原子化网络原生 业务 4、安全可信（TrustedAI） 可信 可信 可信 体系化人工智能（HolisticAI）是人工智能技术探索发展的方向之一，主要研究对人工智能技术进行体系化重构所需的理论、技术、机制、范式和框架，其主要特征为AI服务大闭环、AI能力原子化重构、网络原生AI及安全可信AI。体系化人工智能依托泛在的网络和AI算力，在开放环境中实现对AI能力进行灵活且高效的配置、调度、训练和部署，以满足日益丰富的数智化业务需求，同时确保AI业务可信可控安全 1、AI能力原子化重构（AtomizedAI） 2、大闭环（BigLoopAI） 3、网络原生（NetworkNativeAI） 通用智能大模型1通用智能大模型2... 数据 视觉类 语音类 语言类 结构化数据 ... 基础设施 物理环境 网络设备 硬件算力 仿真环境 ... 行业智能 智慧政府 智慧工业 智慧教育智慧网络 ... 大闭环 无线覆盖异常检测 基于仿真的天线参数分析 无线覆盖异常根因分析 基于图像的工参异常发现 天线参数决策控制 原子化能力 小模型1 小模型2 小模型3 小模型4 ... ... 行业智能大模型2 行业智能大模型1 算网智脑 智能编排 智能感知 智能分析 智能调度 算网融合服务东数西算 算力交易 全局优化 服务保障 智算服务 算、网、智一体化服务运营 算、网、智一体化调度编排 算网基础设施 入云网络无线接入云间网络移动云AI智算/大模型安全服务能力社会三方算力融合边缘云 “九天揽月” 人工智能产业合作生态 AI芯片厂商11家 头部高校及科研机构超20所 头部AI科技公司超50家 业界主流的AI行业组织超10个 投资的AI公司超20家 中央企业 人工智能协同创新平台 智慧网络国家新一代人工智能开放创新平台 中央企业人工智能协同创新平台 国内骨干AI企业 学术机构 中央企业 行业组织 16 03中国移动九天大模型 •基础大模型：加快构建适用于泛场景的自主可控通用基础大模型，打造国家级通用智能底座 •行业大模型：聚焦供给侧，加快构建行业大模型，加速各行业各领域智能化转型升级，促进我国整体生产力跃升 行业智能化应用 支撑 大模型 测评与运营 性能 评测 安全 评测 数据 评测 语言大模型 视觉大模型 语音大模型 结构化数据大模型 多模态大模型 L1 行业大模型 政府治理 ... 工业生产 ... 民生服务 ...通信 特色 ... L0 基础大模型 客服模型 网络模型 司法模型 医疗模型 工业模型 能源模型 城市模型 政务模型 衍生 基于算力网络运营 强信息集成能力 基础大模型 强理解能力强生成能力 提供基础 任务主导 性 高准确率 持续学习行业规范与知识 符合生产指标 专业数据 高动态自适应复杂系统 云边端可弹性灵活部署 行业大模型 01 中国移动 九天·海算政务大模型 02 中国移动 九天·客服大模型 通用大模型平台层 多模态大模型 大语言模型 视觉大模型 …… “预训练” 通用 大模型算法 人工智能训推技术服务平台 底层服务支撑层 算力调度 数据服务 九天·海算政务大模型以通用大模型为基础，融合政务领域数据进行精调，并引入政务领域约束模型对输出进行限制。现已应用于政务数字人、政务智能客服等多个场景。 行业应用层 智能对话 辅助决策 智能分派 知识搜索 智能审批 知识图谱 慧眼识事 公文助手 “精调”场景化 大模型应用 21 九天·客服大模型面向企业级智能客服场景，基于10086海量客服数据、业务知识和服务经验，精准洞察用户需求，及时自动生成个性化的回复，让每个用户都拥有24小时在线的“专属管家”，极大提升传统人工客服的工作效率。 面向客户 面向客服 面向运营 业务咨询情感关怀 业务办理业务投诉 客户画像话术生成 智能点选智能摘要 知识采编 热点话题挖掘 智能质检 投诉分析 ............ ...... 面向客户服务全场景的行业大模型 10B 57B 100B+ + 服务日志 业务数据 知识库 API 基础大模型数据 24 谢谢