MLOps for Highly Autonomous Networks V1.0
本文档旨在为高度自主网络提供全面的指导方针和需求,重点关注通用机器学习(ML)模型开发和操作,并阐述了MLOps流程、需求、架构和端到端部署以及标准化建议。
核心观点
- MLOps的重要性:随着智能网络应用的规模扩大,MLOps成为解决大规模部署和维护ML模型挑战的关键技术。MLOps通过系统化和自动化的生命周期管理,有效解决ML技术在高度自主网络中可扩展应用的实际问题。
- MLOps流程:MLOps工作流通常包括五个阶段:需求管理、数据工程、模型开发、模型交付和模型操作。通过四个闭环反馈管道(持续训练、持续集成、持续部署和持续监控)自动化ML模型生命周期管理。
- MLOps功能需求:MLOps管理流程主要通过工作流管理功能和配套的15个专用功能实现,支持ML模型的完整生命周期管理。
- MLOps架构:MLOps架构包括模型提供方开发环境、模型运营商开发环境和模型运营商生产环境。
- MLOps部署选项:根据网络元素AI/ML能力,运营商MLOps平台应提供端到端模型管理服务,并可作为网络元素部署在跨域网络管理层、单域网络管理层或网络元素管理层。
- 嵌入式网络元素部署:MLOps服务器、模型构建和集成系统、模型训练系统、模型监控系统和模型部署系统部署在网络元素管理层,模型管理和控制系统以及模型操作系统部署在网络元素中。
- 集成单域部署:MLOps服务器、模型构建和集成系统、模型训练系统、模型监控系统和模型部署系统部署在单域网络管理层,模型管理和控制系统以及模型操作系统部署在单域网络管理层。
- 实时单域部署:在线模型训练系统、模型操作系统和模型管理和控制系统部署在网络元素中,MLOps服务器、模型构建和集成系统、离线模型训练系统、模型监控系统以及模型部署系统部署在单域网络管理层。
- 跨域部署:MLOps服务器、模型构建和集成系统、模型训练系统、模型部署系统和模型管理和控制系统部署在跨域网络管理层的中央节点,模型监控系统分为服务器和代理两部分,模型操作系统可部署在中央节点和边缘节点。
- 标准化建议:
- 通用框架:建议ITU-T启动端到端和跨域通用MLOps框架的总体考虑,扩展现有的DevOps框架,为相关域特定标准化提供指导。
- 移动通信网络:建议3GPP将MLOps和DevOps的生命周期管理合并到端到端ML模型生命周期中,建议O-RAN遵循3GPP为移动通信网络设定的通用框架,并专注于标准化解耦RIC控制器和X应用程序之间的交互。
- 大型模型和生成式AI:建议将大型模型(如大型语言模型)和小型模型(如小型语言模型)及其在生成式AI中的应用纳入标准化工作,促进大型语言模型操作(LLMOps)的集成。
研究结论
MLOps是高度自主网络的关键技术,通过系统化和自动化的生命周期管理,有效解决ML模型大规模部署和维护的挑战。建议ITU-T启动通用MLOps框架的标准化工作,并推动移动通信网络和O-RAN领域的MLOps标准化进程,以促进高度自主网络的快速发展。