MaaS框架与应用研究报告（2024年）

MaaS框架与应用研究报告 （2024年） 中国信息通信研究院人工智能研究所中国人工智能产业发展联盟 2024年6月 版权声明 本报告版权属于中国信息通信研究院、中国人工智能 产业发展联盟，并受法律保护。转载、摘编或利用其它方式使用本报告文字或者观点的，应注明“来源：中国信息通信研究院、中国人工智能产业发展联盟”。违反上述声明者，本院将追究其相关法律责任。 前言 以大模型为代表的新一代人工智能技术迅猛发展，展现出广阔应用前景，有望成为驱动新质生产力发展的重要技术引擎。然而，大模型的应用面临着技术复杂、训练推理成本高、应用开发难度大等挑战。模型即服务（MaaS，ModelasaService），是指将人工智能算法模型以及相关能力进行封装，以服务的形式对用户提供，其核心目标是降低人工智能技术使用门槛，控制应用建设成本，简化系统运维管理复杂度，提升人工智能技术的综合应用效能，从而加速“人工智能+”进程。近年来，随着大模型的快速发展，MaaS服务和产品也进入快速发展期，并在金融、政务、电信等行业不断落地，产生了积极成效。但目前产业界各方就MaaS定义和框架仍未形成广泛共识，模型服务能力也尚未标准化，一定程度制约了MaaS的发展和应用。 本报告系统梳理了MaaS的发展历程、现状和面临的挑战，基于产业实践进一步明确了MaaS的概念，提出了MaaS的功能框架，并对MaaS落地应用情况进行了分析，最后对MaaS发展趋势进行展望。由于大模型和人工智能技术产业仍然处在快速发展阶段，MaaS技术产品、服务和应用也在快速演变，我们对MaaS的认识将随着产业实践不断深化，报告存在的不足之处，恳请大家批评指正，联系邮箱：qijing1@caict.ac.cn。 目录 一、MaaS概述1 （一）MaaS起源与概念1 （二）大模型促使MaaS快速发展2 （三）MaaS助推大模型规模化落地5 二、MaaS发展现状及挑战7 （一）MaaS产业发展现状7 （二）MaaS发展面临的挑战10 三、MaaS框架与能力要求13 （一）MaaS框架说明13 （二）模型平台层14 （三）模型层18 （四）应用开发层20 （五）模型服务协议框架23 四、MaaS应用分析25 （一）MaaS落地条件及优势场景解析25 （二）MaaS行业实践案例及成效剖析28 五、总结与展望36 主要参考文献39 编制说明40 图目录 图1MaaS上下游关系示意图7 图2MaaS产业图谱9 图3MaaS两种落地模式特点对比图10 图4MaaS框架图13 图5MaaS定位与比较示意图14 图6模型平台层能力架构图15 图7零代码微调模型界面示意图17 图8模型层能力架构图18 图9ModelScope模型层实践图20 图10应用开发层能力架构图21 图11AppBuilder架构图23 图12服务协议架构图24 图13MaaS在各行业应用占比26 图14企业价值链各环节生产场景占比图27 图15MaaS应用案例统计图28 图16平安银行BankGPT-MaaS服务平台29 图17平安银行MaaS服务平台落地效果30 图18中国电科院一体化MaaS平台架构31 图19广东移动私域大模型体系32 图20金融风控MaaS34 图21金融风控领域MaaS建模与传统建模效果对比34 图22金融风控大模型与传统定制模型性能对比35 表目录 表1大模型落地问题及MaaS解决方式5 一、MaaS概述 随着以大模型为核心的人工智能技术的深入发展，模型即服务 （MaaS，ModelasaService）作为一种新型人工智能服务模式焕发新生。本章将明确MaaS的概念及主要的服务能力范围，剖析大模型时代MaaS快速发展的必然性，阐述MaaS在解决大模型规模化落地方面的重要意义。 （一）MaaS起源与概念 MaaS基本形态早已形成。2012年美国数据科学家DJ·帕蒂尔 （DJPatil）首次提出MaaS概念1，即“将机器学习算法打包成可重复使用的服务，使企业能够快速地构建、部署和监控模型，无须开发和维护底层基础架构”，以此来适应AI模型需求快速增长的情况。此时MaaS多以AI能力开放平台的形式存在，平台之上承载人脸识别、光学字符识别（OCR）等特定场景的AI能力。该类AI能力由若干个模型及规则、数据库等组合构成，但覆盖功能和场景有限，应用方式较为单一，主要以工具包（SDK）等方式嵌入至业务系统。传统AI模型落地成本低且泛化性不足，MaaS所带来的增益尚不明显。 大模型以其庞大的参数量与独特的模型结构展现了良好性能，推理能力的提高使得模型可以解决复杂逻辑问题，泛化性的提升拓宽了其应用范围，生成能力的增强赋予了模型更多的创造性。然而，模型的高性能对数据和算力的需求也相应增长，成本的增加使得模 型规模化落地存在阻碍。在此背景下，MaaS通过提供服务的方式，显著降低了用户使用大模型的门槛，让业务能够更快速、更有效地享受大模型价值。根据毕马威预测，模型即服务（MaaS）将是AGI生态构建的核心2。因此，MaaS成为大模型落地应用的主要形态，提升模型规模化落地效率。 大模型背景下MaaS概念是指将AI模型及其相关能力打包成可重复使用的服务，使企业能够快速高效地构建、部署、监控、调用模型，无须开发和维护底层基础能力。与早期MaaS概念相比能力范围有所拓展，一方面机器学习算法扩展至包括深度学习、大模型等在内的所有AI模型；另一方面基于模型服务，用户不仅可直接调用服务进行推理，也可基于服务进行AI应用的构建，扩大模型服务的使用范围。 MaaS主要提供三部分服务能力，一是提供包括模型训练、调优和部署等在内的全栈平台型服务，以支持低门槛的模型开发与定制，用户无需关注AI算力、框架和平台即可生产和部署模型；二是提供包括大小模型及公私域数据集的丰富资产库服务，以支持模型和数据集的灵活快速调用，用户无须生产和部署模型即可调用模型和数据集服务；三是提供基于AI模型的应用开发工具服务，以支持快速打造场景化应用，用户无须搭建开发工具即可进行AI应用开发。 （二）大模型促使MaaS快速发展 大模型正驱动着“人工智能+”（AI+）需求的迅猛增长，加快了 AI+在各行业的落地进程，并由局部散点落地向全流程赋能不断迈进，催生了庞大的市场需求。如金融行业，主要应用于营销、客服、风控等场景，有效解决金融领域人力成本高、风险管控滞后等问题，某银行基于AI的智能风控可实现毫秒级别的快速风控，将风险防控准确率提升约2倍；电信行业，主要应用于客户服务、营销推广、网络运维、故障预测等场景，有效解决电信领域用户需求复杂、网络优化难度高等问题，某运营商打造基于网络大模型的网络运维AI助手，使得网络运维准确率达88%以上；政务行业，主要应用于市民咨询、舆情分析等场景，有效解决基层工作强度大、响应速度慢、数据孤岛等问题，某单位利用大模型提升政务工作效率，在接诉即办场景中派单准确率达到87%以上3；除了赋能行业的散点场景外，企业内AI+逐步向全流程赋能迈进，推进全域数智化转型，如某头部互联网企业内部已有超过400个业务及场景接入大模型，其中协作类应用产品全部接入大模型，全面赋能会议、文档、代码等相关日常工作，以AI代码助手为例，已覆盖该企业超50%的研发人员，编码效率提升20%以上4。 然而，随着大模型性能的不断增强和应用需求大规模增长，其技术成本和经济成本也愈加高昂，面临的挑战也愈加复杂。 一是大模型在落地过程中需要海量算力，而企业获取算力门槛高。随着模型参数量变大，大模型训练算力需求以每2个月翻一番 3中国信息通信研究院企业调研访谈 4https://mp.weixin.qq.com/s/EvPpycoG-ystkljz_eu-YA 的速度增长5，模型推理成本也在持续增加。并且大模型训练推理所需的芯片资源有限，进一步加剧了算力获取的难度。 二是大模型较传统AI模型在训练、调优、推理和部署等方面的技术难度均有明显提升。大模型训练调优所需数据的结构更加复杂，对数据集数量和质量的要求更高，并且出现了提示工程、强化学习等新技术，增加了技术壁垒。同时，巨大的算力需求对分布式并行计算加速提出了更高要求，此外大模型用于边端推理时，需对模型进行压缩，并保持足够的模型性能，技术门槛较高。 三是大模型工程化落地时烟囱式建设造成资源浪费。大模型成为当前诸多企业数智化转型的敲门砖，在企业内部往往有多个团队希望将大模型与私有业务数据相结合，调优出适合专属场景的模型，进一步提升业务价值。但从企业整体视角来看，内部场景需求多有重复，而大模型的泛化能力足以应对同类行业场景的不同需求，若仍采用各团队自行维护模型的烟囱式模式，将会导致算力和人力的极大浪费。 四是大模型应用在落地最后一公里时仍存在场景适配难和开发效率不足的挑战。一方面模型应用方具备丰富的行业经验和高质量数据集，但缺乏模型落地相关技术，而模型厂商虽然有相关技术储备但缺乏行业积累，所以场景适配的落地方案存在难度；另一方面，随着企业AI+的全线推进，模型应用的场景需求越来越多，而模型应用的开发难度大且周期长，难以适应业务不断变化的需求。 5https://www.nature.com/articles/s41586-021-04362-w 综上所述，大模型规模化落地面临高性能、高需求、高成本等落地压力和挑战，而MaaS基于高效、便捷、灵活等优势，可成为推动大模型应用落地的重要力量，使得MaaS在大模型时代下的增益效果更为突出。 （三）MaaS助推大模型规模化落地 MaaS主要具备三个显著特性。技术低门槛，有助于将模型普惠更广泛的用户群体；模型可共享，推动行业资源的有效利用和技术进步；应用易适配，使得模型服务能够快速融入业务场景。MaaS围绕模型生产、模型调用、模型应用开发等过程，提供包括平台服务、模型服务、数据集服务、AI应用开发服务在内的全栈服务，并对模型等资产进行统一管理，提升规模化生产效率，培育和打造新质生产力，为各行业带来变革。 表1大模型落地问题及MaaS解决方式 AI应用开发效率低 模型重复开发浪费资 源 大模型技术门槛高 MaaS特性 解决方式 大模型落地问题 在模型训调方面，通过全流程工具、快速找到合适的调优路径，加速模型定制 在模型部署方面，提供部署服务，简化部署上线过程 在模型运营管理方面，通过全生命周期运营监控，增强运营效率 在管理方面，提供可共享的模型服务，减少开发资源浪费，通过统一管理降低风险 在落地方面，基于已有模型的微调，减少模型选择和试错成本 通过AI应用开发工具实现多模型协同，应对企业规模化的复杂场景需求，提高开发效率 技术低门槛 模型可共享 应用易适配 来源：中国信息通信研究院 MaaS通过提供全流程平台工具降低技术门槛。在模型训调方面， 降低了学习新型训练或调优算法的成本，可快速找到合适的调优路径并完成闭环的强化学习通路，新手亦可快速完成专属模型定制；在模型部署及运营管理方面，对于部署上线过程复杂等问题，提供快速部署服务，并匹配全生命周期运营监控工具，降低了模型部署和运维的技术难度。 MaaS通过提供集约化的模型库和数据集，解决重复造轮子的资源浪费问题。在管理方面，当模型从单点试验向规模化落地发展时，模型的量变将引起效率的质变，通过模型共享可减少开发资源的浪费，通过模型等数字资产的统一管理有助于提升风险可控性，资源的高效利用和规范管理将成为企业长远发展的保障；在落地方面，通过直接调用模型服务和数据集，减少了数据处理、选择模型以及模型调优部署的过程，加快了开发进度，快速响应业务需求。 MaaS通过提供模型应用的高效开发能力，适配企业规模化场景需求。模型应用场景众多，但企业内部开发资源有限，MaaS在模型服务的基础上提供面向业务场景的应用开发平台或工具，帮助用户快速构建基于AI模型的应用。如在面临单个模型无法解决复杂业务需求的情况下，提供检索增强生成（RAG）、大小模型协同、插件编排等多种方式以增强模型能力，并以智能体（AIAge