In the new era of AI driven by large language models, reflections and practices of telecommunication operators

研报总结

摘要

本研报分析了将大型语言模型（LLMs）规模化应用于工业应用所面临的挑战，并提出了相应的解决方案和技术发展趋势。报告重点探讨了重造常见能力轮子的难题、网络通信的性能瓶颈，以及如何利用以工作为导向的SLM/LLM基于人工智能代理提高生产效率。同时，报告展示了贡献的计算服务提供商（CSPs）在人工智能技术、数据集成、应用工具平台方面的战略布局，并分析了各种生成式人工智能应用案例，最后展望了人工智能技术、数据集成和产业协作的未来发展建议。

行业中LLM采用策略

LLMs在工业界的应用可以采取不同的方式，具体取决于技术需求和应用程序的背景：

• 整合特定领域的知识库：快速部署L0和L1模型，适用于需要快速实施而不需要进行密集的模型优化的场景。
• 特定领域定制化：通过上传定制数据集和应用低代码配置对L0模型进行微调，生成适应特定任务的L1模型，适用于需要数据为特定任务定制的场景。
• 综合模型开发流程：包括数据收集、处理、预训练和微调，确保在复杂应用中的模型性能和稳定性，适用于具有更高技术要求和更复杂背景的应用。
• 多模型收敛平台：通过模块化插件和集中式代理构建集成了多个模型的复杂商业系统，促进更广泛的协作应用。

新兴挑战与技术展望

人工智能应用视角

• 挑战：大量通用能力的垂直重复开发导致资源浪费，LLMs缺乏环境感知能力，不具备自主性和主动决策能力。
• 前瞻：推理加速的基本理论创新、从基本算法层面的全流程自主控制，以实现人工智能代理的自主认知、自主进化和自主突破。

数据推动的视角

• 挑战：网络连接数据和云计算基础设施的“瓶颈效应”限制了LLM部署和用户赋权。
• 前瞻：云边协作，实现本地（网络边缘、家庭终端）个性化人工智能代理服务。
• 挑战：缺乏标准化分散数据阻碍了数据驱动AX的起点。
• 前瞻：数据处理治理，包括数据分类、数据标准化和系统化，以及数据分级管理。

应用工具平台

中国移动九天大语言模型应用平台

• 功能：应用构建、插件集成、模型游乐场和推理服务，为LLM应用提供全流程的一站式生产工具。
• 特点：自主规划和可控的手动调度，增强管理私有领域知识库，整合丰富的官方插件，集成各种记忆能力，与第三方应用集成。

DOCOMO LLM 价值增值平台

• 功能：提供多种LLM，支持RAG（检索增强生成），进行人工智能内容审核，建立端到端治理系统。
• 特点：在DOCOMO集团内部得到应用，拥有约7000名每月活跃用户，每月约有100万次调用。

KT SLM/LLM 平台

• 功能：提供多种语言模型，包括KT自主研发的语言模型Mi:dm以及各种基于开源的模型，开发、提供并优化专门领域的人工智能代理。
• 特点：管理所有AI产品的安全性，成为一个全栈AI平台，追求定制化、可靠性及责任、便捷性和效率。

生成式人工智能应用案例

网络运维与维护

• 中国移动：九天宽带安装与维护代理系统，实现高效网络运营，覆盖27个省的综合调度系统，预计将在年底前完成全网推广。
• DOCOMO：基于LLM的媒体分析，提升移动网络质量，每月从X收集与DOCOMO网络质量相关的22,000篇帖子，识别网络质量差的地域。

客户服务

• DOCOMO：通信AI理解每个个体的情况和属性，将信息反映给客户支持，LLM的分类准确率超过75%。
• KT：人工智能顾问助手，利用生成式AI，能够快速学习并分析大量客户数据，以理解个体客户的兴趣、偏好和行为模式，自动生成并向个体客户推荐优化的内容。
• KT：AI智能代理服务，例如Genie TV和Genie Theme，能够自动生成并向个体客户推荐优化的内容，进行以客户为中心的实时营销策略和活动。
• KT：AI垃圾邮件过滤方案，通过利用KT的Mi:dm人工智能模型，减少生产资源，提高之前手动完成的营销任务的效率。

未来展望及行业建议

• 展望：人工智能代理将有效提高工作效率，发展成为为客户提供超个性化体验的客户AI代理、为企业决策提供支持的商务AI代理以及员工AI代理。
• 建议：中国移动、韩国电信和DOCOMO将进一步加强在生成式人工智能代理领域的探索，共同培育一个协作的标准化生态系统，加速智能代理产业高级理论创新和增值集成平台的发展。