大型语言模型（LLM）行业应用策略及未来展望
摘要
本报告分析了大型语言模型（LLM）在工业应用中规模化采用面临的挑战，并提出了相应的解决方案和发展趋势。报告重点探讨了重新发明通用能力的困境、网络通信性能瓶颈，以及通过工作导向的SLM/LLM基于的AI代理提高生产力。报告还展示了中国移动、NTT DOCOMO和韩国KT在人工智能技术、数据集成、应用工具平台以及各种生成式AI应用方面的战略布局，并展望了未来人工智能技术、数据集成和行业合作的发展方向及建议。
前言
随着AI硬件和软件技术的迅速发展，生成式人工智能模型不断演进，形成各种版本。生成式人工智能代理正迅速渗透到我们的日常生活中。范式转变——转向实用的人工智能代理竞争，与处理和适应大量客户数据密切相关，反映了用户对生成式人工智能的需求。在“人工智能代理时代”，随着AI成为企业及个人日常服务的核心，KT正通过利用人工智能代理这一成功转型方向，致力于提升自身的AI竞争力，以成为一家AICT公司。
行业LLM采用策略
大型语言模型（LLMs）在当前工业应用中展现了广泛而深刻的影响，已成为企业数字化转型的关键工具。LLMs的应用涵盖了从基本知识库集成到全面模型定制及多模型管理等多个层面，形成了一个从低技术门槛到高度定制化的多层次应用系统。企业在采用LLMs时可以根据技术需求和应用场景的不同采取不同的策略，包括整合领域特定的知识库快速部署L0和L1模型，微调L0模型生成适应特定任务的L1模型，以及采用全面的模型开发流程确保模型在复杂应用中的性能和稳定性。
新兴挑战和技术预见
随着以数字智能为特征的第四次工业革命的深入发展，传统行业与AI技术之间的相互融合趋势日益明显，旨在应对大规模采用LLM所面临的新兴挑战。挑战包括垂直重复开发大量通用能力导致的资源浪费，以及网络通信瓶颈效应。未来技术发展的关键方向之一将是应用工具平台的创新，特别是AI代理的定制和开发平台将扮演重要角色。此外，数据治理、云边协作和数据集成也是未来发展的关键领域。
应用工具平台
中国移动的九天大语言模型应用平台和软银（DOCOMO）的大语言模型增值平台均实现了全流程的一站式智能代理应用开发。九天平台具备应用构建、插件集成、模型playground和推理服务等功能，提供从头到尾的一站式生产工具以支持LLM应用。DOCOMO LLM增值平台则提供了多种LLM、AI内容审核、治理、内部和数据、模型、代理等功能。KT的SLM/LLM平台提供从AI基础设施和硬件到多种模型服务应用的所有服务，并管理所有AI产品的安全性。
生成AI应用案例
中国移动的九天家庭宽带综合调整场景智能代理目前已与五家综合调度解决方案提供商对接，覆盖了27个省份的综合调度系统，并预计在今年年底前完成全网部署。以河南省为例，该省拥有9000人的安装维护团队，每日处理约2030张工单，智能派单的比例达到60%，实现了每年省内成本降低和效率提升730万元人民币。NTT DOCOMO则利用LLM分析客户在社交媒体上发布的相关网络质量内容，识别出网络质量较差的区域，并据此改善网络质量。此外，docomo的通信AI能够理解每位用户的具体情况和属性，并将这些信息反映到客户服务中，实现个性化响应。
未来展望及行业建议
面向网络运维的生成式AI将实现从辅助决策到自主决策的转变。面向客户服务的生成式AI将实现更加灵活的对话和个性化响应。未来，基础算法研究需要得到改进，以为智能代理的自主性和推理加速提供坚实的理论基础。最后，我们愿意与行业各方合作，达成对未来更加智能、高效和便捷的愿景共识，并为此制定发展路径，合理定位、有序工作和高效协作，为行业的可持续发展提供强有力的技术支持。
