周梁伟-大模型在融合通信中的应用实践

网易云信大模型在融合通信中的应用实践

云信PaaS产品架构

云信提供稳定易用的通信与视频PaaS平台，具备IM即时通讯、音视频通话、直播点播、互动直播等功能，支撑超过百万企业客户。其架构整合了WE-CAN全球实时通信网络、融合通信服务、AI视频处理等能力，并支持LLM（大型语言模型）融合，面向企业开发者提供低门槛、低成本、安全可靠的“通讯场景+LLM”解决方案。

应用场景

云信PaaS+LLM解决方案应用于协同办公、客服、营销、社交等场景，具体包括：

• 客服场景：通过AI数字人客服革新传统客服系统，实现自动化知识库搭建、精准识别提问意图、人工服务提效、人工与AI无缝协同、营销场景再升级等功能。
• 虚拟世界群聊互动：助力文创平台搭建虚拟世界群聊空间，增强用户与原创作者互动，提升平台粘性。
• 社交AI聊天：通过@数字人实现单聊和群聊中的AI互动，精简交互路径，增强会话消息上下文承续。

解决方案和落地模式

云信PaaS+LLM解决方案通过以下方式解决企业开发者面临的挑战：

• 训练难：提供低门槛集成的IM+AI能力的UIKit SDK，支持提示词管理、文档资料自助上传等。
• 选型难：提供深度调研的大模型支撑资源/服务，包括LLaMA、Qwen系列、baichuan、DeepSeek MoE等。
• 找数难：利用云信已发送的2万亿条消息数据进行脱敏精修，为特定场景下的大模型训练提供数据支持。
• 业务融合难：提供本地部署的算力平台和数据存储服务，支持业务数据结构化转置和模型微调训练。

优势亮点

• 丰富的IM行业场景实施经验：云信SDK/API已接入全球180万企业开发者，覆盖终端超224亿，对各行各业场景落地有深刻理解。
• 细分场景的脱敏精修大数据积累：为特定场景下的大模型训练提供有力保证。
• 融合度更高的IM底层能力：提前规划针对AI的IM底层能力融合工作，保证用户最佳体验和企业更低集成研发成本。

优势对比

云信架构通过海量IM数据向量化，解决传统架构中重复消息浪费token成本、无法关联其他用户消息互动等问题，实现场景化应答和用户语料复用沉淀。

交付策略

云信提供业务落地成本控制方案设计、配套SDK及操作台、AI定义和功能拓展培训指导、长期运维辅助和支持等服务，并支持私有化、专属云、公有云等多种部署方式。

研究结论

云信PaaS+LLM解决方案通过整合丰富的IM行业场景实施经验、脱敏精修大数据积累、融合度更高的IM底层能力等优势，为企业开发者提供低成本、高安全、高体验的IM+AI创新探索方案，助力企业在客服、营销、社交等领域实现降本提效、玩法创新和产品革新。