AI驱动业务创新 云夯实业务基础

AIGC企业创新实践指南手册 参与人员 顾问 徐翊鸣、许华彬 腾讯云 陈亮李想郭有春李增鑫高绍雷程暄王彬刘禹梁绮莹张良郑宗恒王梦娜邵虎石磊王军薛峰陈思薇 腾讯研究院 刘琼李南林家仪 腾讯文档 鄢贤卿TONYTANG张旭黄慕绚熊飞耿赫陈一枭赵秀雯 腾讯会议 吴祖榕刘丹罗君陈志兴翟伟黄申 朱莹刘迪迪刘丽婷郑孙聪（混元大模型团队）张锋（混元大模型团队） 目录/CONTENTS 一、行业发展趋势01 1、趋势一：AI应用处于早期，但有望成为业务创新的助推器02 1.1现状：技术应用仍处于早期市场阶段02 1.2预测：据预测市场鸿沟有望快速跨越02 2、趋势二：技术方案的选择将影响AI应用的效率04 2.1路径一：结合专业领域知识做RAG04 2.2路径二：Agent将成为应用落地的主要方式04 2.3路径三：云计算是夯实基础的重要底座05 二、互联网企业服务实践案例06 1、AI驱动业务创新07 1.1打造新的数字内容生成方式07 1.2开启协同办公领域效率革命12 1.3重塑智能客服及私域运营新形态16 1.4促进企业管理流程智能化迭代21 2、云夯实业务基础27 2.1助力大模型应用落地27 2.2支撑大规模算力平台31 2.3优化弹性算力成本35 2.4云原生加速数字化升级39 三、腾讯云AIGC解决方案全景图47 行业发展趋势 INDUSTRYDEVELOPMENTTRENDS 趋势一 AI应用处于早期，但有望成为业务创新的助推器 1.1现状：技术应用仍处于早期市场阶段 生成式AI技术在B端企业级市场已有诸多探索，但目前的采用者仍主要属于创新者和早期采用者群体，尚未进入规模化推广阶段，应用仍处于初级阶段。 虽然生成式AI已经展现出巨大的潜力，但在实际应用中仍存在一些不成熟的方面。例如，在文本生成领域存在“幻觉”问题，图像生成领域还无法精确控制图片内容，视频生成领域则面临一致性问题，尤其在企业服务应用追求精确性、稳定性的场景下，这些问题无疑限制了生成式AI在企业服务各细分场景的应用发展。 早期市场鸿沟 主流市场 技术爱好者 有远见者 实用主义者 保守主义者 有远见者 创新者2.5% 早期采用者13.5% 早期大众34% 后期大众34% 落后者16% 技术采用生命周期 1.2预测：据预测市场鸿沟有望快速跨越 新技术在早期市场和主流市场之间往往存在着一条巨大的鸿沟，能否顺利跨越这一鸿沟并进入主流市场，赢得实用主义者的支持，将决定一项新技术的成败。虽然生成式AI尚未像云计算、大数据等技术那样完成鸿沟的跨越，但从目前的应用情况来看，其跨越鸿沟势在必行。 从企业级市场来看，根据SAS的全球调研数据显示，全球将生成式AI充分实施到常规流程中的企业占比为11%，但美国和中国的占比分别达到了24%和19%，均超过了鸿沟理论中创新者和早期采用者之和，这表明美国和中国已经显现出跨越鸿沟的迹象。 从个人用户来看，根据德勤的调查，今年亚太地区学生和员工中使用生成式AI的比例达到了11%，预计明年这一比例将升至18%，而未来五年预计将达到35%。这些预测进一步表明，生成式AI有望快速跨越鸿沟，提升渗透率。 将生成式AI充分实施到常规流程中的企业占比 30% 11%11% 11% 2%3% 5% 6% 6% 24% 8% 8% 9% 9% 8% 8% 9% 19% 25% 20% 15% 10% 5% UAE/Saudi... Italy Nordics Benelux Poland Mexico Brazil Spain Australia Canada Japan Germany France UK China US Allrespondents 0% 数据来源：SasGenerativeAI全球研究报告 1.2.1表现一：AI技术为创新提供了必要条件 目前，无论是以ChatGPT为代表的闭源模型，还是以Llama为代表的开源模型，都在以较高的迭代速度完善模型的基础能力。例如，OpenAI的ChatGPT从3.5版本到GPT-4的迭代，在MATHbenchmark上的表现就从34.1%提升到了76.6%。这些能力的提升无疑为企业应用提供了坚实的基础。此外，模型价格的下降也为企业的投入产出比提供了保障。以ChatGPT为例，经过几轮降价后，普通的一次问答的成本已经接近于搜索引擎搜索一次的成本。 不同版本模型在部分Benchmark上的表现 GPT-4o GPT-4 GPT-4T ma1 Lia Liama2 Liama3 ma3 Lia .5 PT-3 100 90 80 G 70.1 60 50 40 30 20 10 Mar-22 Apr-22 May-22 Jun-22 Jul-22 Aug-22 Sep-22 Oct-22 Nov-22 Dec-22 Jan-23 Feb-23 Mar-23 Apr-23 May-23 Jun-23 Jul-23 Aug-23 Sep-23 Oct-23 Nov-23 Dec-23 Jan-24 Feb-24 Mar-24 Apr-24 May-24 Jun-24 Jul-24 0 ChatGPT HumanEval(%) MATH(%) MMLU(%) Liama HumanEval(%) MATH(%) MMLU(%) 数据来源：OpenAI官网、Meta官网、Medium 1.2.2表现二：生成式AI正在融入企业全价值链 伴随着文本、图像、音频、3D、视频等多模态模型的不断成熟，企业对生成式AI的探索已经覆盖了产品研发设计、生产制造、营销和销售、服务运营、供应链管理等各个环节。根据麦肯锡的调研，生成式AI工具最常见的用途是营销和销售、产品服务开发以及服务运营。然而，随着模型能力的提升和企业探索的深入，未来生成式AI将进一步渗透到生产制造、供应链管理等环节。 1.2.3表现三：AI帮助企业实现降本增效 生成式AI在企业中的应用能够释放多方面的价值，但目前提高效率和生产力（占比56%）以及降低成本（占比35%）仍是企业的首选效益目标。然而，随着生成式AI不断融入企业流程，未来在业务创新、战略洞察等方面也将创造更多价值。 企业希望通过生成式AI实现的主要效益 56% 60% 50% 36% 40% 29% 29% 30% 19% 18% 23% 25% 26% 26% 20% 10% 提高效率和生产力 降低成本 提升现有产品和服务技术 促进创新和加速增长 提高开发新系统软件速度和便利性 增加收入 加强客户关系 获取新思路和新洞察 欺诈检测与风险管理 0% 将劳动力从低价值工作转移到高价值工作 数据来源：德勤 更多… 趋势二 技术方案的选择将影响AI应用的效率 2.1路径一：结合专业领域知识做RAG 为了有效的降低幻觉、提高对特定任务的适应性，企业级应用需要结合企业内部私有数据、行业专业知识等做RAG，并利用大模型的能力做知识求解，才能满足企业用户对于生成式内容准确性的要求。RAG方式无需企业用户花费较多的人力和GPU算力针对大模型做微调，只需将相关专业数据存入向量数据库，即可以“外挂硬盘”的方式弥补大模型所缺乏的细分行业场景知识，是企业级AI应用落地的首选技术方案。 企业知识导入 知识块 向量数据 向量写入 数据切割服务 Embedding服务 当前问题 ③问题向量化 ④向量搜索 ①输入问题 基于LangChain的后端应用服务 上文问题 ②提炼问题 ⑤相关知识+问题 ⑥输出答案 企业级LLM （问题提炼） 企业级LLM （知识求解） 返回用户答案 向量数据库 企业服务AI应用RAG流程 2.2路径二：Agent将成为应用落地的主要方式 短期记忆 长期记忆 记忆 反射 自我反思 工具 智能体 规划 思维链 行动 子目标拆解 日历 计算器 代码解释器 搜索 Agent主要是指给大模型叠加了自主记忆、推理、规划和执行能力的可执行应用，可以结合用户实际业务场景自主性的完成相关业务流程。企业级应用覆盖人力资源管理、供应链管理、财务管理等多种复杂的业务场景，Agent的独立思考、任务规划、工具调用等能力可以进一步提升相关业务流程的执行效率和自动化程度。目前看企业级应用市场主要有两类Agent落地方式，一类是Agent平台厂商，提供可自定义workflow的Agent平台，根据不同的业务需求创建不同的Agent智能体。第二类是企业服务应用在自身产品能力上补充Agent能力，提升原有产品的交互式体验及产品使用效率。如金蝶近期推出Cosmic，集感知、思考、行动、智能响应于一体，简化企业管理，提高运营效率。 2.3路径三：云计算是夯实基础的重要底座 2.3.1云原生助力敏捷开发，快速迭代 在快速变化的商业环境中，企业服务应用需要能够迅速适应市场的新需求和新趋势。通过快速迭代，企业可以更快地推出新产品或服务，满足市场的即时需求，从而抓住市场机遇。通过短周期的开发循环和持续集成测试，快速迭代有助于及时发现和解决问题，降低项目风险。 云原生能力逐渐成为企业服务厂商加快应用迭代的关键能力，其主要体现在如下几个方面。 1）微服务架构：采用微服务架构可以将应用拆分为多个独立的服务，每个服务可以独立开发、部署和扩展。这有助于提高开发效率，降低系统的复杂性。 2）容器化能力：利用容器化技术，企业可以快速部署和扩展应用，提高资源的利用率。这有助于降低运维成本，提高迭代速度。 3）持续集成和部署：CI/CD流程可以实现自动化构建、测试和部署，使企业能够更频繁地发布新版本的应用。这有助于缩短发布周期，提高迭代速度。 4）监控和日志分析：实施有效的监控和日志分析策略，可以帮助企业实时了解应用的性能和问题。这样，在出现问题时，团队可以迅速定位并解决问题，减少停机时间。 5）Serverless：企业服务应用被拆解成多个细粒度的函数服务，消除了对传统海量持续在线服务器组件的需求，可以降低开发和运维的复杂性，降低运营成本和业务交付周期。 CRM/SCRM ERP 财务管理 人力资源管理 供应链管理 企业服务应用 在线设计 协同办公 营销工具 企业直播 智能客服 容器化能力 微服务拆分 云原生能力 持续集成/持续部署 Serverless无服务架构 统一监控与日志分析 laaS资源计算存储网络 2.3.2云端高性能算力助力创新，催生大模型产业链 1）云端丰富算力显著提升研发效率 科学研究，尤其是物理、化学、天文学等科研领域，需要处理复杂的数学模型和进行大量的计算，一般高校或者科研机构无法提供匹配的算力资源。同时随着AI技术的不断发展和应用，科研机构对高性能算力的需求将持续增长，云端丰富算力将在科研领域发挥更加重要的作用。通过云端的灵活资源匹配及调度能力，帮助用户在保证安全性的同时，可以提高研发效率和业务流程的运行效率。 2）海量弹性算力助力顶级影视特效制作 随着目前顶级动画及特效电影逐步进入8K分辨率时代，画面的细腻程度不断提升，单帧所包含的元素也逐渐增多，传统IDC已经无法满足顶级影视特效制作需求。通过将本地IDC算力跟云上弹性资源融合进行渲染已经成为目前影视制作的典型最佳实践。 3）高速互联GPU集群催生大模型产业链 大模型的发展对算力基础设施的要求从单卡拓展到了集群层面，这对大规模卡间互联的兼容性、传输效率、时延等指标提出了更高的要求，高速互联GPU集群通过其大带宽、低延迟的技术特点和在大模型产业链中的关键作用，不仅满足了当前大模型训练和推理的需求，还推动了整个大模型产业链的变革和发展。国内头部的大模型服务商之所以能够在非常短的时间内训练出自己的大模型，追赶OpenAI的能力，也得益于云端的GPU集群的强大算力支撑。 互联网企业服务实践案例 INTERNETENTERPRISEPRACTICECASES AI驱动业务创新 打造新的数字内容生成方式 提高效率、激发灵感、拓展新边界 腾讯云