2024中国企业AI大模型落地应用现状调研报告

2024中国企业AI大模型应用现状 调研报告 ·AI大模型是真正的生产力革命，还是昙花一现的资本泡沫？ ·已经落地AI大模型的企业，是否感受到清晰的业务价值？ ·大模型的落地场景，有怎样的共性特征？ ·AI大模型落地过程中，探索者正在经历怎样的挑战？ 2024年8月 2024年4-7月，选型宝联合亚马逊云科技发起了“2024中国企业AI大模型应用现状调查” 期待这份140+CIO参与的调研报告，对于探索中的您有所启发！ 01. 调研简介 2024年，AI大模型掀起的技术革命愈演愈烈！ 或许是担心错过下一个浪潮，全球范围内，各行业头部企业纷纷开启了AI大模型的落地探索之旅。与此同时，业界也有一些不同声音，由于AI大模型在生成内容时依然存在”幻觉“等问题，因此担心AI大模型无法提供准确输出，从而无法在企业市场创造价值。 是真正的生产力革命，还是昙花一现的资本泡沫？已经落地AI大模型的企业，是否感受到清晰的业务价值？大模型的落地场景和创造价值的逻辑，有怎样的共性特征？AI大模型落地过程中，探索者正在经历怎样的挑战？ 带着这些问题，2024年4月，选型宝与亚马逊云科技联合发起了“2024中国企业大模型应用现状调查”，过去3个月，我们共发放问卷超过10000份，回收141份有效问卷。经过1个月的数据处理，现在，我们把这份《调研报告》呈现给业界。期待这份调研报告，对于探索中的您有所启发！ 结论1：AI大模型落地总体上仍处在探索孵化阶段，渗透率不足1%，这些企业是市场的“尝鲜者”。结论2：已部署AI大模型的用户中，55%的认为“已看到清晰价值”。 结论3：更多真实案例呈现出来，吸引更多“观望者”入局，成为未来市场破局的关键。结论4：CIO往往优先选择：知识密集+服务对象的重要性高的场景切入。 结论5：降本增效、改善体验、孵化创新是AI大模型创造价值的三种主要模式。 结论6：AI大模型依然存在“幻觉”等问题，落地工程的目标，关键是解决“价值对齐”的问题。结论7：落地过程中，CIO最关心AI大模型在输出内容质量、安全、性能等三方面的表现。 结论8：CIO认为AI大模型落地，主要挑战来自于成本、技术、人才、行业方案等方面。 结论9：“尝鲜者”对AI大模型的投入态度是“积极且谨慎”，即愿意投入但控制规模。 02. 样本概况 调研用户行业分布 其他 21人,14.9% 游戏、媒体娱乐6人,4.3% 制造 38.0% 人,27 医疗保健5人,3.5% 汽车 7人,5.0% 教育 10人,7.1% 零售电商13人,9.2% 软件 24人,17.0% 金融服务17人,12.1% 本次调研共收集到有效问卷141份，主要来自9个行业。其中制造、金融、教育、零售、等行业占比较高。 这些在数字化建设与转型上投入积极的行业，在AI大模型的应用上，也相对更加关注。 调研用户企业规模分布 3000-10000人 12家，8.5% 10000-50000人 10家，7.1% 50000人以上 7家，5% 300人以下 47家，33.3% 从企业人员规模的视角看，本次参与调研用户300人以上企业规模占比超三分之二，也具有相当的代表性。 其中： 300人以上企业占比66.7% 1000-3000人 25家，17.7% 300-1000人 40家，28.4% 1000人以上的企业占比38.2% 3000人以上规模的企业占比20.5% 10000人以上规模的企业占比12.1% 特别鸣谢：部分参与调研的用户名单 公司 职位 姓 名 美的集团 金融科技总监 李明德 中石化集团 业务主管 刘 硕 海澜之家 战略信息中心负责人 华 挺 五矿发展 战略投资部部长 贺宗春 海通期货股份有限公司 IT技术经理 汪盛强 华药集团 信息中心主任 苏国良 哈药集团股份有限公司 信息技术部门经理 滕青蔓 人民银行安庆市分行 开发人员/工程师 程聂松 上海人寿 客户联络中心负责人 唐霄钦 北京燕莎友谊商城 CIO 马爱杰 光大永明 数据分析 赵文坤 德华安顾人寿保险有限公司 IT技术经理 曹国明 珠江投资控股集团 IT技术经理 李 生 施耐德（北京）中压电器有限公司 项目管理 Tony 03. 总体判断 发放问卷10000份，仅回收问卷141份参与调研的141家企业中，35%已部署AI大模型 回收问卷量：141份回收问卷率：1.4% 说明：参与调研的141家企业中 已部署大模型的企业49家，占比34.8% 未部署AI大模型的企业92家，占比65.2% 未部署92家,65.2% 已部署49家,34.8% 参考美国著名学者埃弗雷特·罗杰斯编撰的《创新的扩散》一书中对创新阶段的界定，我们可以看出当前AI大模型落地总体处在早期市场——探索孵化阶段。 49家已部署AI大模型的企业中 55.1%认为已看到清晰价值 排除其中的14家软件企业后 35家已部署AI大模型的传统行业企业中51%认为已看到清晰价值 还在探索22家, 44.9% 已看到清晰业务价值27家, 55.1% 还在探索17家,49% 已看到清晰的业务价值 18家,51% 解读：在已经部署AI大模型的49家企业中，有27家认为“已经清晰的业务价值”，占比超过55%，初步说明AI大模型创造的业务价值是真实的、可感知的。这49家中，包含了14家软件类企业，考虑到他们有可能出于营销的目的，夸大AI大模型对其产品加持后的效果。研究团队将这14家软件公司排除后，进一步分析后，发现35家传统企业中，有18家认为“已看到清晰的业务价值”，占比达到51%，其他49%的企业表示“还在探索”，因此可以得出“AI大模型已经初步让企业用户看到业务价值”的结论。 参与调研但未部署AI大模型的92家企业，他们是否有计划部署？ 完全不看好1家,1.1% 等待同行案例，再尝试 39家,42.4% 有兴趣尝试52家,56.5% 解读： •在尚未部署AI大模型的92家企业中，有52家认为“有兴趣尝试”，占比超过56.5%；有39家打算”等待同行案例，再尝试“，占比达到42.4%。 •“已经部署”的49家加上“有兴趣尝试”的52家，这101家企业属于AI大模型技术的“爱好者”，他们可以在业务价值尚不清晰的情况下，投入部署AI大模型，并开启探索之路，但是他们占比很低，约1%。 •更多企业则需要看到同行业企业“有清晰业务价值的案例”，才有可能扣动扳机，因此下阶段大模型厂商通过真实案例的方式向用户展示价值，将是实现市场破局的 关键。 04. 应用场景 您认为,AI大模型落地应该应用在哪些场景下？在选择落地场景时，CIO有怎样的共性思考逻辑？ 营销场景生成营销内容 25家,17.7% 客服场景 22家,15.6% 企业知识库，服务员工 20家,14.2% 分析场景 16家,11.3% 生产场景，通过图像识别等提高生产效率 10家,7.1% 销售场景 7家,5.0% 运维 6家,4.3% 财务报告撰写 5家,3.5% 风控 3家,2.1% 人力招聘1家,0.7% 首先是聚焦在知识密集的场景：营销内容生成、客服、知识库等场景，这些场景会沉淀大量知识，同时也需要通过输出知识提供服务，更容易发挥AI大模型的能力。 第二是，按服务对象的重要性排序：例如客户（营销及客服）、员工（知识库）、老板（分析场景）这些用户需要的场景优先级相对靠前。 由此可见，尽管AI大模型落地目前仍处在探索阶段，客户对于它带来的业务价值，是有比较急迫的期待的！希望通过AI大模型的落地，快速看到业务价值，而不是简单的“赶时髦”。 选型宝把AI大模型创造价值的模式，总结三种方式：降本增效、改善体验、孵化创新 创造价值的方式 创造价值的逻辑 场景示例 降本增效 手段：把大模型的内容生成能力+自然语言交互特征用在企业内部流程价值：提高员工效率、流程自动化辅助决策、降低用工成本等 降本：用AI大模型的文档生成、图片生成、视频生成，降低用工成本。增效：（1）建立企业知识库，并通过智能助手，回答员工的各种问题，提高效率； （2）自动生成会议纪要、辅助文档处理、数据增强、代码补全等。 流程自动化：通过AIAgent的能力，基于目标自动拆解工作任务，实现流程的简化、自动化执行。辅助决策：辅助预测需求、优化库存策略；分析场景下，辅助数据探索、让业务人员用自然语言使用BI工具的能力等。 改善体验 手段：把大模型的内容生成能力+自然语言交互特征用在企业外部流程价值：提升客户复购率、使用频度、满意度等关键业务指标 交互革命：（1)不间断的提供类似人类的自然语言对话能力；(2)文字、图片、视频等多丰富的内容形态；（3）覆盖售前、售中、售后等多个客户服务触点。个性化服务：根据每个客户、用户、学生、患者的具体情况，提供个性化的服务内容。虚拟陪伴：在情感支持、学习陪伴等场景下，提升自然语言交互能力，优化陪伴体验。 孵化创新 手段：打破瓶颈，增加供给价值：降低创意门槛、提高创新速度，孵化创新 教育行业：突破教师资源瓶颈，通过AI教学助手，在教学、练习、考试全过程与学生完成互动，更接近“因材施教”的教育目标。电商、营销场景：通过大模型文生图、文生视频的能力，极大的降低了创新的门槛，丰富了内容供给，普通人也可以通过AI，把创意变成内容。医药行业：通过生成式AI，可以极大的提高药物分子筛选的效率，提升药物创新的可能性。 05. 落地路径 1..AI大模型生产内容的存在的问题 AI大模型的落地路径 2..AI大模型产生效果的3H原则——AI大模型落地的目标 3..AI大模型落地路径 AI大模型生成内容的原理是：基于注意力机制，通过词与词的关联度，基于概率选择，而非真理解知识。因此大模型生成内容时，可能会存在以下问题： 1.幻觉：指大模型的输出有时缺乏精确性，给出看似深入但实际上是浅显的答案，甚至“一本正经的胡说八道”。 2.专业性不强：大模型预训练的涉及行业及企业知识不多，因此无法给出专业性的答案，导致”无用“，无法解决企业用户的问题。 3.知识毒性：大模型可能从数据中学习到有害、偏见、歧视性、伦理问题的内容，从而产生”毒性知识“。 4.一致性：指大模型在针对相同问题，在不同时间、不同环境下，输出结果不稳定、不一致。 AI大模型落地的关键：是针对大模型生产内容时可能出现的幻觉、专业性不强等问题，采取各种技术手段，对大模型进行“培育”，让大模型生产的内容，产生业务价值，即实现“价值对齐”。大模型产生效果，应该遵循“3H原则”： 3H Helpful:内容有帮助、可用Harmless:内容合规、无害处Honest:内容准确，无幻觉 为了让大模型输出的内容产生价值，企业需要对大模型进行适配，一共有4条技术路径，技术难度从易到难分别为：提示词工程、搜索增强、精调、预训练 提示词工程：通过针对性的设计提示词，来引导大模型产生特定场景所需的输出。 培育路径 搜索增强（RAG)：通是指在不改变大模型参数的基础上，通过外挂企业自身知识库的方式，把自身数据切片、向量化，为模型提供特定领域的数据信息，实现更准确的信息检索和生成。 模型精调（或微调）：通是指在已经训练好的大模型的基础上，通过特定数据集，进一步调整大模型部分参数，将行业知识内化为模型参数，使模型更好的适应业务场景，准确高效的完成特定任务。 预训练：全面调整或者从头构建大模型，适用于通用大模型缺乏目标任务所缺的相关知识和能力。 技术难度逐渐加大、资源投入逐渐提高、模型能力逐渐提升 提示词工程PromptEngineering 检索增强生成RAG 模型微调Fine-tuning 预训练 优化思路 通过设计提示词优化大模型输出 通过外挂企业知识库，优化大模型输出 通过行业知识内化为部分参数，优化大模型输出 全面调整或者从头构建大模型 是否需要调整模型参数 不要 不需要 需要 需要 代表技术 •零样本提升Zero-shot•少样本提升Few-shot•思维链提示