AI及大模型应用场景实践

叶国宇 腾讯云智能高级解决方案架构师 人工智能全球科技竞争激发中国产业新机遇 爆发 人工智能技术在工业制造业的融合渗透 人工智能技术整体正加速向工业、制造业领域渗透： 人工智能技术向各行业落地，工业企业为重要战略方向。工业企业人工智能空间大，场景丰富， 增速40%以上，规模大。企业人工智能人才增长，投资建设项目增多。 面对AI加速发展，技术渗透，人员、项目数量增长带来的相关问题，各主要工业企业，开始规划建设AI中台，提升整体AI治理，有序管理，降本增效。 腾讯混元大模型体系各类模型和模型服务 大模型SaaS服务 大模型定制服务（7B，7B-MoE，13B，70B） 大模型应用APaaS（AI助手/知识引擎） 大模型开发管理平台（Ti） 大模型基础设施服务工具（对象存储/分布式云……） 混元已接入700+腾讯内部业务，实现技术与应用同行 腾讯大模型实现了从基础设施到模型构建的全面布局 生成式人工智能在企业应用的四个方向 人工智能在制造业应用场景塑造 以大模型技术为核心，人工智能成为数字化发展的关键动力 国产大模型应用进入深水区，仍有广泛研究空间 企业存在密集的知识服务场景 基于LLM+RAG框架，做深做透知识服务全链路能力 知识检索 •深入上百个客户的应用场景，亿级行业数据针对性训练 •Embedding模型从512字提升到4k，支持多套检索策略 操作步骤问答 “智能钥匙怎么使用？”“债券增强1902理财产品我持有了190天，赎回手续费是多少？” 表格问答 推理比较 “我想在南山西丽街道组每月每平方60元左右的办公场地，有什么推荐”“标准版和旗舰版差多少钱？” 2.使用向量关键词混合检索策略、表格文字混合检索策略等，提升模型在多场景下的应对能力和鲁棒性 某车企汽车手册智能问答助手 客户诉求 产品示例 汽车功能使用问答和自助排障 车企知识维护成本低通过文档解析和切片，减轻客户的知识整理成本 需要跟传统机器人结合大模型增强，传统机器人无法回答时，大模型对汽车专业词汇精准理解回复 大模型自动提取FAQ对 价值：问答准确率：35%->84% 难点：文档庞大，图文混排复杂 •答案出图率提升：模型出图率0%->70%。（gpt-4出图率20%）•知识构建成本大幅提升83.3%之前人工梳理单个汽车手册形成问答对至少需要30人天工作量，现在用大模型只需要5人天，预计每个手册知识梳理至少节省了25人天工作量，知识构建效率提升83.3%•已有2款车型接入使用，覆盖车主用户数百万 •材料数量庞大：有近50款车型，每款车涉及「使用说明书」「驾驶指南」「保养手册」，合计几百份材料。•手册混排复杂：每份手册一百页至几百页，涉及大量图文组合。•C端问答要求严谨：客户也担心幻觉率影响客服对话体验。 多模态大模型助力工业场景理解智能化升级 在行业多模态大模型落地过程中，基于大模型的专家模型生产与精调思路，腾讯通过L0→L1→L2三个层次，提升新需求支持效率以电网巡检场景为例，一个L1电网大模型优于12个客户小模型，绝缘罩脱落(极小目标)功能经L1迭代出L2专家模型后指标进一步提升 工业AI巡检助力现场智能化管理 生产合规管理 人员管理 产线节拍效率 •单工序时间统计•产线工序效率优化•产线产出数量计数 •人员穿戴合规管理（医疗，电子行业）•危险行为/不规范行为监测•人员穿戴安全装备（危险行业） •人员在岗时间管理•人员行为规范管理 设备监测 厂务安环防管理 设备管理 •通道障碍物提醒•危险区域人员禁入管理•明火/烟雾识别 •设备状态信息•设备运行效率管理•设备维修时长监控 •仪表读数和状态动态监测•电气柜、机柜状态动态监测•设备和管道跑冒滴漏隐患预警 多样的工业AI巡检场景 多样的工业AI巡检场景 施工孔洞防护 顶层作业平台(安全主绳) 顶层作业平台 作业平台厅外安全带挂点 制造业各行业存在大量的质检需求 制造业各行业存在大量的质检需求 基于工业AI平台对系统、算法、指标、人员进行有效管理 Thanks