PART 1金融行业AI应用洞察PART 2从0到1,把大模型装进银行PART 3典型的金融行业AI应用场景 金融行业AI应用洞察01 金融行业AI大模型的研发投入显著增加金融机构应根据其资源能力选择不同的大模型应用路径,并需打造多样化的能力要素13•2024年,中国金融行业AI投资规模196.94亿,到2027年将达到415.48亿元,增幅达到111%•是否自主建设、是否构建行业模型、是否模型微调——来源:IDC,2024 AI大模型在金融行业的应用场景正从简单到复杂加速推进构建大模型生态是金融机构落地大模型的主要趋势•从业务边缘到核心,在未来18个月内,支付清算、智能投研、数据分析、资产尽调、资产评估等是金融机构主要的落地场景。•多模态技术、AI智能体、以及通过大小模型协同应用 4 从0到1,把大模型装进银行02 从0到1,构建金融级大模型应用的流程硬件选型弹性架构设计DeepSeek到来之后,我们发现:1.落地大模型应用场景的企业,都是基于自身的明确需求,以小步快跑的方式快速迭代2.由于大模型的迭代频率以超乎想象的速度发生,企业拥抱大模型既不能步子迈得太大,也不能一点不动3.按照以上四步即可实现企业大模型应用从0到1构建,从1到100则需要根据业务场景的复杂程度,考虑模型的领域适配和算力优化 一键部署模型选型提高效率优化决策激发创新知识库构建RAG系统设计 硬件选型弹性架构设计 DeepSeek全系列R1-Distill-Qwen-32BR1-Distill-Qwen-14BR1-Distill-Qwen-1.5BR1-Distill-Llama-70BR1、V3满血版R1-Distill-Qwen-7BR1-Distill-Llama-8B大模型精调数据数据中心自研混元大模型数据构建预置3大类精调数据处理pipeline数据标注CV,大模型相关的标注工具一键部署模型选型 Ti-one生产级大模型精调工具链AI建模部署零代码一键部署大模型,网页问答体验推理效果精调训练:低代码、灵活自定义两种精调模式自由选择调试AI资产管理开源大模型自研行业大模型多种训练工具:具备周期调度能力的可视化建模,低门槛深度学习场景化工具,交互式代码开发工具,专业的通用任务调度工具分布式稳定训练:支持多机多卡大规模训练,故障自动重启续训镜像制作:基于jupyter的高效自定义镜像制作工具训练指标监控:丰富的指标监控及告警,覆盖网络及GPU算力内置训练加速:全新升级Angel训练框架加速能力,性能提升30%精调数据配比训练:内置100+任务类型精调配比数据模型部署 蒸馏后模型多模式精调满血版模型一键精调•256卡H20•全参SFT•8小时•全参+LoRA双模式•低至1卡A10 腾讯云大模型知识引擎:三大应用模式,满足客户多样需求标准模式平台内置最佳实践流程,只需导入文档/问答对,即可达到更稳定和精确的知识问答效果。适用于企业知识服务、产品咨询等严肃问答场景。要稳定选标准模式“RAG模式”知识库构建RAG系统设计 工作流模式Agent模式使用指定的工作流来响应用户所有对话。如果你对应用的执行流程,有更加个性化的需求,可以通过工作流,来拖拉拽各种原子能力,编排你想要的流程。Agent模式由大模型进行任务自主规划和工具调用(function-call),可实现高效应用搭建。适用于有灵活回复或快速搭建需求的服务问答场景。“AI指挥官”“智能生产线”要定制选工作流要创新选Agent!升级 腾讯会议腾讯文档企业微信知识引擎腾讯元器……高性能计算HCC高性能网络星脉智能问答知识管理2.0 典型的金融行业AI应用场景03 金融场景合同智能审核产品智能推荐 合同管理规范导入RAG知识库12(1)合同智能审核 12保险产品介绍设置好提示词(2)产品智能推荐 低幻觉:限定在挂在的知识范畴限定风格:言辞严谨、逻辑清晰等善于倾听:倾听后给出相关的建议 (3)信用卡分期智能工作流 (4)财报智能分析 (5)银行智能尽调 分析数据:具备对资产负债表、利润表、现金流量表的联合分析自动总结:包括但不限于尽调模版的内容,更全面的总结 (6)保险智能陪练AI角色:客户人设:周女士,35岁,医生,有两个孩子,性格强势,对保险意识不强。真人角色:保险业务员画像:人寿保险代理人,刚入职1个月。目标:•说服周女士深入了解健康险产品•详细介绍最新健康险产品的细节•让周女士信任自己新员工培训营销人员培训客服人员培训催收人员培训典型应用场景 智能助手升级1.0快速回答模型:HunyuanT1/DeepSeek-V3-0324适用场景:①高频标准化Q&A②制度性指引③产品信息速查 3.0专业研究模型:专业研究+DeepSeek-R1适用场景:①涉及行业/企业专有名词理解②对比分析、关系分析③报告整理 2.0深度思考模型:DeepSeek-R1适用场景:①复杂问题的破解②经验沉淀的应用 多轮对话语义澄清反问ChatBI升级 多表查询(规划)线性分析(规划) 波动归因 数据解读 行业风险智能感知平台银行AI尽调报告系统企业财务数据自洽性分析 弹性架构设计一键部署模型选型知识库构建RAG系统设计 Thanks