2025年人工智能技术发展与应用探索演讲

2025-02-26 - 中科闻歌极度近视

DeepSeek模型发展特点：采用专家负载均衡策略、多词预测训练目标，具有极高地训练效率，效果与闭源模型可比。
DeepSeek-R1加速“o1时刻”到来：通过开源复现DeepSeek R1，验证了“有限算力+算法创新”发展模式的有效性。
DeepSeek三大特征：
- 复制OpenAI o1技术思路：通过大规模强化学习训练，逐步增加模型思考时间，实现“Aha moment”的顿悟与反思行为。
- 通过工程优化极致压缩训练成本：采用MoE、MLA、MTP等技术，并优化计算集群和训练框架，显著降低训练成本。
- 定位为OpenAI o1的开源平替：DeepSeek全系列开源模型权重，为国内外开发者提供替代方案，难以被禁用。
DeepSeek-R1的训练过程：分为四个步骤，包括冷启动数据训练、RL方案训练、拒绝采样与SFT训练、组合奖励信号训练。
DeepSeek-R1的不足：通用能力不及V3，语言混用，对few-shot敏感，软件工程能力待提升。
其他开源模型的进展：Sky-T1、STILL-2、STILL-3等模型在性能上接近或达到DeepSeek R1的水平。

金融行业大模型应用类型：数据工具类、领域模型类、决策AI类。
案例分享：
- 某大型金融机构财报解读问答：基于三大报表，实现跨文档长文档分析推理，内容精准溯源和定位。
- 某证券公司智能合规比稿：自动理解报告与底稿内容，逐条对比，发现报告中无依据观点，辅助人工审核。
- 某上市公司财税大模型：打造满足工程化需求的精准、高效、安全的财税大模型，赋能财税部落和自助办税终端系统。
- 银行信贷审核智能体：实现对公初审报告、个贷初审报告自动生成，提高信贷审核精度和效率。
- 某银行金融犯罪智能分析系统：识别、评估和防范各类金融犯罪风险，确保银行资产安全、业务稳定。
- 某大型银行 AI信贷尽调报告：利用大模型三步生成企业信贷尽调报告，降低人工尽调信息收集和处理的时间。
- 基金证券投研智能体：实现对话式问答、素材智能提炼、报告自动生成，提升投研工作效率和质量。
- 港府某机构经济分析报告智能写作系统：辅助经济专家定期分析世界经济政策、指标和事件并撰写成报告。
- 创投基金智能资管平台：实现“募、投、管、退”投资管理，助推投资机构数智化转型，赋能投资生态。