2024百炼成金大金融模型新篇章

百炼成金 大金融模型新篇章 NewChapterofFinancialLLM NewFinanceNewFuture 作者 张翅 阿里云智能集团副总裁新金融行业总经理 简介 张翅先生曾经在蚂蚁金服智能科技团队负责蚂蚁金服科技产品的开放合作，推动内部技术产品化和金融行业数字化转型。从17年开始先后负责了从银行、保险、证券到金融服务等多个重要客户的数字化项目，深耕金融科技、云原生分布式架构、移动平台、大数据、人工智能、区块链等数字金融技术领域。在加入阿里云和蚂蚁金服前，张翅先生先后供职于甲骨文、Pivotal，领导参与了多个重大项目的建设，拥有丰富的企业架构设计、IT战略规划、产品研发及团队管理等专业经验。 FOREWARD 前言 山不让尘，川不辞盈。2024年是互联网进入中国的第30个年头，中国金融行业也走过了金融科技和数字化的10个年头。科技金融这篇大文章正方兴未艾，智能金融随着大模型日新月异发展突然按下了加速键。如果将过去一年大模型的发展比作《三体》中描述的“技术爆炸”，正形象地展现出了AI领域前所未有的快速变革。这种爆炸式增长不仅仅是技术参数的简单膨胀，更是整个技术生态、商业应用以及社会影响层面深刻变化的综合体现。在这个发展过程中，我们看到了如浪潮般涌现的新技术核心要素与传统IT发展规律的交织： ●摩尔定律的延伸与挑战：虽然摩尔定律近年来面临物理极限挑战，但通过创新架构（如GPU、TPU）、分布式计算以及算法优化，让大模型的发展有机会遵循类似的加速发展轨迹，变革性实现计算效率和模型规模的双重跃升。 ●安迪-比尔定律的演变：在大模型场景下，这一规律体现为模型规模和复杂度的增加，不断驱动着对更强大算力和存储的需求，同时也激发了云计算的快速发展，以确保基础设施能跟上AI应用的需求步伐。 今年以来，走遍中华大地拜访过上千家金融机构，我们发现，金融行业并不缺乏大模型应用的场景，但是有限的算力、持续迭代的大模型开源和商业化生态，加之金融行业对数据安全、风险控制、合规性以及精准决策有着极高的要求，使得金融行业的大模型之路进入前所未有的选择陷阱。金融行业正处于数字化转型和采用云原生技术的关键时期，这一过程中，大模型的引入无疑增加了额外的复杂性，但也带来了前所未有的机遇。在过去的一年，大模型加持的金融代码能力、金融多模态能力、金融信息阅读理解能力、金融信息抽取分类加工能力、金融风险管理能力在金融行为学、金融市场与投资学、零售金融、公司金融、财富资管、大健康、大投研等等各个金融数字化领域都有了星星之火一样的尝试。 随着大模型技术的成熟，从基于数据集的开发转向基于大规模预训练模型的应用工程体系，我们可以想象未来大模型通过API化与云原生环境下的金融业务流程与技术架构的深度整合，从而解决一些从前我们不敢想象的融合问题，比如金融模型应用的成本效率与稳定性，金融知识的准确及专业性、金融合格的严谨可解释性等。不仅如此，云原生和大模型融合的新范式，非常需要新的大模型应用平台降低从特定领域到广泛场景到AI应用的门槛。本文取名“百炼成金—大金融模型新篇章”，“百炼”代表反复锤炼、磨砺，达到精熟完美的大模型工具链，“点金”象征着创造价值、实现质变的大模型应用集。百炼必定成金，新质生产力会催生新质劳动力，谨以此文抛砖引玉，希望与业内的各位朋友一同探讨如何积极拥抱并运用大模型技术，以应对和驾驭不断变化的市场环境，实现科技金融持续稳定的提质增效和创新发展，携手开启金融大模型未来新篇章。 张翅 阿里云智能集团副总裁新金融行业总经理 百炼成金｜大金融模型新篇章 RECOMMEND 推荐语 在数字化浪潮中，金融行业正经历着前所未有的变革。《百炼成金-大金融模型新篇章》为我们揭开了AI大模型在金融领域应用的神秘面纱，深入探讨了AI大模型如何成为数字转型时代的重要驱动力，并详细讨论了其在金融领域的具体应用。从智能投顾到风险管理，大模型技术正不断推动金融业务流程的智能化和创新。 《百炼成金-大金融模型新篇章》不仅分析了AI大模型的发展趋势，还深入探讨了金融企业在采纳大模型技术时面临的挑战。作者提出了金融级AI原生的六大要素，包括可靠性、低延时、扩展性、安全性、准确性和开放性，为金融行业AI应用的安全性和有效性提供了重要参考。这些要素对于确保金融行业在利用AI大模型时能够满足行业特有的严格要求至关重要。 报告通过深刻的行业洞察、丰富的案例分析以及前瞻性的技术讨论，为金融企业提供了金融大模型应用的路线图和实践指南。相信无论是金融行业的专业人士，还是对金融科技充满热情的学者和研究者，都能从这个报告中获得深刻的洞见和启发。 曾刚 上海金融与发展实验室主任国家金融与发展实验室副主任 在全球科技巨擘竞逐的“万模大战”中，金融行业逐渐成为大模型技术的重要应用场景。通过持续创新和优化，生成式大模型在金融领域展现出了巨大的潜力和广泛的应用前景。本文从大模型的技术发展趋势和金融行业面临的实际痛点出发，通过翔实的研究、严密的分析、深刻的洞察，定义了金融级AI原生的六大要素，并结合金融业务全流程链条，针对实际落地场景，提供了一系列AI原生应用实施路径建议，在金融行业的数智化发展建设方面，具备良好的启迪和借鉴意义。相信随着大模型技术的不断进步，金融AI应用的广度和深度将进一步拓展，为行业带来全新的发展机遇和变革力量。 肖京 平安集团首席科学家 生成式大模型技术的突破将为产业发展注入新的动能，也为改变未来生活带来了无限的想象空间。金融业是大模型应用的重要战场，金融机构纷纷入局，搭建平台、训练领域模型、探索场景应用。但大模型技术仍在演进过程中，尚未形成成熟的技术解决方案，在产业应用的深度、广度和效果上仍需突破。本文基于对大模型发展趋势的判断，提出了金融级AI原生的宏大蓝图，针对构建蓝图的六大核心要素，结合丰富的金融场景案例，给出了系统性构建金融级AI原生应用的解决方案。这为金融机构规划和实施大模型战略、构建新一代AI平台、建设安全可信的AI原生应用提供了全面性指导，具有重要的参考价值。金融是用户、知识、服务密集型行业，相信云+大数据 +AI大模型的组合一定会为金融业带来生产力质的提升和用户体验质的飞跃。 王磊 太保集团数智研究院院长 百炼成金｜大金融模型新篇章 目录CONTENTS 01大模型发展背景与趋势01 大模型是DT时代标志性产物02 大模型发展的趋势03 02金融企业拥抱大模型面临的挑战08 问题1:“有限算力+持续进化的算力”，双重制约下的算力资源09 问题2:“开源模型VS商业模型”，左右互搏的自建大模型之路10 问题3:“大模型VS越来越大的模型”，模型SIZE的军备竞赛11 问题4:“大模型RAG一天入门VS365天的持续优化”，RAG系统的修行12 问题5:“杀手级通用大模型VS百花齐放专属大模型”，企业级AI应用的价值自证？13 问题6:“大模型广泛应用VS应用安全隐患”，大模型面临的安全挑战14 03金融级AI原生的要素与蓝图15 金融级AI原生的发展16 金融级AI原生的六大要素17 构建金融级AI原生的蓝图30 04金融级AI原生应用实践34 1、应用场景与技术架构选型35 2、AI原生应用实施路径43 05结语46 1 大模型 发展背景与趋势 大模型是DT时代标志性产物 大模型发展的趋势 大模型是DT时代标志性产物 大模型是数字转型（DT）时代的产物，标志着人工智能技术的一次重大突破，尤其是在自然语言处理（NLP）、图像识别、推荐系统等领域。这些大模型，如OpenAI的GPT系列、Meta的Llama、Google的Gemini，基于Transformer架构，通过消化海量数据集进行预训练，获得了对人类语言、图像等数据的深入理解和处理能力。 知识@文字 知识@互联网 知识@大模型 过去五千年，人类的知识被存储在文字中 过去五千年，人类的知识被存储在互联网上 现在，人类的知识体系被构建在大语言模型中 楔形文字/甲骨文 造纸术/印刷术 二十四史/大英百科全书 谷歌/百度 维基百科/知乎脸书/微博 大语言模型GPT/BERT ChatGPT/通义千问通用人工智能(AGI) AI大模型：人类知识存储、传承和使用方式的一次重构 在数字转型时代，大模型为企业提供了前所未有的机遇，使其能够通过高效的数据分析和决策，实现业务流程的智能化、优化客户体验和创新产品服务。从金融行业的智能投顾和欺诈监测，到医疗行业的智能诊断和药物发现，再到零售行业的个性化推荐，大模型的应用正深刻改变着传统行业的运作模式和价值链。 在《全域数据“观”》一书中，我们曾断言：“数据的下一站是智能，数据最终会走向与业务系统的数智融合”，数据消费正在由“人”变成“系统”。未来数据技术将与云原生和智能化全面融合，形成“云数智一体化”服务。云原生技术栈，为企业带来了资源弹性、异构算力、容器和微服务等技术手段，为业务创新和系统建设提供了高效、敏捷以及成本低、可扩展的解决方案；数据中台的兴起，让企业将数据库里“不会说话”的表格，转换成指标、标签、因子、 特征等数据资产形态，并直接用于分析与业务决策。现如今，AI大模型正在以惊人的速度重构各行各业的业务流程与系统产品，一方面云原生为大模型训练与推理提供了资源保障，数据中台为大模型应用提供高质量语料和结构化知识；另一方面在大模型全面“智能涌现”能力的驱动下，将传统偏零散化的数据能力进一步体系化和智能化，加快BI+AI的融合，实现从“洞见”到“决策”，推动企业加速走向“云数智一体化”的终极形态，最终为客户带来更为全新的产品服务体验。 大模型发展的趋势 趋势一：“Cloud+AI”大模型与云的结合日益紧密 在信息技术领域，无疑地，云计算和人工智能（AI）大模型的快速发展正日益成为推动现代社会进步的两大驱动力。特别是在中国和美国，这两种技术不仅诞生并蓬勃发展，还持续引领着全球技术革命的浪潮。随着时间的推移，大模型与云计算的结合日益紧密，这种融合在推动着科技界走向新的里程碑。 首先，观察全球技术发展格局可以发现，中国和美国无疑是云技术和AI大模型诞生与创新的两大中心。这两个国家不仅拥有领先的技术研发实力，还具备广阔的市场应用场景和成熟的产业生态，促进了云计算和AI大模型技术的飞速发展，并在全球范围内形成了巨大的影响力。 进一步而言，大模型的迭代进化主要发生在云端。这是因为云计算提供了高度可扩展的计算资源，使得研究人员和开发者能够在无需自建庞大物理基础设施的情况下，进行模型的训练和部署。云平台上的弹性资源和高效管理工具为大模型的开发和优化提供了理想的环境，极大地加速了AI大模型的迭代周期，使得模型能够更快地进化和优化，更好地适应各种复杂的应用需求。 而且，大模型所遵循的规模定律（ScalingLaw）规模定律正重塑着算力基础设施。随着模型规模的不断扩大，其对计算资源的需求也呈指数级增长，这一现象催生了对更高性能、更高效率算力基础设施的需求。云计算平台通过部署先进的硬件技术、优化计算资源分配和加强 数据处理能力来应对这一需求，进而推动了算力基础设施的快速进化。这种进化不仅满足了当前大模型对算力的高需求，也为未来AI技术的持续创新和应用提供了坚实的支撑。 大模型与云计算的紧密结合，不仅体现在中国和美国这两个技术强国的快速发展上，更在于云端成为大模型迭代进化的主战场，以及大模型对算力基础设施的重新塑形。这种趋势预示着，未来科技的进步将在这样的融合与互动中继续加速，推动人类社会进入一个全新的智能时代。 趋势二：“AIEverywhere” 大模型无处不在，成为企业数字化标配 在当今的数字化时代，大模型技术以其强大的数据处理能力和智能化水平，正逐步成为企业数字化转型的标配。其广泛的应用不仅仅局限于传统的计算中心，更是与小模型、新终端以及数据中台结合，共同构筑起一个多元化部署与互联互通的新生态，极大地深化了对数据资源的挖掘与运用能力。 首先，大模型与小模型的结合体现了模型部署的多元化。大模型因其强大的学习和预