计算机-AI+系列之一：券商大模型应用进展几何？

中泰证券研究所专业｜领先｜深度｜诚信 ｜证券研究报告｜ AI+系列之一： 券商大模型应用进展几何？ 2024.02.21 分析师：苏仪 执业证书编号：S0740520060001Email：suyi@zts.com.cn 联系人：王雪晴 Email：wangxq03@zts.com.cn 1 投资建议 金融是GenAI核心垂类赛道，各券商纷纷布局大模型应用。金融行业具备信息、数据、知识、人才密集型的特性，券商有经纪、研究、投行等丰富的业务条线，大模型的应用可以在内部增效，助力员工提升工作效率；也能在交易等场景为业务直接赋能。各券商纷纷投入大模型及相关应用。 当下券商大模型应用多数集中在智能客服、办公助理、代码生成等偏原生AI应用领域，未来将更深层次与业务耦合。多数券商大模型应用都是基于大模型的文字生成能力进行的：智能客服、数字人等应用是基于大模型的问答能力；代码生成应用是基于代码能力进行的；办公助理则是基于问答和知识库能力进行的。未来随着基础模型能力持续提升，大模型也将与券商其他业务深度耦合，提供更多赋能。 长期看AI能力应用是金融企业数字化转型的必然方向，是促进金融业高质量发展的有效方式。大模型将依托其多种能力为金融行业带来原有业务场景的升级，持续丰富业务内涵，提升现有数字化基础的效能与形式体验，促进金融行业高质量发展。 金融数据需要注重隐私性和安全性，自建算力服务器集群或成为券商进行大模型转型的必选项。券商等金融机构拥有高价值的领域数据资产，一方面能够充分训练大模型提升效果，另一方面也面临更多合规和安全问题。我们认为更深层次的大模型应用一定是基于高质量的私域数据开发的，券商可能需要自建算力集群私有化部署来完成。 风险提示：AI进展不及预期带来下游需求不及预期的风险；市场竞争加剧的风险；政策落地不及预期的风险；研究报告中使用的公开资料可能存在信息滞后或更新不及时的风险等。 2 目录 CONTENTSONTE 中泰所 ｜领先｜深度 1 海通证券：推出泛海言道大模型 &数字人应用，赋能研发等场景 泛海言道大模型赋能各业务条线，智能研发功能落地完成 •“泛海言道”综合应用前沿大模型技术，成功落地智能问答、智能研报、智能研发等业务场景，助力金融服务提质升级，为金融行业创新发展注入新动力。 •智能问答：结合互联网检索引擎，汇聚海量知识，为外部客户和内部员工提供即时、高质量的问答服务。 •智能研报：通过样例示范学习能力，深度解读、分析财报数据，生成研报初稿，为研究人员提供专业可靠的写作服务。 •智能研发：嵌入开发环境，快速识别开发人员代码需求，支持多种编程语言，自动生成高质量程序，为开发人员提供高效研发服务。 •数智人2.0：小海能实现近百种不同的交互动作及多角度、多景别的自由切换，化身数智讲解员、数智主持人、智能客服、智能投顾、智能工作助手。数智人2.0能实时跟踪和分析全球金融市场动态，快速精准处理大量复杂的金融数据，为用户提供个性化投资建议和风险评估。 图表：泛海言道智能研发功能 资料来源：海通证券金融科技公众号，中泰证券研究所4 目录 CONTENTSONTE 中泰所 ｜领先｜深度 2 国金证券：LangChain+ChatGLM+知识库构建大模型 选用LangChain架构推出FinGPT，挂载知识库实现分业务精准响应 国金大模型主要着重拓展两方面的AIGC应用：一是以AIGC、大语言模型为核心的交互式问答场景挖掘，二是证券交易风控领域的AIGC算法探索，通过外挂式和嵌入式的模式，与交互式大语言模型接口进行整合。 国金选用LangChain和ChatGLM2构建了国金证券大模型，能够通过知识库检索大模型能够准确回答证券相关的专业问题。通过挂载不同的知识库，可赋能不同的业务场景。LangChain是一种集成自动提示工程的框架，支持多种大模型的接入，可以通过加载本地知识文件、文本切分、构建知识向量库、用户请求向量化及检索匹配、大语言模型响应等步骤完成提示响应。 图表：国金证券大模型对话界面 资料来源：上交所技术服务公众号，中泰证券研究所 图表：知识库与大模型耦合基本原理 资料来源：上交所技术服务公众号，中泰证券研究所 私有化部署aiXcoder代码大模型，获行业落地认可 国金证券智能化方案以aiXcoder代码大模型为核心引擎，结合本身三十年金融行业软件资产沉淀及人工智能生态融合，共同构建了代码大模型的工程化应用框架。自推广以来，智能化开发方案实现开发效率平均提升30%，单元测试覆盖率提升20%。通过私有化部署aiXcoder代码大模型、结合企业领域知识对模型进行个性化训练，打造出用户体验流畅、覆盖多条研发链路的智能化软件开发系统，有效解决了代码质量参差不齐、单元测试覆盖率低、重复编码等开发痛点，大幅提高了开发团队编码整体生产力和创造力。 2023年12月，aiXcoder与国金证券联合申报的“代码大模型在证券行业的应用实践”，作为金融行业智能化软件工程领域应用典范入选“2023人工智能十大先锋应用案例”标杆案例，获得行业认可。 图表：aiXcoder智能代码补全功能 图表：aiXcoder智能代码搜索功能 资料来源：aiXcoder官网，中泰证券研究所 资料来源：aiXcoder官网，中泰证券研究所 7 AI办公助手作为应用切入点，定位中台支持公司数字化转型 国金证券办公场景逐步沉淀AI能力，逐步拓展应用场景，同时也可利用AI办公助手来逐步收集业务部门的需求，为后续大规模应用AIGC做技术准备和AI赋能业务的铺垫。 国金证券建设的AI办公助手采用外部API和内部自研大模型相结合的模式，通用问题可以采用外部API问答，针对内部数据采用本地化服务，可以提升公司员工的办公效率。该助手能够实现角色定制、模型选择、敏感过滤、权限管理等功能。AI助手作为AI中台的核心组成部分，为公司内外提供全方位的AI技术支持和服务。用户可以轻松访问和使用各种AI算法和大语言模型，实现智能化的办公处理和管理，极大地提高公司的办公效率。 图表：国金AI助手对话界面 资料来源：上交所技术服务公众号，中泰证券研究所 目录 CONTENTSONTE 中泰所 ｜领先｜深度 3 银河证券：与百度智能云合作，率先实现衍生品交易AI落地 与百度智能云合作，率先实现大模型在场外衍生品交易应用落地 针对机构业务服务响应滞后、业务运营成本高等问题，银河证券基于百度智能云开元解决方案金融行业应用大模型底座，构建了“百度智能云金融智能场外交易发现平台”，率先实现了大模型在场外衍生品交易场景的应用落地。通过构建端到端的场外衍生品智能交易服务，凭借秒级回复、无遗漏响应等特点，突破业务瓶颈，交易询报价日均业务规模翻倍，客户从询价到下单的转化率也由10%提升至30%. 产品内置了非标准化数据解析模型，能够助力快速展业；可统一管控模型并快速响应新业务；其交易规则问答服务能够提升信息获取效率。 图表：银河证券智能询报价服务 资料来源：金融电子化公众号，中泰证券研究所 图表：百度智能云开元解决方案 资料来源：金融电子化公众号，中泰证券研究所 目录 CONTENTSONTE 中泰所 ｜领先｜深度 4 广发证券：大模型架构完备，打造金钥匙智能犇犇助手落地案例 搭建大模型总体架构，逐步推进应用案例 广发证券大模型的总体架构基于自身业务需求及IT基础设施制定，主要分为应用层、服务层、模型层和基础层。广发证券正逐步建设和完善大模型基础能力并推动场景规模化落地。 广发证券大模型服务涵盖了大模型问答&生成服务（ChatRAG）、代码生成服务（ChatCode）、文生图服务 （ChatImage）和大模型API基础服务（LLM-API），将会逐步推进大模型在智能问答、摘要提取、信息抽取、代码生成等应用场景试点落地。 大模型也将在财富管理、机构交易、投资银行、企业运营等领域展现出强大的应用潜力，实现优化用户体验、降低人力投入、提速增效的目标。 图表：广发证券大模型总体架构 资料来源：广发证券科技金融公众号，中泰证券研究所 图表：大模型催生的新业务价值 资料来源：广发证券科技金融公众号，中泰证券研究所 落地案例：智能客服场景应用，金钥匙智能犇犇助手 广发证券将率先应用于智能客服场景。金钥匙是广发证券内部的员工展业营销平台，其中的聊天模块可用于投顾/客户经理为客户提供问答咨询服务。广发证券信息技术部联合数字平台部，尝试基于大模型和文档向量化等技术，将金钥匙过往积累的问答资料作为大模型的数据集输入，通过设置合理的参数，搭建了金钥匙智能犇犇这套智能问答工具。大模型可以获取服务人员沟通的上下文，并精准返回答案，提升和客户的沟通效率和满意度。 涉及到个股的咨询问答，投顾还可以通过智能犇犇一键生成“个股简报”，快速获取个股相关指标信息作为投资分析依据。此外，服务人员可以对大模型返回的答案进行点赞或点踩操作，将结果反馈给大模型做效果评估并持续优化。 相较于传统的智能客服技术，新服务能够降低知识库整理成本；能够更准确地识别用户意图；以及能够回答非知识库的问题，使得输出的内容更加广泛和全面。 图表：广发证券大模型对话界面 资料来源：广发证券科技金融公众号，中泰证券研究所 图表：广发证券大模型对话界面 资料来源：广发证券科技金融公众号，中泰证券研究所13 目录 CONTENTSONTE 中泰所 ｜领先｜深度 5国泰君安大模型 国泰君安大模型进展情况 国泰君安专业化交易平台和服务品牌“君极”、国泰君安大模型及应用成果“灵犀布道”、基于国产AI芯片的大模型解决方案“国芯证道”。 “君极”全面融合了国泰君安作为行业领先券商的专业能力和技术沉淀，作为业内率先提供一站式、全链路、专业化的公司级交易平台，下设七大特色子系统，既包括专业化交易终端、极速交易柜台、定制化交易链路和极速行情等传统基础设施服务，也包括量化投研平台、算法总线、专业化交易服务平台等行业前沿创新服务。持续打造差异化服务，提升专业化投资客户的综合化服务能力。 “灵犀布道”探索“1”个行业领域大模型在“N”个业务场景的“1+N”落地应用方案，以通用大模型为基石，辅以开源大模型集群的协同，助力各项证券业务在多元化场景中降本增效。对智能投顾、智能投研、智能投行、智能运营、智能风控、智能协作、智能运维等核心业务场景进行全面升级，标志着国泰君安在人工智能大模型技术领域取得了重大进展。 国泰君安与浙江大学计算机创新技术研究院、深擎科技、中昊芯英等机构联合发布“基于国产AI芯片的大模型解决方案‘国芯证道’。方案成功在国产芯片和全栈信创环境下进行完整的金融大模型工程，创新性提出EarlyExit、TokenSkipping、权重共享、低秩分解、注意力优化等多项技术，已在NL2SQL、资讯分析等金融领域应用验证。结果显示，部分国产芯片在处理大规模并行计算、训练和推理任务等方面已接近国际一线品牌性能，同时在自主可控、数据安全、信创改造、成本价格等诸多方面都更具优势。 国泰君安首席信息官俞枫表示，当前国泰君安全面数字化转型已进入到了平台化发展阶段。国泰君安金融科技战略规划的目标愿景为“数智驱动、平台聚能，打造高质量发展新引擎”，即国泰君安继续以数据为核心要素，通过算法加速、智能升级，依托平台化建设，推动公司一体化运营、综合化服务、安全可控的高质量发展。 15 目录 CONTENTSONTE 中泰所 ｜领先｜深度 6申万宏源SWHY-Matrix 推出财富管理平台SWHY-Matrix，打造一站式服务矩阵 申万宏源SWHY-Matrix是申万宏源证券为机构金融客户及专业投资者提供全方位技术业务一体化服务的财富管理平台，包含了极速交易服务、产品募集及运营服务、专业投研服务、金融创新及衍生品。 在财富管理转型及机构金融业务高速增长的大背景下，申万宏源证券作为最早