研报正文总结
报告概述
本报告由 UK Finance 和 Accenture 联合撰写，旨在探讨金融服务业中生成式 AI 的应用机遇与风险管理。报告重点关注近期生成式 AI 的实际应用，分析其风险特征及管理措施，并通过三个案例研究进行说明。
当前生成式 AI 在金融服务业的应用与趋势
- 生成式 AI 已从数据科学研究的细分领域发展成为金融服务业技术革新的焦点。
- 英国金融服务业对生成式 AI 的投资显著增长，预计到 2025 年将占技术支出的 16%。
- 金融服务业普遍采用生成式 AI 解决方案，包括通用型 Copilot、供应商软件、低定制化解决方案和高度定制化系统。
- 许多机构投资于提升员工 AI 素养和建立更广泛的 AI 能力，包括 AI 素养项目和风险管理增强措施。
- 研究表明，生成式 AI 可为英国多个行业带来显著的生产力提升和成本节约。
生成式 AI 解决方案的组成部分
- 生成式 AI 解决方案通常包括业务流程层、应用层、基础大型语言模型 (LLM)、定制化 LLM、技术托管、数据源和存储提示、监控和控制、治理和风险监督等组件。
- 随着第三方服务提供商能力的成熟，企业更容易将生成式 AI 解决方案集成到其技术生态系统中。
生成式 AI 在金融服务业的常见用例
- 金融服务业中常见的生成式 AI 用例包括：客户参与和个性化营销、知识管理和信息检索、软件开发和数据处理、智能工作流程和电子邮件处理、欺诈和金融犯罪、法律、合同和合规文本分析、桌面和会议生产力。
- 大多数用例涉及单代理部署，旨在提高生产力和效率，改善客户和员工体验。
生成式 AI 相关风险概述
- 金融服务业面临着多种生成式 AI 相关风险，包括输出可靠性、数据隐私和安全以及第三方解决方案组件的适当集成。
- 报告重点关注三个关键风险主题：输出可靠性、数据隐私和安全以及第三方考虑因素。
- 为了管理这些风险，许多公司正在加强其 AI 治理和风险框架，包括高层管理人员的所有权和赞助、治理和监督论坛、政策和标准提升、AI 清单、风险评估和流程、以及护栏、控制和监控标准。
监管环境
- 全球范围内，监管机构正在制定针对生成式 AI 的监管框架，例如欧盟的 AI 法和英国的 AI 监管白皮书。
- 英国采用基于原则的监管方法，重点关注持续更新特定行业的监管规定，而不是创建全面的 AI 监管体系。
- 金融服务业正在调整其风险管理流程，以适应新兴的 AI 监管方法，并证明其有效性。
案例研究
- 案例研究一：客户投诉代理
- 该案例研究展示了生成式 AI 如何用于增强客户投诉处理流程，包括生成通话记录、总结调查领域、分析客户提供的文档、起草回复信函以及生成个性化反馈。
- 该解决方案提高了生产力（提高 30-40%），改善了客户和员工体验，但决策权仍掌握在员工手中。
- 案例研究二：了解您的客户 (KYC)
- 该案例研究探讨了生成式 AI 如何用于加速 KYC 流程，包括摄取文档、提取强制 KYC 信息以及将信息填充到输出格式中。
- 该解决方案将处理时间缩短了 90%，同时通过人工质量检查和隐私和安全措施来管理风险。
- 案例研究三：软件开发生命周期 (SDLC)
- 该案例研究展示了生成式 AI 如何用于加速 SDLC 的需求分析和测试阶段，包括生成系统需求、代码转换和测试。
- 该解决方案将 SDLC 阶段的速度提高了 50-60%，同时通过人工审查和第三方风险评估来管理风险。
风险主题和缓解方法
- 输出可靠性
- 生成式 AI 解决方案可能提供不准确、虚构或不适当的输出。
- 为了管理这种风险，公司采用了多种方法，包括人工审查、事实核查、多代理系统和模型微调。
- 数据隐私和安全
- 生成式 AI 解决方案依赖于大型训练集，可能包含未明确提供的敏感数据。
- 为了管理数据隐私和安全风险，公司采用了多种方法，包括隐私增强技术、云控制、安全托管和访问限制。
- 第三方考虑因素
- 大多数生成式 AI 模型和打包解决方案由第三方供应商提供，这带来了供应链风险。
- 为了管理第三方风险，公司采用了多种方法，包括测试环境、供应商评估、部署驱动方法和第三方网关。
结论与展望
- 生成式 AI 在金融服务业的应用已从实验阶段发展到实际部署阶段，为业务流程带来了切实的价值。
- 金融服务业在采用生成式 AI 方面采取了谨慎和负责任的态度，目前主要集中在低风险流程或任务。
- 未来，随着技术的成熟和风险管理的完善，生成式 AI 在更复杂的客户服务和更高风险的内部任务中的应用将更加广泛。
- 为了实现这一目标，公司需要继续投资于数据、数据治理、云和网络安全，并加强员工、董事会和客户的 AI 教育和意识。
- 行业层面的合作对于促进负责任的采用至关重要，监管机构也需要提供更清晰的指导，以帮助公司应对监管不确定性和最佳实践。
