银行业生成式人工智能模型验证：于混沌处求可控之道

摘要

生成式人工智能在银行业应用广泛，但其不确定性、复杂性和潜在风险给模型验证带来了挑战。本文提出了一套结构化、可落地的实操方法，涵盖合规与伦理驱动因素、传统验证技术的局限性、监管要求、毕马威生成式人工智能模型验证框架，以及实际应用和适用范围。

核心观点：

• 生成式人工智能的风险与传统模型不同，其风险不仅来自数据和算法，还来自提示词、检索机制和业务运行场景。
• 金融机构需要将生成式人工智能模型验证工作纳入现有风险管理体系，并动态调整验证频率和范围。
• 毕马威生成式人工智能模型验证框架涵盖模型及应用分析、模型与输入质量、落地实施与输出质量、模型缺陷与局限性，以及治理层沟通与审批决策。
• 模型验证结果应服务于业务实操，确定模型应用边界、人工干预规则、设置监控阈值和异常上报机制。

关键数据和研究结论：

• 欧盟、美国、中国香港和国际标准组织均对生成式人工智能模型验证提出了监管要求，强调风险导向型验证、管理第三方和供应商风险、落实可解释性和透明度要求，以及运营韧性和持续监控。
• 毕马威生成式人工智能模型验证框架为金融机构提供了结构化的验证方法，有助于开展适当的模型审批和后续审查，并为受控地使用生成式人工智能模型奠定了基础。
• 生成式人工智能的模型验证不仅仅是一种防御行动，更是一项战略赋能抓手，帮助金融机构在不影响安全性、合规性或机构诚信的情况下持续创新。

三大关键举措：

1. 将生成式人工智能模型验证工作纳入现有风险管理体系。
2. 动态调整验证频率和范围。
3. 确保验证结论能服务于业务实操。