概述
香港金融管理局（HKMA）与香港网络港管理局（Cyberport）联合发起的GenA.I.沙盒计划旨在推动银行业负责任的GenA.I.创新。首期计划中，10家银行与4家科技公司合作，探索了15个GenA.I.应用案例，涵盖风险管理、反欺诈和客户体验三大领域。
GenA.I.的核心能力与应用
GenA.I.能够生成文本、图像等内容，在银行业具有广泛的应用潜力，包括：
- 自动化客户服务：通过智能聊天机器人和虚拟助手提供24/7服务。
- 个性化产品推荐：根据客户数据提供定制化的产品建议。
- 增强风险评估和欺诈检测：利用大量非结构化数据进行分析。
- 简化后台操作：自动化文档处理和内容准备等重复性任务。
数据策略与准备
GenA.I.解决方案的性能和可靠性取决于其训练或微调的数据。数据准备是开发过程中最耗时但最关键的阶段，需要精心收集、清洗、标记和整理数据，确保其代表性、无偏见且适用于特定任务。
- 数据收集：银行从公开数据集和内部数据中收集数据，并采用手动和自动相结合的方式。
- 数据预处理：包括文本标准化、语义一致性、结构化数据格式化、文档预处理和隐私保护等。
- 数据增强：通过数据扩增技术提高数据多样性，减少模型过拟合。
- 数据质量检查：评估数据质量，处理缺失数据，并确保数据符合统一格式。
- 持续数据更新：建立自动化数据管道，定期更新数据并重新训练模型。
解决方案设计方法
- 模型选择：根据性能、开源或闭源、推理能力、多语言支持等标准选择合适的模型。
- 优化策略：
- 提示工程：通过精心设计输入提示来引导模型生成特定输出。
- 检索增强生成（RAG）：结合检索系统和生成模型，提高响应的准确性和相关性。
- 参数高效微调（PEFT）：使用少量参数高效地微调大型语言模型，例如LoRA和QLoRA。
验证与评估
- 模型验证：通过提示结构验证、超参数验证、基础模型验证和迭代验证等方法确保模型的有效性。
- 模型评估：使用精确度、召回率、F1分数、混淆矩阵等指标评估模型性能，并结合人类反馈进行评估。
挑战与风险
- 幻觉和不准确性：模型可能生成看似合理但事实错误的信息。银行通过提示工程、检索增强生成、混合微调等方法来缓解这一问题。
- 偏见和不公平：训练数据和算法中的偏见可能导致不公平的输出。银行通过数据预处理、结构化提示和偏见评估等方法来减少偏见。
- 安全与隐私：银行实施了治理框架和缓解策略，以应对提示注入、敏感信息泄露、输出处理不当和错误信息等安全风险。同时，通过数据掩码、合成数据生成、数据最小化和访问控制等方法保护用户隐私。
- 可解释性和透明度：银行通过思维链（CoT）和来源引用等方法提高模型的可解释性。
商业成果
GenA.I.沙盒计划取得了显著的商业成果，包括：
- 节省时间：在可疑交易报告、备忘录文档处理等方面节省了30-80%的时间。
- 降低成本：实现了100%的案件分析，并降低了人力成本。
- 提高用户满意度：86%的GenA.I.输出获得了用户好评。
结论
GenA.I.沙盒计划证明了GenA.I.在银行业具有巨大的潜力，能够提升运营效率、改善客户体验、支持风险控制和合规，并保持竞争优势。未来，GenA.I.沙盒计划将继续探索创新应用案例，并深入研究“A.I. vs A.I.”模式，利用A.I.技术本身来管理A.I.带来的风险。
