核心观点
- AI 在金融市场中的应用尚处于早期阶段： 虽然金融业在统计和机器学习方面已有长期应用，但更高级的 AI 技术在金融市场中的应用仍相对较新。计算能力的提升和 AI 的可及性正推动其在金融市场的应用增长，但利益相关者仍需平衡 AI 的创新潜力与引入 AI 的潜在风险。
- 市场面对的 AI 并非完全自主： 当前市场面对的 AI 主要集成于自动化、可扩展且以分析驱动的交易系统中，但这些系统并非完全自主，仍需人类监督和干预。
- AI 应用主要集中在较小模块： 最常见的 AI 应用是作为更大系统中的较小模块，例如评估流动性状况、提供交易场所建议、进行价格预测或生成交易指标等。
- 模型风险是主要关注点： AI 能够实现解决日益复杂的客观函数和任务，其风险主要源于任务的范围和复杂性，而非 AI 技术本身。
- 监控输出比解释内部决策更重要： 随着 AI 模型的复杂性增加，尝试解释其内部决策过程将面临实际限制，因此应更关注监控模型输出，并实施与模型输出风险相称的独立控制。
- 现有控制框架基本适用： 许多风险已通过现有的控制框架（如模型风险管理或实时算法交易控制）得到有效管理，但 AI 应用的规模或新颖性可能会超出特定保护措施，需要及时更新。
- 人类问责制至关重要： 市场面对的 AI 的治理需要明确人类编码员、交易员和管理员对机器行为和决策的责任，这与适用于手动和电子交易流程的问责制框架一致。
- 未来 AI 发展方向： 从长远来看，交易系统可能会利用生成式 AI 或通用人工智能等先进技术，并可能在没有人类监督的情况下达到高度自主。但这种情况及其系统性风险影响或 AI 之间的自主交互，目前在金融市场中尚未成为现实。
关键数据
- AI 技术分类： 研报将 AI 技术分为简单 AI、中等至高级 AI 和生成式 AI（GenAI）三个层次，并重点分析了中等至高级 AI 在交易系统中的应用。
- AI 应用案例： 研报总结了 AI 在交易系统中的三个主要应用类别：支持工具、作为更大交易系统的输入、以及应用于交易系统逻辑元素。
- 潜在系统性风险： 研报列举了市场面对的 AI 系统可能带来的潜在系统性风险，包括同步 AI 驱动的交易行为、AI 系统之间的协调或相关性、共享 AI 基础设施的故障或中断，以及 AI 价值链中的行业集中度增加或新市场参与者的出现。
研究结论
- AI 是交易系统的重要增强工具： 在当前应用中，AI 主要作为现有统计推断技术的增强，通过提供输入和数据洞察来支持交易决策。
- 风险评估需基于具体应用场景： 评估 AI 相关风险时，需要考虑具体应用场景和 AI 在交易系统中的作用，而不是仅仅关注 AI 技术本身。
- 现有控制框架仍具适用性： 许多 AI 风险可以通过现有的模型风险管理和算法交易控制框架得到管理，但需要根据 AI 应用的具体情况进行调整和更新。
- 人类监督和问责制不可或缺： 即使 AI 技术不断发展，人类监督和问责制在市场面对的 AI 应用中仍然至关重要。
- 未来需持续关注 AI 发展： 随着 AI 技术的不断发展，需要持续关注其对模型风险和自动化交易控制的影响，并及时调整风险管理策略。
