资本市场中的AI：在创新与诚信间寻求平衡

核心观点与结论

市场功能重塑与风险概述

• AI 对交易生命周期的影响：本报告探讨了 AI 如何重塑交易的三个阶段——事前、事中和事后，以及这些应用对资本市场功能完整性的影响。
• 两种极端场景：报告首先描绘了两种极端场景，一种是 AI 带来高效、透明、公平的 utopian 场景，另一种是 AI 导致市场失序、信息操纵、信任崩溃的 dystopian 场景，以此说明 AI 设计和治理选择对市场演变的重要性。
• 系统性风险：报告指出，AI 带来的风险不仅来自单个模型，还来自模型所处的环境，包括数据完整性、模型行为和模型间交互等。
• 关键风险点：
  • 数据污染：恶意行为者可能通过污染数据集或改变标签来操纵模型，或通过操纵模型的数据输入来扭曲预测和输出。
  • 自主代理的扩展风险面：自主代理可能受到外部攻击，包括数据操纵、逻辑劫持和恶意代码运行等。
  • 集中化、模型多样性和共同数据源：AI 驱动的交易能力集中在少数公司，模型和策略缺乏多样性，以及对外部信息源的依赖，都可能引发系统性风险。

交易生命周期中的机会与风险

事前阶段

• 机会：
  • 金融民主化：生成式 AI 工具降低了零售投资者的信息获取门槛，通过整合新闻、社交媒体情绪等数据提供个性化投资建议，促进市场参与。
  • 预测性 AI 增强定价效率：AI 模型整合跨资产信号，预测短期价格走势，提高交易策略的预测能力，增强定价效率。
• 风险：
  • 将生成式 AI 视为投资建议的替代品：生成式 AI 工具存在错误信息、个性化推荐不当等风险，可能导致零售投资者做出错误的投资决策。
  • AI 洗涤：公司可能通过夸大或虚假的 AI 能力声明误导投资者，影响估值和决策。

事中阶段

• 机会：
  • AI 改善执行价格：AI 驱动的路由和调度工具可以降低价格波动，管理信息泄露，改善执行结果。
  • 更好的预测模型增强流动性和市场深度：AI 模型预测短期价格走势和订单流，帮助市场做市商管理风险，降低买卖价差，提高市场流动性。
• 风险：
  • 自学习算法的负面结果：自学习算法可能学习到剥削流动性动机交易者的策略，或通过“规范博弈”产生与模型目标一致但实际损害市场公平的行为。
  • 订单流剥削和市场参与度下降：AI 模型可能学习到利用大额订单的模式，导致大额投资者执行成本上升，可能转向 OTC 市场或暗池，削弱市场深度和流动性。

事后阶段

• 机会：
  • AI 提高数据处理和合规性：AI 可以分析大量数据，检测异常，预测结算问题，自动触发纠正措施，提高合规性和数据质量。
  • 更智能的事后流程：AI 支持更高效的结算和报告流程，减少人工工作量，降低运营风险，提高数据完整性。
• 风险：
  • 不透明的模型：复杂的事后 AI 系统难以解释交易决策的原因，难以检测和停止问题行为，可能导致监管数据污染。

研究结论与政策建议

• 市场完整性取决于人类选择：模型目标、约束、运行环境和数据质量都影响市场完整性，需要持续的人类监督来确保模型符合其预期目的，并防止其处理或传播扭曲的信号。
• 风险来自模型和环境：风险不仅来自单个模型，还来自模型所处的环境，包括系统相互依赖性、共同输入和优化目标等，需要监管和监管体系共同进步，及时有效地应对新兴的系统级风险。
• 行为者保持完全责任：无论技术多么复杂，行为者对其系统的结果都负有完全责任，系统应始终保持可控和合规，并采取措施防止利用模型目标或约束漏洞的行为。
• 政策建议：
  • 建立可信赖的 AI 模型：通过模型验证、安全措施和强有力的数据治理，确保 AI 模型的可靠性和安全性，将透明度和可靠性作为监管优先事项。
  • 监管可信和不信任的 AI 系统混合生态：针对不同治理水平和透明度的 AI 系统，采取不同的监管措施，并重新评估现有资本市场基础设施是否适应自主模型驱动的市场。
  • 解决系统级动态和潜在的反馈循环：了解 AI 模型之间的交互，识别可能产生自我强化反馈循环的条件，并讨论是否需要额外的干预措施来维护市场秩序。