“见微”系列之一：打开AI黑箱，探索可解释性

请务必阅读正文之后的免责条款部分 守正 出奇 宁静 致远 [Table_Title] 打开AI黑箱，探索可解释性 —— “见微”系列之一 [Table_Summary] [Table_Summary] 报告摘要 可解释人工智能（XAI）能有效改善“准确性VS可解释性”的选择困境。在选择模型时，预测效果一直是首要考量，但同时又会担心模型过于复杂而难以掌控，往往要在准确性和可解释性之间做出抉择。XAI能在不损失准确性的同时，一定程度上提高模型的可解释性，成为改善两难困境的一种重要手段。 XAI可作为独立模块加入到现有的AI系统。XAI存在三种常用的分类方法：按复杂程度分为事前与事后、按解释范围分为全局与局部、按模型相关度分为模型依赖与模型独立。从目前应用的情况来看，“事后&模型独立”的方法可作为独立模块加入到用户现有的AI系统中，颇受工业界的青睐。 XAI的四类常用方法：Permutation Importance、SHAP、Partial Dependence和LIME。Permutation Importance通过打乱特征值顺序来衡量特征重要性；SHAP以合作博弈论为理论基础，衡量特征对预测结果的贡献；Partial Dependence可以观察特征变化对预测结果产生的边际效应；LIME利用白箱代理模型对给定实例附近的样本做局部近似，将白箱的解释结果作为该实例的决策依据。 XAI可应用于多种策略模型。以多因子选股模型为例，XAI从因子重要性、因子预测贡献、因子间交互、因子边际效应等多个视角展现选股模型的特性。 风险提示：对选股模型的结果展示仅用于工具介绍，不构成任何投资建议。XAI相关方法存在一定局限性，不保证对所有场景和模型均得到理想的解释结果。 量化研究报告 证券分析师：徐玉宁 电话：021-58502206-8028 E-MAIL：xuyuning@tpyzq.com 执业资格证书编码：S1190519090003 [Table_Title] [Table_Message] 2019-10-18 量化研究报告 量化研究报告 太平洋证券股份有限公司证券研究报告 量化研究报告 P2 打开AI黑箱，探索可解释性 请务必阅读正文之后的免责条款部分 守正 出奇 宁静 致远 目录 一、引言 .......................................................................................................................................................... 4 二、初探XAI .................................................................................................................................................... 5 （一）、何为XAI ？ .................................................................................................................................................................. 5 （二）、分类框架........................................................................................................................................................................ 5 1、模型依赖与模型独立 ........................................................................................................................................................ 6 2、事前与事后 ....................................................................................................................................................................... 6 3、全局与局部 ....................................................................................................................................................................... 6 （三）、方法梳理........................................................................................................................................................................ 7 三、方法介绍 ................................................................................................................................................... 8 （一）、Permutation Importance ................................................................................................................................................. 8 1、算法介绍 ........................................................................................................................................................................... 8 2、方法特点 ........................................................................................................................................................................... 9 （二）、SHAP .............................................................................................................................................................................. 9 1、算法介绍 ........................................................................................................................................................................... 9 2、方法特点 ......................................................................................................................................................................... 11 （三）、Partial Dependence ....................................................................................................................................................... 11 1、算法介绍 ......................................................................................................................................................................... 11 2、方法特点 ......................................................................................................................................................................... 12 （四）、LIME ............................................................................................................................................................................ 13 1、算法介绍 ......................................................................................................................................................................... 13 2、方法特点 ......................................................................................................................................................................... 14 四、应用案例 ..................................................................................................................................................14 （一）、数据介绍与整体流程 .......................................................