6-2 基于分解的图神经网络可解释性

研报总结

1. 主要内容

该研究主要探讨了深度神经网络（DNN）可解释性的方法，特别是通过分解基方法来解释RNN模型的行为。

2. 关键数据与发现

• RNN解释方法：提出了利用RNN内部神经元贡献度进行解释的方法，通过证据更新和遗忘过程来解释预测结果。

• GRU和LSTM模型：通过可视化展示了不同RNN架构（如GRU、LSTM、BiGRU）的解释效果，如图所示：

  • GRU正向预测（51.6%置信度）
  • LSTM正向预测（96.2%置信度）
  • BiGRU负向预测（62.7%置信度）

• 贡献度计算：通过计算每个词或短语对预测结果的贡献度，展示了层级贡献分析的效果。例如，“Schweiger is talented and terribly charismatic”的不同解释导致情感预测从负面变为正面。

• 评价指标：提出了新的评价指标，如忠实度（faithfulness），用于评估解释算法的准确性。实验结果显示，所提方法在不同RNN模型上的表现优于其他方法。

3. 主要结论

• 可以利用分解基方法来解释RNN模型的预测行为，通过分析内部神经元的贡献度来提供直观的解释。
• 所提出的方法能够更准确地反映不同RNN架构的预测分数，并且具有较高的忠实度。
• 层级贡献分析有助于识别不同级别的贡献，从而提高解释的层次性和准确性。

关键公式与示例

• RNN更新规则：( \alpha_t : ) 部分证据带到时间步 ( t )；( g(x_t) = \alpha_t )：RNN在时间步 ( t ) 获得的证据。
• GRU贡献度计算：替换 ( \alpha_t ) 为GRU更新门向量 ( u_t )。

总结

该研究通过引入分解基方法来解释深度学习模型的行为，特别是在RNN模型中。通过详细分析和可视化，展示了如何精确地解释模型的预测结果，并提供了高忠实度的解释。这种方法不仅提高了模型的透明度，还增强了用户和研究人员的信任。