金融工程专题研究：递归神经网络RNN-长短期记忆细胞(LSTM)的多因子预测

请务必阅读正文之后的免责条款部分 全球视野 本土智慧 金融工程研究 Page 1 证券研究报告—深度报告 金融工程 [Table_Title] 金融工程专题研究 数量化投资 2017年05月24日 [Table_BaseInfo] 相关研究报告： 《多因子系列研究报告之一：风险（Beta）指标静态测试》 ——2013-01-28 《金融工程机器学习专题：Adaboost算法下得多因子选股》 ——2016-05-16 《金融工程机器学习专题：SVM算法选股以及Adaboost增强》 ——2016-05-31 《金融工程机器学习专题：基于KMeans聚类的多因子特征检验》 ——2016-11-27 证券分析师：黄志文 电话： 0755-82133928 E-MAIL： huangzw @guosen.com.cn 证券投资咨询执业资格证书编码：S0980510120059 联系人：陈镜竹 电话： 0755-82130833-701336 E-MAIL： chenjz@guosen.com.cn 独立性声明： 作者保证报告所采用的数据均来自合规渠道，分析逻辑基于本人的职业理解，通过合理判断并得出结论，力求客观、公正，结论不受任何第三方的授意、影响，特此声明。 专题报告 递归神经网络RNN—长短期记忆细胞（LSTM）的多因子预测  递归神经网络RNN RNN不同于传统神经网络的感知机的最大特征就是跟时间挂上钩，即包含了一个循环的网络，就是下一时间的结果不仅受下一时间的输入的影响，也受上一时间输出的影响，进一步地说就是信息具有持久的影响力。人们在看到新的信息的时候产生的看法或者判断，不仅仅是对当前信息的反应，先前的经验、思想的也是参与进去这次信息的推断的。  RNN之长短期记忆细胞LSTM LSTM是一种经过精心巧妙设计的RNN网络，尽管LSTM和原始RNN总的来看都会三大层，即输入层、隐含层、输出层。但是LSTM和原始RNN在隐含层设计上有较大的差异，主要是LSTM是在隐含层具备特殊的cell结构。  多因子建模 应用于RNN网络结构中时，与传统的多因子模型有一定的区别： T+1期的收益率仍然是训练的标签（label），因子对应的是样本的特征（feature），个股对应的是一个样本，但是，时间维度，在RNN中，是一个循环的过程，将过去T-n期的因子数据都要纳入T+1期收益率的预测之中。  训练结果 在严格区分了训练集、测试集、样本外数据集之后，我们通过训练能够得到较高准确度的收敛结果，并且在样本外数据回测中，得到显著的超额收益。交叉检验的准确度接近90%，样本外多空收益最近12个月的胜率则超过90%。 请务必阅读正文之后的免责条款部分 全球视野 本土智慧 Page 2 内容目录 深度神经网络与投资................................................................................................................. 4 递归神经网络(RNN)之LSTM ................................................................................................. 4 神经网络原理介绍 ........................................................................................................... 4 递归神经网络RNN简介................................................................................................. 5 长期依赖问题（long term dependencies）................................................................. 6 长短期记忆网络（LSTM）............................................................................................. 7 LSTM结构设计与思想.................................................................................................... 8 LSTM详细实现步骤图解................................................................................................ 8 LSTM的发展.................................................................................................................. 10 多因子建模............................................................................................................................... 11 数据结构 ..........................................................................................................................11 参数设定 ......................................................................................................................... 12 训练结果................................................................................................................................... 13 样本内训练 ..................................................................................................................... 13 样本外检验 ..................................................................................................................... 15 结果分析................................................................................................................................... 18 结论........................................................................................................................................... 20 国信证券投资评级................................................................................................................... 21 分析师承诺............................................................................................................................... 21 风险提示................................................................................................................................... 21 证券投资咨询业务的说明 ...................................................................................................... 21 请务必阅读正文之后的免责条款部分 全球视野 本土智慧 Page 3 图表目录 图1：递归神经网络及其展开形式 ......................................................................................... 5 图2：处理相关信息较近时候的RNN.................................................................................... 6 图3：处理相关信息较远时候的RNN.................................................................................... 6 图4：原始 RNN 的隐含层设计............................................................................................. 7 图5：LSTM 的隐含层设计 .................................................................................................... 7 图6：LSTM 的隐含层设计中图标解释 ................................................................................ 7 图7：LSTM 的单元结构 ........................................................................................................ 8 图8：LSTM 的单元结构之忘记门 ........................................................................................ 9 图9：LSTM 的单元结构之输入门 .............................................................