金融工程专题研究：递归神经网络RNN—自适应计算次数（ACT）的RNN增强

请务必阅读正文之后的免责条款部分 全球视野 本土智慧 金融工程研究 Page 1 证券研究报告—深度报告 金融工程 [Table_Title] 金融工程专题研究 数量化投资 2017年08月11日 [Table_BaseInfo] 相关研究报告： 《金融工程专题研究：白马股量化选股模型》 ——2017-05-25 《金融工程专题研究：递归神经网络RNN—长短期记忆细胞（LSTM）的多因子预测》 ——2017-05-24 《金融工程专题研究：单向波动差值择时之五：基于幅度过滤等方式的交易频率改进》 ——2017-05-15 《金融工程专题研究：基于收益动量和成交额反转的行业配臵模型》 ——2017-03-06 《金融工程专题研究：多因子框架下的基金风格分解与报告期检验》 ——2017-02-27 证券分析师：陈镜竹 电话： 0755-82130833-701336 E-MAIL： chenjz@guosen.com.cn 证券投资咨询执业资格证书编码：S0980517070003 证券分析师：黄志文 电话： 0755-82133928 E-MAIL： huangzw @guosen.com.cn 证券投资咨询执业资格证书编码：S0980510120059 独立性声明： 作者保证报告所采用的数据均来自合规渠道，分析逻辑基于本人的职业理解，通过合理判断并得出结论，力求客观、公正，结论不受任何第三方的授意、影响，特此声明。 专题报告 递归神经网络RNN—自适应计算次数（ACT）的RNN增强  递归神经网络RNN RNN不同于传统神经网络的感知机的最大特征就是跟时间挂上钩，即包含了一个循环的网络，就是下一时间的结果不仅受下一时间的输入的影响，也受上一时间输出的影响，进一步地说就是信息具有持久的影响力。人们在看到新的信息的时候产生的看法或者判断，不仅仅是对当前信息的反应，先前的经验、思想的也是参与进去这次信息的推断的。  数据端改进 尝试了不同的数据输入，包括相对收益率标签、特征个数优化、时间步长缩短等方式，相对收益以及特征个数优化具有一定的效果提升，但是中性组合的预测仍然无法与看多组合区分开。  RNN-ACT 从RNN的算法特点上看，随着层数的增加，以tanh作为激活函数的RNN网络会面临梯度消失的问题。ACT则提出了另一个方向的增加深度，即在每一次的学习中，增加同一批数据重复学习的次数，以此提高RNN网络的复杂性。  ACT选股模型 从学习性能上看，对比LSTM的网络结构，准确率的收敛速度有所增加。本次的对照来看，在多因子选股上，我们能够观察到速度的提高，从LSTM在7000次迭代时的收敛提高到ACT的5000次以下的收敛。 从收益上看，多、空以及中性三个类别最终的收益曲线能够显著分开，这是相比LSTM模型提升效果最为明显的部分。  ACT选股模型 组合的平均占比在42%左右，而HS300在最近15个月，涨幅超过30%的比例是33%左右，RNN网络对看多股票的预测相对偏多。同时，对比市场指数在接下来的实际涨跌幅我们发现，神经网络预测的看多股票的比例与市场的实际涨跌幅有一定的关系，组合比例提高对应接下来的市场上涨这一现象的胜率大概在75%左右，市场的趋势对神经网络的结果有较为明显的影响。 请务必阅读正文之后的免责条款部分 全球视野 本土智慧 Page 2 内容目录 深度神经网络与投资................................................................................................................. 4 递归神经网络RNN ................................................................................................................... 4 神经网络原理介绍 ........................................................................................................... 4 递归神经网络RNN简介................................................................................................. 4 LSTM选股模型......................................................................................................................... 5 参数设定 ........................................................................................................................... 6 RNN的增强 ............................................................................................................................... 6 数据端改进 ....................................................................................................................... 6 算法改进 ........................................................................................................................... 8 RNN-ACT .................................................................................................................................. 8 ACT-RNN多因子选股模型.................................................................................................... 12 模型参数 ......................................................................................................................... 12 选股效果 ......................................................................................................................... 12 选股特征分析 ................................................................................................................. 13 结论........................................................................................................................................... 15 国信证券投资评级................................................................................................................... 16 分析师承诺............................................................................................................................... 16 风险提示................................................................................................................................... 16 证券投资咨询业务的说明 ...................................................................................................... 16 请务必阅读正文之后的免责条款部分 全球视野 本土智慧 Page 3 图表目录 图1：递归神经网络及其展开形式 ......................................................................................... 5 图2：LSTM 的隐含层设计 .................................................................................................... 5 图3：ACT-RNN结构 .............................................................................................................. 8 图4：ACT-RNN单步结构 ...................................................................................................... 9 图5：ACT-RNN单步结构步骤1 ........................................................................................... 9 图6：ACT-RNN单步结构步骤2 ......................................................................................... 10 图7：ACT-RNN单步结构步骤3 ......................................................................................... 10 图8：ACT-RNN示意图 ...............................................................