首页 > 其他 > 详细

双向、深层循环神经网络

时间:2019-08-30 22:36:29      阅读:69      评论:0      收藏:0      [点我收藏+]
  • 双向RNN可以让某一单元的输出不仅可以考虑之前的信息,也可以考虑后面时间步的信息。前向传播分为从左向右,从右向左两部分,这样,隐藏层神经元会产生两个激活值,均对输出有影响。
  • 对很多NLP问题,双向带有LSTM的RNN用的最多。缺点是必须获取整个序列才能获得输出。
  • 如果要学习复杂的函数,需要将更多层堆叠起来构建更深的模型。a[l]<t>,l表示l层,t表示时间步。
  • 一般在垂直方向三层以后不再水平连接。尽管看起来没有多少循环层,但是需要大量的时间训练。

双向、深层循环神经网络

原文:https://www.cnblogs.com/biwangwang/p/11437158.html

(0)
(0)
   
举报
评论 一句话评论(0
关于我们 - 联系我们 - 留言反馈 - 联系我们:wmxa8@hotmail.com
© 2014 bubuko.com 版权所有
打开技术之扣,分享程序人生!