首页 > 其他 > 详细

深度学习基础--反向传播推导

时间:2019-07-19 11:49:15      阅读:95      评论:0      收藏:0      [点我收藏+]

Model

技术分享图片

前向传播

技术分享图片

反向传播

求误差

技术分享图片

求${\theta}^3_{11}$对J的影响

技术分享图片
技术分享图片

求${\theta}^2_{11}$对J的影响

技术分享图片

技术分享图片

误差反传

技术分享图片

技术分享图片
技术分享图片

每一层的残差都由后一层的残差乘以两层之间的权重矩阵,再乘以当前层的激活函数的导数得到。
权重梯度由前面的激活值和后面的残差乘积得到的

参考:
深度学习 — 反向传播(BP)理论推导 - 简书
Backpropagation 算法的推导与直观图解 - 文之 - 博客园

深度学习基础--反向传播推导

原文:https://www.cnblogs.com/lzwhard/p/11211762.html

(0)
(0)
   
举报
评论 一句话评论(0
关于我们 - 联系我们 - 留言反馈 - 联系我们:wmxa8@hotmail.com
© 2014 bubuko.com 版权所有
打开技术之扣,分享程序人生!