首页 > 移动平台 > 详细

斯坦福大学公开课机器学习: advice for applying machine learning | deciding what to try next(revisited)(针对高偏差、高方差问题的解决方法以及隐藏层数的选择)

时间:2018-01-14 19:26:25      阅读:47      评论:0      收藏:0      [点我收藏+]

标签:ice   简单   pos   .com   img   想要   技术   分割   就是   

针对高偏差、高方差问题的解决方法:

1、解决高方差问题的方案:增大训练样本量、缩小特征量、增大lambda值

2、解决高偏差问题的方案:增大特征量、增加多项式特征(比如x1*x2,x1的平方等等)、减少lambda值

技术分享图片

隐藏层数的选择对于拟合效果的影响:

隐藏层数过少,神经网络简单,参数少,容易出现欠拟合;

隐藏层数过多,神经网络复杂,参数多,容易出现过拟合,同时计算量也庞大。

技术分享图片

事实上,如果经常应用神经网络,特别是大型神经网络的话,会发现越大型的网络性能越好,如果发生了过拟合,可以使用正则化的方法来修正过拟合使用一个大型的神经网络,并使用正则化来修正过拟合问题,通常比使用一个小型的神经网络效果更好。

最后,我们需要确定隐藏层的层数。默认的情况是使用一个隐藏层是比较合理的选择,但是如果你想要选择一个最合适的隐藏层层数,你也可以试试把数据分割为训练集、验证集和测试集,然后试试使用一个隐藏层的神经网络来训练模型。然后试试两个、三个隐藏层,以此类推。然后看看哪个神经网络在交叉验证集上表现得最理想。也就是说你得到了三个神经网络模型,分别有一个、两个、三个隐藏层。然后你对每一个模型,都用交叉验证集数据进行测试,算出三种情况下的交叉验证集误差Jcv,然后选出你认为最好的神经网络结构。

 

斯坦福大学公开课机器学习: advice for applying machine learning | deciding what to try next(revisited)(针对高偏差、高方差问题的解决方法以及隐藏层数的选择)

标签:ice   简单   pos   .com   img   想要   技术   分割   就是   

原文:https://www.cnblogs.com/chenwenyan/p/8283887.html

(0)
(0)
   
举报
评论 一句话评论(0
0条  
登录后才能评论!
© 2014 bubuko.com 版权所有 鲁ICP备09046678号-4
打开技术之扣,分享程序人生!
             

鲁公网安备 37021202000002号