首页 > 其他 > 详细

机器学习(五)--------正则化(Regularization)

时间:2019-04-12 13:57:15      阅读:140      评论:0      收藏:0      [点我收藏+]

过拟合(over-fitting)
技术分享图片
欠拟合 正好 过拟合

技术分享图片

怎么解决
1.丢弃一些不能帮助我们正确预测的特征。可以是手工选择保留哪些特征,或者使用一
些模型选择的算法来帮忙(例如 PCA)
2.正则化。 保留所有的特征,但是减少参数的大小(magnitude)

回归问题的模型是
技术分享图片
是高次项导致了这个问题

我们决定要减少??3和??4的大小,我们要做的便是修改代价函数,在其中??3和??4 设置一点惩罚。

技术分享图片
??又称为正则化参数(Regularization Parameter)。
取一个合理的 ?? 的值,这样才能更好的应用正则化

正则化线性回归
正则化逻辑回归

机器学习(五)--------正则化(Regularization)

原文:https://www.cnblogs.com/tree1123/p/10695564.html

(0)
(0)
   
举报
评论 一句话评论(0
关于我们 - 联系我们 - 留言反馈 - 联系我们:wmxa8@hotmail.com
© 2014 bubuko.com 版权所有
打开技术之扣,分享程序人生!