首页 > 其他 > 详细

数据进行归一化为什么这么重要!

时间:2020-11-25 15:14:54      阅读:23      评论:0      收藏:0      [点我收藏+]
技术分享图片
数据进行归一化为什么这么重要!
在喂给机器学习模型的数据中,对数据要进行归一化的处理。
为什么要进行归一化处理,下面从寻找最优解这个角度给出自己的看法。

1例子


假定为预测房价的例子,自变量为面积,房间数两个,因变量为房价。
那么可以得到的公式为:
技术分享图片
其中技术分享图片代表房间数,技术分享图片代表变量技术分享图片前面的系数。
其中技术分享图片代表面积,技术分享图片代表变量技术分享图片前面的系数。
首先我们祭出两张图代表数据是否均一化的最优解寻解过程。
未归一化:
技术分享图片

归一化之后
技术分享图片
为什么会出现上述两个图,并且它们分别代表什么意思。
我们在寻找最优解的过程也就是在使得损失函数值最小的theta1,theta2。
上述两幅图代码的是损失函数的等高线。

我们很容易看出,当数据没有归一化的时候,面积数的范围可以从0~1000,房间数的范围一般为0~10,可以看出面积数的取值范围远大于房间数。

2影响


这样造成的影响就是在画损失函数的时候,
数据没有归一化的表达式,可以为:
技术分享图片
造成图像的等高线为类似椭圆形状,最优解的寻优过程就是像下图所示:
技术分享图片

而数据归一化之后,损失函数的表达式可以表示为:
技术分享图片
其中变量的前面系数几乎一样,则图像的等高线为类似圆形形状,最优解的寻优过程像下图所示:
技术分享图片

从上可以看出,数据归一化后,最优解的寻优过程明显会变得平缓,更容易正确的收敛到最优解。
这也是数据为什么要归一化的一个原因。
技术分享图片

推荐阅读:

入门 | 始于Jupyter Notebooks:一份全面的初学者实用指南
通俗易懂讲解感知机(三)--收敛性证明与对偶形式以及python代码讲解
【机器学习基本理论】详解最大后验概率估计(MAP)的理解
技术分享图片

数据进行归一化为什么这么重要!

原文:https://blog.51cto.com/15009309/2554239

(0)
(0)
   
举报
评论 一句话评论(0
关于我们 - 联系我们 - 留言反馈 - 联系我们:wmxa8@hotmail.com
© 2014 bubuko.com 版权所有
打开技术之扣,分享程序人生!