首页 > 其他 > 详细

机器学习笔记(二)多元线性回归

时间:2019-10-04 17:01:07      阅读:73      评论:0      收藏:0      [点我收藏+]

Multiple Features (多特征量)

1、字符定义:

技术分享图片

 

2、Multivariate Linear Regression (多元线性回归):

技术分享图片

3、代价函数:

技术分享图片

 

4、梯度下降算法:

技术分享图片

 

梯度下降技巧一——Feature Scaling (特征缩放)

1、定义:将每个特征量缩放到-1和1之间。(与之范围接近即可,如0~3,-2~0.5等)

 

2、作用:方便梯度下降时的收敛(轮廓图更接近圆)。

 

3、缩放方法:

(1)直接除以最大值。

(2)Mean Normalization(均值归一化):减去平均值再除以range(即最大值-最小值)

技术分享图片

 

梯度下降技巧二——Learning Rate (学习速率)

技术分享图片

 

A:α=0.1                            B:α=0.01(α较小,收敛速度慢)   C:α=1(α太大,发散)

 

Polynomial Regression (多项式回归)

1、举例:不同次项可以转换为不同的特征值,如面积为特征值x1,面积²为特征值x2,面积³为特征值x3。将多项式回归问题转化为多元线性回归问题。

技术分享图片

 

机器学习笔记(二)多元线性回归

原文:https://www.cnblogs.com/orangecyh/p/11621656.html

(0)
(0)
   
举报
评论 一句话评论(0
关于我们 - 联系我们 - 留言反馈 - 联系我们:wmxa8@hotmail.com
© 2014 bubuko.com 版权所有
打开技术之扣,分享程序人生!