定义回归分析是通过规定因变量和自变量来确定变量之间的因果关系，建立回归模型，并根据实测数据来求解模型的各个参数，然后评价回归模型是否能够很好的拟合实测数据；如果能够很好的拟合，则可以根据自变量作进一步预测。
房屋价格例子假如有一些房子，其面积和价格如下所示，所对应的曲线入下图
按照回归的定义，可以通过一挑曲线拟合房价和面积之间的规律，划一条红线，那么之后输入的面积就可以得到相应的房价
预定义为了实现公式和证明，我们有如下预定义：
| m | 表示训练集合个数 |
| x | 输入特征集合 |
| y | 输出目标集合 |
| （x(i),y(i)） | 训练样本 |
| x(i) | 某个特征值 |
| y(i) | 某个目标值 |
| y=h(x) | 拟合函数、回归模型 |
于是线性回归流程可以总结为下图图
三.梯度下降法求回归参数
四.最小二乘法
原文：http://www.cnblogs.com/laodiao/p/3541318.html