一、线性回归
1、什么是线性回归？
（1）线性：直线
（2）线性回归：根据已有的数据集拟合出一条直线
（3）用途：回归或者分类，如果y是连续的值，则为回归；如果y是离散的几个值，则为分类；本文只针对分类
（4）线性公式
，设置x0=1，则有
（5）如果利用线性回归进行回归或者分类，只需要估算出θ的值
2、如何估算θ？
（1）需要n个样本，列出具有n个方程的方程组（在样本较少情况下，发生过拟合）
（2）极大似然估计
（3）贝叶斯估计
3、用线性回归进行分类？
4、logistic回归
原文：http://www.cnblogs.com/naonaoling/p/4179227.html