前几天看王垠的一篇文章谈数学与编程,说数学公式之所以难以理解是因为缺乏统一的形式,而且经常有未定义的变量出现。看这本书时也正有此感,所以有时不必要拘泥公式是否前后一致,理解意思要紧。
♣普通最小二乘法ordinary least squares,OLS
?i=β1+β2Xi
ûi=Yi-?i
(加帽表示这是样本回归里用的,?i为估计值,Yi为真实值)
使估计值尽可能接近真实值,使用残差平方和∑ûi2最小的方法,优点如下:
根据β1β2画出的样本回归线有如下性质:
♣经典线性回归模型CLRM(classical linear regression model)的7个假定
♣OLS的精度
♣高斯-马尔可夫定理
在给定CLRM假定下,最小二乘估计量在所有线性无偏估计量中具有最小方差,是最优线性无偏估计量。
无偏:参数β2估计值的期望等于其真值。
原文:http://www.cnblogs.com/arsh/p/5043380.html