LMS算法，即为最小均方差，求的是误差的平方和最小。
利用梯度下降，所谓的梯度下降，本质上就是利用导数的性质来求极值点的位置，导数在这个的附近，一边是大于零，一边又是小于零的，如此而已。。。
而这个里，导数的正负性，是依靠误差的正负来决定的，懒得多说，大致如图：
Adline网络的LMS算法与梯度下降
原文：http://www.cnblogs.com/beigongfengchen/p/5485389.html
