一直记不住这些算法的推导，所以打算详细点写到博客中以后不记得就翻阅自己的笔记。
泰勒展开式
最初的泰勒展开式，若 
在包含 
的某开区间（a，b）内具有直到n+1阶的导数，则当x∈（a，b）时，有：
令
可得到如下式子：
泰勒展开我的理解就有两个式子。
参考文献：http://baike.baidu.com/link?url=E-D1MzRCjDi8qrlh2Cn64fwtz703bg-h_z2_mOXorti2_3aBKrOUY4-2gHuESowiK8aQSBFE8y0yJeGl4_yOAq
牛顿法
太晚，明天有空继续，贴个参考文献：http://blog.csdn.net/itplus/article/details/21896453
牛顿法|阻尼牛顿法|拟牛顿法|DFP算法|BFGS算法|L-BFGS算法
原文：http://www.cnblogs.com/Key-Ky/p/5641948.html