Conjugate gradient, BFGS,L-BFGS很复杂，可以在不明白详细原理的情况下进行应用。
可以使用Octave和matlab的函数库直接进行应用,这些软件里面的build-in libarary已经很好的实现了这些算法。
当要使用其它的语言来实现这些算法时，如c,c++,Java等，要多试几种实现，因为不同的实现方法在性能上相差很大。
machine learning(11) -- classification: advanced optimization
原文：http://www.cnblogs.com/yan2015/p/4808850.html