minimize中各种优化器总结

python科学计算生态栈中的顶级开源库scipy提供了大量的数值优化求解器，尤其以optimize模块最为显著，其提供了统一的数值优化求解器接口minimize()，虽然方便使用，但是也对非数学专业的人员初次使用时带来存选择困难，尤其是十几种方法统一由同一个接口调用，各方法使用限制、优缺点难以把握，此外官方文档在对各求解器参数设置的解释略显晦涩，部分过于简略，甚至有些凌乱，导致使用起来并非得心应手，今天调研阅读现有优秀博客和官方文档，对该接口的各种方法进行总结，方便后续根据需要快速选择所需算法。

注：
jac可选，代表jac有五种选项{callable, 2-point, 3-point, cs, bool},可任选其一。默认为None，即采用有限差分近似计算;2/3-point 或者 cs 采用2点、3点、中心差分近似计算;若为True，则目标函数需返回目标函数值和jac向量；若为callable，则提供jac计算函数。hess 也有五种选项{callable, 2-point, 3-point, cs, HessianUpdateStrategy}，但要注意，只有jac提供计算函数，hess才可以使用差分近似，我想这也是避免因差分二次近似导致数值耗散的缘故

参考链接

https://blog.csdn.net/youcans/article/details/118396836
https://blog.csdn.net/weixin_41645983/article/details/93191580
https://wuli.wiki/online/NelMea.html
https://docs.scipy.org/doc/scipy/reference/tutorial/optimize.html

python Scipy.optimize 模块中优化求解器总结

原文：https://www.cnblogs.com/catnofishing/p/15097025.html