最优化局部极小点的条件（二）

时间：2015-12-28 06:20:06 阅读：192 评论：0 收藏：0 [点我收藏+]

回忆一下关于 $技术分享$ 元实值函数的 $技术分享$ 的求导问题，函数 $技术分享$ 的一阶导数 $技术分享$ 为

$技术分享$

函数 $技术分享$ 的梯度 $技术分享$ 正好是导数 $技术分享$ 的转置，即 $技术分享$ ；函数 $技术分享$ 的二阶导数，也称为hessian矩阵，可表示为：

$技术分享$

对于向量 $技术分享$ , $技术分享$ 和约束集中的某个点 $技术分享$ ，如果存在一个实数 $技术分享$ 使得对于所有 $技术分享$ ， $技术分享$ 仍然在约束集内，即 $技术分享$ ，则称 $技术分享$ 为 $技术分享$ 处的可行方向！

$技术分享$ 为 $技术分享$ 元实值函数 $技术分享$ 在 $技术分享$ 处的可行方向，则函数 $技术分享$ 沿方向 $技术分享$ 的方向导数 $技术分享$ 可表示为

$技术分享$

这也是一个实值函数，如果 $技术分享$ ，那么方向导数 $技术分享$ 表示的是函数 $技术分享$ 的值在 $技术分享$ 处沿方向 $技术分享$ 的增长率。为了计算方向导数，假定 $技术分享$ 和 $技术分享$ 已知，这样 $技术分享$ 就变成了关于 $技术分享$ 的函数，有

$技术分享$

应用链式法则，可得

$技术分享$

由此可见，当 $技术分享$ 是一个单位向量( $技术分享$ )时，函数f的值在 $技术分享$ 处沿方向 $技术分享$ 的增长率可以用内积 $技术分享$ 表示。

一阶必要条件：多元实值函数 $技术分享$ 在约束集 $技术分享$ 上一阶连续可微，即 $技术分享$ ，约束集 $技术分享$ 是 $技术分享$ 的子集。如果 $技术分享$ 是函数 $技术分享$ 在 $技术分享$ 上的局部极小点，则对于 $技术分享$ 处的任意可行方向 $技术分享$ ，都有

$技术分享$

成立。

推论：局部极小点位于约束集内部时的一阶必要条件：多元实值函数 $技术分享$ 在约束集 $技术分享$ 上一阶连续可微，即 $技术分享$ ，约束集 $技术分享$ 是 $技术分享$ 的子集，如果 $技术分享$ 是函数 $技术分享$ 在 $技术分享$ 上的局部极小点，且是 $技术分享$ 的内点，则有

$技术分享$

成立。

局部极小点的二阶必要条件：多元实值函数 $技术分享$ 在约束集 $技术分享$ 上二阶连续可微，即 $技术分享$ ，约束集 $技术分享$ 是 $技术分享$ 的子集，如果 $技术分享$ 是函数 $技术分享$ 在 $技术分享$ 上的局部极小点， $技术分享$ 是 $技术分享$ 处的一个可行方向，且 $技术分享$ ，则有

$技术分享$

其中，H为函数f的hessian矩阵。

推论：局部极小点位于约束集内部时的二阶必要条件：多元实值函数 $技术分享$ 在约束集 $技术分享$ 上二阶连续可微，即 $技术分享$ ，约束集 $技术分享$ 是 $技术分享$ 的子集，如果 $技术分享$ 是函数 $技术分享$ 在 $技术分享$ 上的局部极小点，且是 $技术分享$ 的内点，则有

$技术分享$

hessian矩阵 $技术分享$ 半正定，也就是说，对于所有的向量 $技术分享$ ，都有

$技术分享$

-------------------------------------------------------------------------------

转载请注明出处博客园刺猬的温驯

本文链接 http://www.cnblogs.com/chenying99/p/5081426.html

最优化局部极小点的条件（二）

原文：http://www.cnblogs.com/chenying99/p/5081426.html

踩

(0)

评论一句话评论（0）

分享档案

更多>

2021年09月23日 (328)
2021年09月24日 (313)
2021年09月17日 (191)
2021年09月15日 (369)
2021年09月16日 (411)
2021年09月13日 (439)
2021年09月11日 (398)
2021年09月12日 (393)
2021年09月10日 (160)
2021年09月08日 (222)