运筹学:约束极值问题
g j (X ) 0
(7-5)
均有
g j ( X (0) )T D 0,
jJ
Hale Waihona Puke 其中J为这个点所有起作用约束下标的集合。 另一方面,由泰勒公式
g j ( X (0) λD) g j ( X (0) ) λg j ( X (0) )T D o(λ)
对所有起作用约束,当λ>0足够小时,只要
jJ
第1节 最优性条件
1.2 库恩-塔克条件 假定X*是非线性规划(7-3)式的极小点,该点可能位于可行域的内部,也 可能处于可行域的边界上。若为前者,这事实上是个无约束问题,X*必 满足条件
f (X *) 0
若为后者,情况就复杂得多了。
下面讨论当极小点位于可行域边界的情形。
第1节 最优性条件
不是处于由这一约束条件形成的可行域边界上,因而这一约束对 X (0) 点的微小摄动不起限制作用,从而称这个约束条件是 X
(0) (0) 点的不起作用约束(或无效约束);其二是 g j ( X ) 0 ,这时X
(0)
点处于该约束条件形成的可行域边界上,它对 X (0) 的摄动起到了某种限制作用,故称这个约束是 X (0) 点的起作用约束(有效约束)。 显而易见,等式约束对所有可行点来说都是起作用约束。
不失一般性,设X*位于第一个约束条件形成的可行域边界上,即第 一个约束条件是X*点的起作用约束( g1 ( X * ) 0 )。若X*是极小点,则
g1 ( X * ) 0必与 f ( X * ) 在一条直线上且方向相反。
否则,在该点就一定存在可行下降方向(图7-2中的X*点为极小点;X点不满 足上述要求,它不是极小点,角度β表示了该点可行下降方向的范围)。 上面的论述说明,在上述条件下,存在实数 1 0 ,使
g j ( X (0) )T D 0, j J
(7-6) 图7-1
就有
g j ( X (0) λD) 0, j J
此外,对X(0)点的不起作用约束,由约束函数的连续性,当λ>0足够小时亦有 上式成立。从而,只要方向D满足(7-6)式,即可保证它是X(0)点的可行方向。
第1节 最优性条件
1.1 起作用约束和可行下降方向的概念 现考虑上述一般非线性规划,假定f(X)、hi(X)和g j ( X )(i 1, 2,,m; j 1,2,,l ) 具有一阶连续偏导数。 是非线性规划的一个可行解。现考虑某一不等式约束条件 设 X (0)
g j (X ) 0
X (0)满足它有两种可能:其一为 g j ( X ) ,这时,点 0 X (0)
约束极值问题
第1节
最优性条件 第2节 二次规划 第3节 可行方向法 第4节 制约函数法
第1节 最优性条件
大多数极值问题其变量的取值都会受到一定限制,这种限制由约束 条件来体现。带有约束条件的极值问题称为约束极值问题。非线性 规划的一般形式为
min f ( X ) hi ( X ) 0, i 1, 2, , m g j ( X ) 0, j 1, 2, , l
(7-1)
或
min f ( X ) g j ( X ) 0,
j 1, 2,, l
(7-2)
问题(7-2)也常写成
min f ( X ), X R En R X g j ( X ) 0, j 1, 2,,l
(7-3)
第1节 最优性条件
第1节 最优性条件
定理1 设X*是非线性规划(7-3)式的一个局部极小点,目标函数 f(X)在 X*处可微,而且 jJ g j ( X ) 在X*处可微,当 g j ( X ) 在X*处连续,当 j J
则在X*不存在可行下降方向,从而不存在向量D同时满足:
* T f ( X ) D 0 * T g ( X ) D 0, j
第1节 最优性条件
假定X(0)是非线性规划(7-3)式的一个可行点,现考虑此点的 某一方向D,若存在实数 λ0 0,使对任意 λ 0, λ0 均有
X (0) λD R
就称方向D是X(0)点的一个可行方向。
第1节 最优性条件
若D是可行点X(0)处的任一可行方向,则对该点的所有起作用约束
f ( X * ) 1g1 ( X * ) 2g2 ( X * ) 0
第1节 最优性条件
图7-2 如上类推,可以得到
图7-3
f ( X * ) j g j ( X * ) 0
考虑非线性规划的某一可行点X(0) ,对该点的任一方向D来说,若存在实数 λ [0, λ' ] 均有 λ' ,使对任意 0
f ( X (0) λD) f ( X (0) )
就称方向D为X(0)点的一个下降方向。 将目标函数f(X)在点X(0)处作一阶泰勒展开,可知满足条件 f ( X (0) )T D 0 的方向D必为X(0)点的下降方向。 如果方向D既是X(0)点的可行方向,又是这个点的下降方向,就称它 是该点的可行下降方向。假如X(0)点不是极小点,继续寻优时的搜索方向 就应从该点的可行下降方向中去找。显然,若某点存在可行下降方向, 它就不会是极小点。另一方面,若某点为极小点,则在该点不存在可行 下降方向。
f ( X * ) 1g1 ( X * ) 0
第1节 最优性条件
若X*点有两个起作用约束,例如说有
g1 ( X * ) 0
g2 ( X * ) 0
* * * 在这种情况下,f ( X ) 必处于 g1 ( X ) 和 g2 ( X ) 的夹角之内。
如若不然,在X*点必有可行下降方向,它就不会是极小点(图7-3)。由此可 见,如果X*是极小点,而且X*点的起作用约束条件的梯度 g1 ( X * ) 和 g2 ( X * ) 线性无关,则可将 f ( X * ) 表示成 g1 ( X * ) 和 g2 ( X * ) 的非负线性组合。也就是说,在这种情况下存在实数 1 0 和 2 0 ,使