*
则称 x * 是(MP)的严格整体最优解或严格整体极小点，称 体最优值或严格整体极小值。
定义 4.1.2 对于非线性规划(MP)，若 x *
N (x ) x R
*
* *
f ( x ) 是(MP)的严格整
*
X
*
，并且存在 x * 的一个领域
( 0, R ) ，

Ludong University
10
非线性规划方法概述
选取初始点 x 0 ，构造搜索方向 p k ，确定步长 t k ，令
x
k 1
x tk p
k
k
。
若 x k 1 满足某种终止条件，停止，输出近似解 x k 1 。
定义 4.1.3 设 f : R n R , x R n , p R n , p 0 ，若存在 0 ，使 f ( x tp ) f ( x ), t (0, ) ， 则称向量 p 是函数 f x 在点 x 处的下降方向。
注：两个凸函数的乘积不一定是凸函数。
定理 4.2.2 设 S R n 是非空凸集， f : S R 是凸函数， c R ，则集 合
H S ( f , c ) x S f ( x ) c

是凸集。
注：一般地定理 4.2.2 的逆定理不成立。称集合 H S 在集合 S 上关于数 c 的水平集。
定义 4.1.4 设 X R n , x X , p R n , p 0 ，若存在 t 0 ，使
x tp X ,
则称向量 p 是函数 f x 在点 x 处关于 X 的可行方向。
2012-10-25 Ludong University 11
非线性规划基本跌代格式
第 1 步 选取初始点 x 0 ， k
1 2 1 2
2012-10-25 Ludong University
x
1
x

2
x
17
凸函数及其性质
定理 4.2.4 设 S R n 是非空开凸集， f : S R 二阶连续可导，则 f 是 S 上的凸函数的充要条件是 f 的 Hesse 矩阵 2 f ( x ) 在 S 上是半正定的。 当 2 f ( x ) 在 S 上是正定矩阵时， f 是 S 上的严格凸函数。
2 f (x) 2 x1 2 f (x) x 2 x1 2 f (x) 2 f (x) x n x1 f (x)
2
x1 x 2 f (x)
2

x
2 2

f (x)
2
xn x2
2012-10-25
f(x)
f(αx1+(1-α)x2)
x1
ax1+(1-a)x2
x2
x
15
Ludong University
凸函数及其性质
定理 4.2.1 设 S R n 是非空凸集。 （1） 若 f : R n R 是 S 上的凸函数， 0 ，则 f 是 S 上的凸函数； （2） 若 f1 , f 2 : R n R 都是 S 上的凸函数，则 f 1 f 2 是 S 上的凸函数。
n
,
如下的数学模型称为数学规划(Mathematical Programming, MP)：
m in f ( x ) s .t . g i ( x ) 0 , i 1, , p , h j ( x ) 0 , j 1, , q .
g i ( x ) 0, i 1, , p n 其中X x R h j ( x ) 0, j 1, , q
f ( x )
1
x
1
, ,
f ( x )
1
x
n
)
T
是函数 f 在点 x 1 处的一阶导数
或梯度。 f(x) （2） f 是 S 上的严格凸 函数的充要条件是
f (x ) (x x )
1 T 2 1
f x
1
x
2
x
1

f ( x ) f ( x ),
2 1
x , x S, x x .
0；
第 2 步 构造搜索方向 p k ； 第 3 步 根据 p k ，确定步长 t k ； 第 4 步 令 x k 1 x k t k p k 。 若 x k 1 已满足某种终止条件，停止迭代，输出近似 解 x k 1 ；否则令 k k 1 ，转回第 2 步。
2012-10-25
非线性规划方法概述

2012-10-25
Ludong University
4
Example 1
(a1,b1)
(a2,b2)

(x, y)
(a3,b3)


Three customers with known locations on a plane described by coordinates (ai,bi ), i=1,2,3. Problem:To find a location for a depot so that the total distance to the three customers is minimized. Variable: (x,y) the coordinates of the depot Model:
m in f ( x ) s .t . g (x) 0 , h( x) 0.
或者 m in f ( x ) 。
x X
当p=0，q=0时，称为无约束非线性规划或无约束最优化问 题。否则称为约束非线性规划或约束最优化问题。
2012-10-25 Ludong University 8
g i ( x ) 0 , i 1, , p n 其中X x R h j ( x ) 0 , j 1, , q
(M P )
约束集
如果(MP)的约束集X是凸集，目标函数f是X上的凸函数，则 (MP)叫做非线性凸规划，或简称为凸规划。
n
xx

使 f ( x ) f ( x ), x N ( x ) X ，则称 x * 是(MP)的局部最优解或局部极小点，称 f ( x * ) 是(MP)的局部最优值或局部极小点。如果有 f ( x ) f ( x ), x N ( x ) X , x x ，则称 * * x 是(MP)的严格局部最优解或严格局部极小点，称 f ( x ) 是(MP)的严格局部最优值 或严格局部极小点。
f(x)
0
2012-10-25
Local minimum Global minimum
Ludong University
x
2
第四章 非线性规划



基本概念 凸函数和凸规划 一维搜索方法 无约束最优化方法 约束最优化方法
2012-10-25
Ludong University
3
基本概念

非线性规划问题

f (x) x1 x n 2 f (x) x2xn 2 f (x) 2 xn
2
注：该逆命题不成立。
2012-10-25 Ludong University 18
凸规划及其性质
m in f (x) i s .t . g i ( x ) 0 , 1, , p , h j ( x ) 0 , 1, , q . j

m in f ( x , y , z ) 2 xy 2 xz 2 yz s.t xyz V x, y, z 0
Constrained
2012-10-25 Ludong University 6
数学规划
设 x ( x1 , , x n ) T R n ，
f ( x ); g i ( x ), i 1, , p ; h j ( x ), j 1, , q ; R R
最优解和极小点
定义 4.1.1 对于非线性规划(MP)，若 x *
f ( x ) f ( x ),
*
X
，并且有
f ( x ) 是(MP)的整体最优值或整
*
x X,
则称 x * 是(MP)的整体最优解或整体极小点，称 体极小值。如果有
*
f ( x ) f ( x ), x X , x x ,
min f ( x , y )

3
( x a i ) ( y bi )
2
2
2012-10-25
i 1
Unconstrained
Ludong University
5
Example 2
Using the minimum material to make a box. The volume of the box has to be V=1000. Decision: Box length: x, width: y, height: z. Objective: To minimize surface area of the box. Model:
注： （1）若 f 是 S 上的（严格）凸函数，则称 f 是 S 上的（严格） αf(x1)+(1-α)f(x2) 凹函数，或 f 在 S 上是（严格）凹的。 （2）线性函数 f x a T x b , a , x R n , b R 在 R n 上既是凸函数 也是凹函数。
约束集或可行域
x X
2012-10-25