;
5
数学规划
设 x ( x1 ,..., xn )T Rn ， f ( x); gi ( x), i 1,..., p;hj ( x), j 1,..., q : Rn R , 如下的数学模型称为数学规划(Mathematical Programming, MP)：
min f ( x)
s.t. gi ( x) 0, i 1,..., p
点的方向。
;
9
非线性规划基本迭代格式
迭代法的基本格式
第 1 步 选取初始点x0 ，k:=0; 第 2 步 构造搜索方向 pk ； 第 3 步 根据 pk ，确定步长tk ； 第 4 步 令 x k1 x k tk pk ， 若 x k1 已满足某种终止条件，停止迭代，输出 近似解 x k1 ；否则令 k:=k+1，转回第 2 步。
;
4
例2 构件容积问题
设计一个右图所示的由圆锥和圆柱面 围成的构件，要求构件的表面积为 S， 圆锥部分的高 h 和圆柱部分的高 x2 之 比为 a。确定构件尺寸，使其容积最 大。
x3
x2 x1
max V s.t. x1
(1 x12
a/ a2
3)x12 x2
x
2 2
2x1
x
2
x12
S
x1 0, x2 0
c1 c2t e c3t
(*)
其中c1 ，c2 ，c3 是待定参数。现通过测
试获得 n 组 与 t 之间的实验数据(ti , i ) ，
i=1，2，…,n。试确定参数c1 ，c2 ，c3 ，
使理论曲线(*)尽可能地与 n 个测试点
t
(ti , i ) 拟合。
n
min [ i (c1 c2ti e c3ti )]2 i1
（2） 若 f1 , f 2 : Rn R 都是 S 上的凸函数，则 f1 f2 是 S 上的凸函数。
定理 4.2.2 设 S R n 是非空凸集， f : Rn R 是凸函数，c R
最优值或局部极小点。如果有
f (x* ) f (x), x N (x* ) X, x x* ，
则称 x* 是(MP)的严格局部最优解或严格局部极小点，称 f ( x* ) 是(MP)
的严格局部最优值或严格局部极小点。
;
8
非线性规划方法概述
定义 4.1.3 设 f : Rn R, x Rn , p Rn , p 0 ，若存在 0 f ( x tp) f ( x ), t (0, )
其中， g : Rn R p , h : Rn Rq ，那么(MP)可简记为
min f ( x)
s.t. g(x) 0 或者 min f ( x)
h( x) 0
x X
当p=0,q=0时，称为无约束非线性规 划或者无约束最优化问题。
否则，称为约束非线性规划或者约束 最优化问题。
;
7
最优解和极小点
则称向量 p 是函数 f(x)在点x 处的下降方向。
，使
定义 4.1.4 设 X Rn , x X , p Rn , p 0 ，若存在 t 0 ，使 x tp X
则称向量 p 是函数 f(x)在点 x 处关于 X 的可行方向。
不可行方向
在一点处关于可行区域 X 的可行方向是使这个方向上存在可行
定义 4.1.1 对于非线性规划(MP)，若 x* X ，并且有 f ( x* ) f ( x), x X
则称 x* 是(MP)的整体最优解或整体极小点，称 f ( x* ) 是 (MP)的整体最优值或整体极小值。如果有
f ( x* ) f ( x), x X, x x*
则称 x* 是(MP)的严格整体最优解或严格整体极小点，称 f ( x* ) 是(MP)的严格整体最优值或严格整体极小值。
非线性规划
Non-linear Programming
;
1
非线性规划
❖基本概念 ❖凸函数和凸规划 ❖一维搜索方法 ❖无约束最优化方法 ❖约束最优化方法
;
2
基本概念
❖非线性规划问题 ❖非线性规划方法概述
;
3
非线性规划问题
例1 曲线的最优拟合问题
已知某物体的温度 与时间 t 之间有如 下形式的经验函数关系：
若-f 是 S 上的（严格）凸函数，则称 f 是 S 上的（严格）凹函数， 或 f 在 S 上是（严格）凹的。
;
凸函数
(b)凹函数
;
14
1. 凸函数及其性质续一
定理 4.2.1 设 S Rn 是非空凸集。
（1） 若 f : Rn R 是 S 上的凸函数， 0 ，则f 是 S 上的凸函数；
hj ( x) 0, j 1,..., q
约束集或可行域 X
x
Rn
gi (x) hj (x)
0, i 1,...,p 0, j 1,...,q
x X
MP的可行解或可行点
;
6
向量化表示
令
g(x) (g1(x),...,g p (x))T
h(x) (h1(x),..., hq (x))T ，
定义 4.1.2 对于非线性规划(MP)，若 x* X ，并且存在 x* 的一个
领域 N ( x* ) x Rn x x* ( 0, R) ，使
f (x* ) f (x), x N (x* ) X ，
则称 x* 是(MP)的局部最优解或局部极小点，称 f ( x* ) 是(MP)的局部
;
10
常用停止规则
1. 相邻两次迭代点的绝对差小于给定误差，即 xk1 xk ；
xk 1 xk
2. 相邻两次迭代点的相对差小于给定误差，即
；
xk
3. f (xk ) ；
4. f (xk1) f (xk )
;
11
凸函数和凸规划
凸函数及其性质 凸规划及其性质
;
12
凸函数及其性质
定义 4.2.1 设 S R n 是非空凸集， f : S R ，如果对任意的 (0,1) 有 f (x1 (1 )x 2 ) f ( x1 ) (1 ) f ( x 2 ) ，x1 , x 2 S 则称 f 是 S 上的凸函数，或 f 在 S 上是凸的。如果对于任意的 (0,1) 有 f (x1 (1 )x 2 ) f ( x1 ) (1 ) f ( x 2 ) ，x 1 x 2 则称 f 是 S 上的严格凸函数，或 f 在 S 上是严格凸的。