也是 D 上的凸函数．
（３）设 f x 是凸集 D Rn 上的凸函数，
是实数，则水平集 S f ,
x x D, f x 是凸集．
BG
15
下面的图形给出了凸函数
f x, y x4 3x2 y4 y2 xy
的等值线的图形，可以看出水平集是凸集
BG
16
凸函数的判定
定理1 设 f x是定义在凸集 D Rn 上，x, y D ,
一阶导数、二阶导数和n元函数的Taylor公式
定义1 设f : Rn R1, x Rn,如果f 在点x处关于自变量
x
(x1,
x2,L
,
xn
)T的各分量的偏导数f (x) xi
(i
1,2,L
,n)
都存在，则称函数f 在点x处一阶可导(可微），并且称向量
f
(x)
f (
(x)
,
f
(x)
,L
,
f
(x))T
x 1 y 12 x 12 1 y 12 1 x y2 0 因此 f x 在 , 上是严格凸函数．
BG
11
例2：试证线性函数是 Rn上的凸函数．
f x cT x c1x1 c2 x2 cn xn 证明: 设x, y R, 0,1, 则
f x 1 y cT x 1 y
在目标函数或约束条件中，至少有一个是变量 的非线性函数。
BG
4
xn)
s.t. gi(x1,x2,L,xn)0,i 1,2,L,m
hj(x1,x2,L,xn)0, j 1,2,L,l
向量形式：min f (x)
s.t. gi (x) 0,i 1,2,L ,m
cT x 1 cT y f x 1 f y
所以cT x 是凸函数． 类似可以证明 cT x 是凹函数．
BG
12
凸函数的几何性质
对一元函数 f x, 在几何上f x1 1 f x2
0 1 表示连接x1, f x1, x2, f x2 的线段． f x1 1 x2 表示在点x1 1 x2处的
x1 x2
xn
是f 在点x处的一阶导数或梯度。
BG
7
定 义 2 设 f : Rn R1,x Rn,如 果 f 在 点x处 关 于 自 变 量
x ( x1 , x2 ,L
, xn )T 的 各 分 量 的 二 阶 偏 导 数
2 f ( x ) (i, j 1, 2,L xix j
,n)
都存在，则称函数f 在点x处二阶可导，并且称矩阵
hj (x) 0, j 1,2,L ,l
其中x (x1, x2,L , xn )T Rn,且f : Rn R1,
gi : Rn R1和hj : Rn R1。
BG
5
非线性优化问题的寻优
相关概念及理论 一维最优化方法 多维无约束最优化方法 多维有约束最优化方法
BG
6
非线性规划的相关概念及理论
逼近（函数）和二次逼近（函数）：
f (x) f (x ) f (x )T (x x ) f (x) f (x ) f (x )T (x x )+ 1 (x x )T 2 f (x )(x x )
2
BG
9
凸函数
定义4 设函数 f x 定义在凸集D Rn 上，
若对任意的 x, y D , 及任意的 0,1
BG
第三专题 非线性优化问题
1、非线性优化模型的建立 2、非线性优化模型的寻优
BG
1
非线性优化模型的建立
确定决策变量 确定目标（决策准则） 确定约束条件
BG
2
实例分析
（1）投资决策问题（P88)
（2）曲线拟合问题
在实验数据处理或统计资料分析中，常常遇到这样 的问题：如何利用有关变量的实验数据（资料）去确定 这些变量间的函数关系。例如，已知某物体的温度 与时间 t 之间有如下形式的经验函数关系：
(t)c1c2tec3t
其中 c1, c2 , c3 是待定参数。通过测试获得n 组温度与时间 之间的实验数据 (ti,i),i1,2,L,n，试确定参数 c1 , c2 , c3 使
理论曲线尽可能地与 n个测试点拟合。
BG
3
非线性规划问题的共同特征
都是求一个目标函数在一组约束条件下 的极值问题。
函数值．
所以一元凸函数表示连接函数图形上任意两点 的线段总是位于曲线弧的上方．
BG
13
BG
14
凸函数的性质
（１） 设 f x 是凸集 D Rn 上的凸函数，
实数 k 0 , 则 kf x 也是 D上的凸函数．
（２） 设 f1x, f2 x 是凸集 D Rn 上的凸 函数，实数, 0, 则 f1x f2 x
令 t f tx 1 ty,t 0,1, 则:
(1) f x 是凸集D 上的凸函数的充要条件是对
任意的x, y D ,一元函数 t为 0,1上的凸函数.
(2)设 x, y D , x y, 若 t 在 0,1 上为严格
凸函数，则 f x在 D 上为严格凸函数．
BG
17
该定理的几何意义是：凸函数上任意两点之 间的部分是一段向下凸的弧．
2 （f x） 2 （f x）
x
2 1
L x1 x2
2
f
x
2 （f x） x2 x1
2 （f x）
x
2 2
L
M
MM
2 （f x） 2 （f x）
L
xn x1
xn x2
是 f 在 点 x处 的 二 阶 导 数 或 Hesse矩 阵 。
2 （f x）
x1 xn
2 （f x）
都有：f x 1 y f x 1 f y 则称函数 f x 为凸集 D 上的凸函数．
定义5 严格凸函数
注：将上述定义中的不等式反向，可以得到
凹函数的定义．
BG
10
例1：设 f x x 12 , 试证明 f x 在 ,
上是严格凸函数．
证明: 设 x, y R, 且 x y , 0,1 都有： f x 1 y f x 1 f y
x2xn
M
2 （f x）
x
2 n
BG
8
定义3 设f : Rn R1, x Rn ,如果f 在点x处的某邻域具有 二阶连续偏导数，则f 在点x处二阶Taylor展式：
f (x x) f (x ) f (x )T x 1 (x)T 2 f (x )x o( x 2 ) 2
其中x=(x1 , x2 ,L , xn )T 。 若记x x x，略去高阶小量后，得到f 在点x处的线性