第六章非线性规划（一）非线性规划的理论模型
Min f(X)
s.t. h
i
(X)=0（i=1，2，…,m）
g
j
(X)≥0（j=1，2，…,m）
其中，目标函数和约束方程含有非线性表达式。

若D={X∈R n:h
i (X)=0,i=1,2,…,m,g
j
(X)≥0,j=1,2,…,l}为可行域
可简化为 min f(X)
X∈D
D中的点X为非线性规划模型的可行解
当D=R n时---无约束线性规划当D≠R n时---有约束线性规划
（二）非线性规划的解及相关概念
1）可行解：D中的点X为非线性规划模型的可行解
2）最优解：若有X*∈D，对于任意的X∈D，都存在f(X*)≤f（X）则X*为最优解。

（全局最优解）
注：非线性规划问题的最优解可以在可行域的任意点取得。

3）梯度：若函数f(X)在X
0的领域内有连续一阶偏导数，则称f(X)在X
处对n
个变量的偏导数组成的向量为f(X)在X
的梯度。

梯度的几何意义：○1等高线；
○2函数f(X)在X
0的梯度方向是函数在X
处增加最快的方
向；
○3函数f(X)在X
0的梯度是等高线在点X
切平面的法向量；
4）海赛阵：若函数f(X)在X
0的领域内有连续二阶偏导数，则称f(X)在X
处对n
个变量两两组合的二阶偏导数组成的矩阵为f(X)在X
的海赛阵。

5）凸规划：在非线性规划问题中，目标函数为凸函数，不等式约束为凹函数，等式约束为仿射函数，则称这样的非线性规划为凸规划。

注：○1如果f(X)为凸函数，则-f(X)为凹函数.
○2对于多元函数f(X)，海赛阵为半正定，则f(X)为凸函数；
海赛阵为半负定，则f(X)为凹函数。

6）凸规划的性质：凸规划的约束集为凸集，凸规划的最优解集是凸集，任何局部最优解也是全局最优解。

如果目标函数为严格凸函数，且
最优解存在，则其最优解是唯一的。

（三）无约束极值的解法
1）一维搜索：一维搜索是一种求解单变量实值函数的极值点的过程，也称线性搜索。

常用的搜索方法有斐波拉契法，0.618法等
2）梯度法：梯度法也叫最速下降法，是一种求解无约束极值问题的最简单，最基本的下降类算法，其指导思想是：选取P
K
，使函数f(x)下降最快，
或者说使f(X
K +入P
K
)-f(X
K
)<0,并且是上式左边的绝对值尽可能地大。

（四）罚函数法
罚函数法：罚函数法是求解一般有约束极值问题的一种比较简单实用的方法，其基本思想是：将约束条件与目标函数组合在一起，化成无约束极
值问题来进行求解。

可分为外点法和内点法。

外点法是从可行域的外部逐步逼近最优解，
内点法是从可行域的内部逐渐逼近最优解。