10.
1. 优化设计问题的求解方法：解析解法和数值近似解法。

解析解法是指优化对象用数学方程（数学模型）描述，用数学解析 方法的求解方法。

解析法的局限性：数学描述复杂，不便于或不可能用解析方法求解。

数值解法：优化对象无法用数学 方程描述，只能通过大量的试验数据或拟合方法构造近似函数式，求其优化解；以数学原理为指导，通过试验逐步改进 得到优化解。

数值解法可用于复
杂函数的优化解，也可用于没有数学解析表达式的优化问题。

但不能把所有设计参数都 完全考虑并表达，只是一个近似的数学描述。

数值解法的基本思路：先确定极小点所在的搜索区间，然后根据区间消去 原理不断缩小此区间，从而获得极小点的数值近似解。

2. 优化的数学模型包含的三个基本要素：设计变量、约束条件（等式约束和不等式约束）、目标函数（一般使得目标函 数达到极小值）。

3. 机械优化设计中， 两类设计方法：优化准则法和数学规划法。

k 1 k k
优化准则法：X c X （为一对角矩阵） k 1 数学规划法：X k 1 k k k
X k d （ k d 分别为适当步长某一搜索方向一一数学规划法的核心） 4. 机械优化设计问题一般是非线性规划问题， 实质上是多元非线性函数的极小化问题。

的极值问题和不等式约束优化问题的极值条件。

5. 对于二元以上的函数，方向导数为某一方向的偏导数。

重点知识点：等式约束优化问题 f |
X o *kCOS i d i 1 X i 函数沿某一方向的方向导数等于函数在该点处的梯度与这一方向单位向量的内积。

速上升方向），建议用 单位向量 表示，而梯度的模是函数变化率的最大值。

6. 梯度方向是函数值变化最快的方向 （最
7. 8. 9. 多元函数的泰勒展开。

f X f x 0 T
f X o
-X T G X o 2 f X o f X i f X 2 X , X 2 1 2 X1
X 2 2f 2f 为X 2
2
f
X 1 X 2 X 1
2
f X 2 -- 2 X 2
海赛矩阵:
x
o
2
f
~2 X
1
2
f
2
f
X l X 2
X 1 X 2
2
f
2
X 2
（对称方
阵）
极值条件是指目标函数取得极小值时极值点应满足的条件。

某点取得极值,
要条件：极值点必在驻点处取得。

用函数的二阶倒数来检验驻点是否为极值点。

导数等于零时，判断开始不为零的导数阶数如果是偶次，则为极值点， 在此点函数的一阶导数为零，
极值点的必
二阶倒数大于零，取得极小值 。

二阶 奇次
则为拐点。

二元函数在某点取得极值的充
分条件是在该点岀的海赛矩阵正定。

极值点反映函数在某点附近的局部性质
凸集、凸函数、凸规划。

凸规划问题的任何局部最优解也就是全局最优点 中任意两点
的线段上的所有元素都包含在该集合内。

凸函数：连接凸集定义域内任意两点的线段上， 。

凸集是指一个点集或一个区域内，连接其 性质：
凸集乘上某实数、两凸集相加、两凸集的交集仍是凸集。

函数值总小于或等于用任意两点函数值做线性内插所得的值。

数学表
达：f ax,
1 a x 2
f X i f X 2 0 1，若两式均去掉等号，则 f X 称作严格凸函数。

凸
函数同样满足倍乘， 加法和倍乘加仍为凸函数的三条基本性质。

优化问题。

等式约束优化问题的极值条件。

两种处理方法：消元法和拉格朗日乘子法。

也分别称作降维法和升维法。

消元法 等式约束条件的一个变量表示成另一个变量的函数。

减少了变量的个数。

拉格朗日乘子法是通过增加变量 约束优化问题变成无约束优化问题，增加了变量的个数。

不等式约束优化问题的极值条件。

不等式约束的多元函数极值的必要条件为库恩塔克条件。

库恩塔克条件：
凸规划针对目标函数和约束条件均为凸函数是的约束
:将 将等式
16.
，几何意义：在约束极小值处，函数的负梯度一定能表示成所有起作用约束在该点
邻两个迭代点上的函数梯度相互垂直。

质。

最速下降法的收敛速度和变量的尺度关系很大。

最速下降方向的每一次搜索方向与前一次的搜索方向互相垂直, 形成“之”字形的锯齿现
象。

1
2r k ' r k
f X f X 。

若某一迭代方法能使二次函
X i X i
j g j x
11.
12. 梯度的非负线性组合
一维搜索是指一元函数的极值问题。

搜索区间的外推法（进退法）：假设函数在搜索区间具有单谷性，使函数在搜索区间形成
“高低高”趋势来确定极小点所在的区间。

分别对应搜索的起点，中间点和终点。

再利用区间消去法原理比较函数值的大小以
确定极小值所在的搜索区间。

一维搜索方法。

试探法：常用的一维搜索的方法是黄金分割法（。

对于含有等式约束的优化问题的拉格朗日乘子，并没有非负的要求。

0.618 法）。

适用于任何单谷函数求极小值问题。

黄
13.
14. 金分割法要求插入点的位置相对于区间的两端点对称。

所以插入点的位置为:
插值法（函数逼近法）：利用试验点的函数值建立函数近似表达式来求函数的极小点。

的方法：牛顿法
骤：计算f
（切线法）和抛物线法（二次插值法）。

牛顿法迭代公式:
，若
C2
g
C3
a1 b b a
，区间缩短率为
a2 a b a
两种用二次函数逼近原来函数
则求得近似解
k
—，牛顿法的计算步
k
k 1 ；二次插值法:
P对应的极值点，对应的函数值为极小值。

无约束优化问题。

常用的数值计算方法为搜索方法。

基本思想：从给定的初始点，沿某一搜索方向进行搜索，确定最佳步长
使函数值沿搜索方向下降最大。

的构成问题是无约束优化方法的关键。

束优化方法，如最速下降法，共轭梯度法，轮换法，单形替换法，和鲍威尔法。

最速下降法（梯度法）。

从某点岀发，
各种无约束优化方法的区别在于确定其搜索方向的方法不同，所以，搜索方向
无约束优化方法可以分为两类：一类是利用目标函数的一阶或二阶导数的无约
牛顿法和变尺度法；另一类只利用目标函数值的无约束优化方法，如坐标
搜索方向去该点的负梯度方向。

为了使目标函数获得最大下降值。

其步长因子
去一维最佳步长： f x k 1- k - k
min f X k f X
min ，在最速下降法中，相
最速下降法迭代行进的距离缩短，收敛速度减慢。

梯度反映的是函数的局部性
15. 牛顿型方法。

多元函数求极值的牛顿法迭代公式:
16.数在有限次迭代内达到极小点,
牛顿型方法。

共轭方向法。

则称此迭代方法是二次收敛的。

牛顿方法时二次收敛的。

牛顿法和阻尼牛顿法统称为主要缺点是计算函数的二阶导数矩阵，并对该矩阵求逆。

对于二元函数，为避免锯齿现象，在第二次的迭代搜索方向上取到极小点。

所必须满足的条件：
d0 T Gd10,满足条件的两个向量d0d1称之为共轭向量，或称之为对G是共轭方向。

多维函数当中，共轭向
量互相正交且线性无关；n维空间互相共轭的非零向量的个数不超过n ；共轭方向法具有二次收敛性。

格拉姆-斯密特向量共轭化方法：选定线性无关向量组：V V1 V n （例如他们是n个坐标轴上的单位向量）首先，取d0V o，。