机械优化设计复习点
判断题，分析题，计算题
一，优化问题的基本解法（简答填空题）p27
（1）画图法找最小点
（2）解析解法
（3）数值的近似解法
二，数学基础（简答题）
（1）方向导数和梯度（概念，关系）p31 p32
（2）泰勒展开的物理含义及表达式p35
物理含义：泰勒展开在优化方法中十分重要，许多方法及其收敛性证明都是从泰勒出发的，是把方程g(x)=0的解，写成曲线方程的形式看看和x轴有什么交点。
泰勒公式的应用一般有三个方面：
1、利用泰勒展开式做代换求函数的极限。
2、利用泰勒展开式证明一些等式或者不等式。
3、应用拉格朗日余项,可以估值,求近似值。
表达式：矩阵形式和线性代数形式 p35
（3）极值条件
在什么条件下判断找到最优解（极值条件）？ p38
无约束优化问题：通过莫干函数求导等于0，等式约束：通过拉格朗日参数法求无约束优化物理含义：课件上(暂无）
线性组合概念：课件上(暂无）
不等式约束的基本条件：
通过一个双次（？）变量转换成等式约束，再利用拉格朗日来求极值条件。
导数的kt条件和kuhn-taker条件 p46
不等式的表达条件和物理含义：
三，一维搜索方法（计算题为主）
（1）一维搜入优化方法：p59
（2）计算题（书上和课件上题型）
模拟计算机计算流程，把一两个迭代步，计算过程写出来
（3）黄金分割法的原理及迭代的步骤
（4）二次插值法算法推导及原理
四，无约束的优化方法（最重点）
（1）最速下降法，牛顿法，共轭方向法，变尺度法（大概）p69-p83
（2）牛顿法和最速下降法的区别p70-p74
最速下降法的优点是算法简单，每次迭代计算量小，占用内存量小，且对初始点要求不高，即使从一个不好的初始点出发，往往也能收敛到局部极小点，但它有一个严重缺点就是收敛速度慢，特别是当椭圆比较扁平时，最速下降法的收敛速度越慢牛顿法收敛速度非常快，具有二次收敛的优点，但它存在下面四个严重的
缺点：1，每次迭代不能保证)(Xf下降，当Hesse矩阵非正定时，牛顿法的搜索将会失败；2，对初始点要求严格，一般要求比较接近或有利于接近极小点，但这在实际生活中很难办到；3，在进行迭代时可能求不出搜索方向；（4）构造困难，计算复杂，占用机器内存较大
（3）共轭方向的概念：p75
共轭方向：两向量间的一种特殊关系.设A为n×n对称正定矩阵，向量p，p ∈R.若满足条件(p)Ap=0，则称p和p关于A是共轭方向，或称p和p关于A共轭.一般地，对于非零向量组p，p，…，p∈R，若满足条件：(p)Ap=0(i≠j，i，j=1，2，…，n)，则称该向量组关于A共轭。
设A是n×n对称正定矩阵，若有两个n维向量P和Q，满足PAQ=0则称向量P和Q是关于A共轭的，或称P、Q 是A共轭方向。
（4）共轭方向法的概念：p75
共轭方向法依次沿共扼方向寻求无约束最优化问题极小点的一类方法。
共轭方向法以一组共轭方向作为搜索方向来求解无约束非线性规划问题的一类下降算法。
是在研究寻求具有对称正定矩阵Q的n元二次函数f(x)=1/2xQ x+bx+c 最优解的基础上提出的一类梯度型算法，包含共轭梯度法和变尺度法。
根据共轭方向的性质，依次沿着对Q共轭的一组方向作一维搜索，则可保证在至多n 步内获得二次函数的极小点。
共轭方向法在处理非二次目标函数时也相当有效，具有超线性的收敛速度，在一定程度上克服了最速下降法的锯齿形现象，同时又避免了牛顿法所涉及的Hesse矩阵的计算和求逆问题。
对于非二次函数，n步搜索并不能获得极小点，需采用重开始策略，即在每进行n次一维搜索之后，若还未获得极小点，则以负梯度方向作为初始方向重新构造共轭方向，继续搜索。
（5）坐标轮换法：p91
坐标轮换法或叫变量轮换法，又称降维法，它的每次搜索只允许在一个变量上进行，其余变量保持不变，即它是把一个n维无约束最优化问题转化为依次沿相应的n个坐标轴方向的一维最优化问题，并反复进行若干轮循环迭代来求解的直接搜索方法。
对于n维无约束优化问题，先将(n-1)个变量固定不动，只变化
第一个变量，即由起始点第一个变量的方向进行一维搜索，得到好点；而后再保持(n-1)个变量不变，对第二个变量进行一维搜索，
此时搜索方向为，得到好点。
如此沿方向(即坐
标方向)，且将前一次一维搜索的好点作为本次一维搜索的好点作为本次一维搜索的起始点，依次进行一维搜索后，完成一轮计算。
若未收敛，则以前一轮的末
点为起始点，进行下一轮的循环，如此一轮一轮迭代下去，直到满足收敛准
则，逼近最优点为止。
（6）鲍威尔方法：在坐标轮换法的基础上利用了共轭方向p94
五，约束优化方法p150
（1）复合形法
怎么形成初始的复合型？p156
对复合型进行操作：反测，扩张，收缩，压缩法这四种在不同情况的用法？P157
惩罚函数法特点（重点）：
内点惩罚函p171 外点惩罚函数p175 混合惩罚函数p177
1）外部罚函数法是从非可行解出发逐渐移动到可行区域的方法。
2）内部罚函数法也称为障碍罚函数法，这种方法是在可行域内部进行搜索，约束边界起到类似围墙的作用，如果当前解远离约束边界时，则罚函数值是非常小的，否则罚函数值接近无穷大的方法。
罚函数法又称乘子法，是指将有约束最优化问题转化为求解无约束最优化问题：其中M为足够大的正数，起"惩罚"作用，称之为罚因子，F(x, M )称为罚函数。
内部罚函数法也称为障碍罚函数法。
这种方法是在可行域内部进行搜索，约束边界起到类似围墙的作用，如果当前解远离约束边界时，则罚函数值是非常小的，否则罚函数值接近无穷大的方法。
在进化计算中，研究者选择外部罚函数法的原因主要是该方法不需要提供初始可行解。
其中B(x)是优化过程中新的目标函数，Gi和Hj分别是约束条件gi(x)和hj(x)的函数，ri和cj是常数，称为罚因子。
惩罚函数的表达形式：假设有以下有约束问题：满足限制
惩罚函数法将问题转化成如下无约束问题的序列
其中在上述方程，
称为外部罚函数，称为惩罚因子。
在每一次迭代中，我们都增大(例
如变为原来的10倍)，然后求解该无约束问题。
将每一次迭代的结果将组成一个序列，此序列的极限即为原约束问题的解。
复合形法与单纯形法区别：
1）复合形法不限制顶点个数为，复合形法的顶点个数k取值范围为；
2）复合形法需要检查顶点的可行性，即是否满足约束。
六，。