k f2 f (X n ) ， f 3 f ( X nk1 ) f (2 X nk X 0k ) ； 5.如果满足判别准则，则在下一次循环时，用新方 向 Snk1 补入k+1次循环基本方向组的最后，并去 k 掉 Sm ，从而构成新的方向组。并取第k+1次循环 的起始点为 X X 。 k k* S X （ n1 为第k次循环中沿新方向 n1 一维搜索的极 小点） 如果不能满足判别准则，则第k+1次循环时仍用 原来的方向组，而初始点按下式选取：
鲍威尔共轭方向法
1.共轭方向的定义：
设A为 n n 阶实对称正定矩阵，而 S 1
2 S ， 为n维欧式空
间 R n 中的两个非零向量，如果满足 [ S 1 ]T AS 2 0 ，则称 1 2 S S 向量 与 关于是实对称正定矩阵A是共轭的，或简称 S 1 2 S 与 关于A共轭。
2.坐标轮换法的缺陷
； 2.取n个坐标轴的单位向量 ei (i 1,2,n) 为搜索方向
k X0 ； Sik ei ，置k=1（k为迭代轮数）， X 0
k k S X 3. 从 0 出发，分别沿 i (i 1,2,n) 作一维搜索，依次
k 得n个极小点 X i ，计算各相邻极小点目标函数的差值 ，并
坐标轮换法的收敛速度很慢，其原因在于其搜索方向总是 平行于坐标轴，不适用函数的变化情况。
3.共轭方向法
1 S 设给定两个平行方向 ，沿这两个方向分别进行一维搜
2 2 索，求得极小点 X 1 和 X 。显然， X 1 和 X 分别是两条
2 平行线与函数等值线的相切点，连接这两个切点构成向量 S 1 2 2 2 1 S S S X X ，即 ，可证明 与 关于函数f（X）的海 塞矩阵H共轭。
工作原理： 首先采用坐标轮换法进行第一轮迭代，然后以第一轮迭代
的最末一个极小值与初始点相连，构成一个新的方向，并以 此方向为最末一个方向，而去掉第一个方向，得到第二轮迭 代的n个方向，如此进行下去，知道求出问题的最小点。
共轭方向法的缺陷：
共轭方向法的基本要求是，各方向组的向量之间是线性无 关的，但是在实际的运算中，常常产生的新方向有可能出现 线性相关，使得搜索运算将在维数下降了的空间运行，从而导 致计算不能收敛到真正的极小值点而失败。鲍威尔法针对这个 问题提出了改进方法。 鲍威尔共轭方向法的改进之处： （1）在每轮迭代完成并产生共轭方向后，先对共轭方向的 好坏进行判断，检验它是否与其他方向线性相关，若共轭方向 不好，则不用它，仍用原来的一组迭代方向。 （2）若共轭方向好，则可用它替代前一轮迭代中使函数值 下降最多的一个方向，而不一定替换第一个方向。
（
k* S Xn 1 为第k次循环中沿新方向 n1 一维搜索的极小点）
k
如果不能满足判别准则，则第k+1次循环时仍用原来的方 向组，而初始点按下式选取：
f2 f3 f2 f3
k 1 k X0 Xn k 1 k X 0 X n 1
鲍威尔迭代法的步骤： 1.给定初试点 X 0 和允许误差 1 、 2
则可终止迭代，得X 0k 1为最优点，输出结果
k 1 X0 X*
， f ( X 0k 1 ) f ( X * ) ；
k 1 X0 X0
否则，置
k 1 k ，
；返回第3步。
km —— 表示循环中函数值下降量最大者，即
km max{f ( X ik1 f ( X ik )
k S 其相应的方向为 m 。
i 1,2 n}
k k f (X m ) f ( X 1 m)
k 如果满足判别准则，则在下一次循环时，用新方向 S n 1 补 k S 入k+1次循环基本方向组的最后，并去掉 m ，从而构成新 k 1 k* 的方向组。并取第k+1次循环的起始点为 X 0 Xn 1 。
k 0
k f f ( X 0 ) ； 的函数值 1
f 2 ——第k次循环中沿基本方向组中个迭代方向依次一维搜索
k f f ( X n ) ； 的函数值 2
f 3 ——为映射点函数值， f 3 f ( X nk1 ) f (2 X nk X 0k ) ， X nk1 为 k k k k X 0k 对 X n 的映射点， X n1 2 X n X 0 ；
k 1 0 k* n 1
f2 f3 2 f3
k 1 k X0 Xn k 1 k X 0 X n 1
6.验证是否满足迭代终止条件：若能满足
X
或
k 1 0
X
k 0
1
f ( X 0k 1 ) f ( X 0k ) 2 k 1 f (X 0 )
在鲍威尔法中，判断是否用新的方向去替换原方向组中的某 一个方向的判定准则为：
k 2 k 2 ( f1 f 3 2 f 2 )( f1 f 2 m ) 0.5 m ( f1 f 3 )
式中：
f 3 f1
f1 ——表示在第k次循环中起始点 X
后的终点 X
k n
找出其中的最大差值及其相应的方向：
km max{f ( X ik1 f ( X ik )
k k f (X m ) f ( X 1 m)
i 1,2 n}
k k k Sm Xm Xm 1
k k k k f f ( X X 2 X X 4. 计算反射点 n1 1 0 ) n 0 ，并计算