实验的题目和要求
一、所属课程名称：
最优化方法
二、实验日期:
20１０年5月１0日~２010年5月１５日
三、实验目的
掌握最速下降法,牛顿法和共轭梯度法的算法思想，并能上机编程实现相应的算法。
二、实验要求
用ＭA ＴLA Ｂ实现最速下降法，牛顿法和共轭梯度法求解实例。
四、实验原理
最速下降法是以负梯度方向最为下降方向的极小化算法，相邻两次的搜索方向是互相直交的。
牛顿法是利用目标函数)(x f 在迭代点k x 处的T ａylor 展开式作为模型函数,并利用这个二次模型函数的极
小点序列去逼近目标函数的极小点。
共轭梯度法它的每一个搜索方向是互相共轭的，而这些搜索方向k d 仅仅是负梯度方向k g -与上一次接
待的搜索方向1-k d 的组合。
五.运行及结果如下：
最速下降法:
题目：f=（x-2）^２+(y-４）^2
Ｍ文件：
fu ｎcti ｏn [R,n]=stee ｌ（x0,y0，e ｐs)
syms ｘ；
syms y ;
f=(x-2)^2+(ｙ-４）^2;
ｖ=[x,y];
ｊ＝ｊac ｏbi ａｎ(f ，v);
T=[s ｕbs(j(１),ｘ,x0）,subs （j （2),ｙ，y0)];
temp=s ｑrt((Ｔ(1)）^2＋(T （2))＾2);
x １＝x0;y １=y ０;
ｎ=0;
sym ｓ k ｋ;
w ｈi ｌe (temp>eps ）
ｄ=－Ｔ；
ｆ1=x １+kk*d(1);f2=ｙ1+k ｋ*ｄ（２);
fT=[su ｂs(j （1),ｘ,ｆ１),ｓｕb ｓ(j(2),ｙ,ｆ2)];
fu ｎ=sqrt((fT(1））^2+(ｆT(2)）^２）;
Mｉｎi=Ｇold(fｕn,0,1，０.０0００1);
x0＝ｘ1+Ｍini*d(1);y0＝y1＋Ｍinｉ*d(2)；
T＝[sｕbs（j(1)，x,ｘ0），suｂs(ｊ(2),ｙ，y0)］; tｅｍp=ｓｑrｔ（(T(1）)^2＋(T（２)）^2)；
x1=x0;ｙ１=ｙ0；
n=ｎ+1；
ｅnd
R=[x０,ｙ0]
调用黄金分割法:
M文件:
fｕncｔioｎMｉni＝Ｇold(f,a０,b0,eｐs)
syms x;format ｌoｎg;
ｓyms kｋ;
u=a0+0.382*(b0－a0）；
v=ａ0+０.618*（ｂ0-ａ０）;
k=０；
a=ａ0;b=b0；
array(k+1,１)=a;ａｒｒay（k＋１,2）＝b;
ｗhile((ｂ-ａ)/(b0-a0)＞＝epｓ)
Fu＝ｓubｓ(f,kk，u）;
Fv=suｂｓ(f,kk，ｖ);
iｆ(Fｕ<=Fｖ)
b＝ｖ;
v=u;
u＝a＋０.３８2*（b-a);
ｋ=ｋ＋1;
elsｅif(Fu＞Fｖ)
a＝u;
u=v;
v=a＋0.6１８*(b-a)；
k=ｋ+1;
enｄ
arrａy（k+１，1)=a;arrａy(k+１,２）=b;
end
Minｉ＝（ａ+b)/2;
输入:
[R，ｎ］=steｅl(０,１,0.0001）
R＝ 1.99９99４1３66７6４2 ３.９９9９９1２050１463 R = 1.9９9994１36676４2 3．9９９９９１20５0146３
n＝ 1
牛顿法：
题目：f＝（x-２)＾2+(y－4)^2
M文件：
syms ｘ１x2;
f=(x1-2)^2+(x２-4)^２；
v=[x１,x２]；
df＝jacobian(ｆ,v);
ｄf=dｆ．';
G=jacobian（df，v);
ｅpｓｏｎ＝１ｅ-12;x0=［0，０]＇；g1=subs(df,{x１,x２},{x0(1,1）,x0(2，１）});G1=su ｂs(Ｇ，｛ｘ1,ｘ２｝，{x０(1,１)，x0(2，1)｝)；ｋ=０;mul_ｃoｕnt=0;sｕｍ_ｃount=0; mｕl_cｏunt=mｕl_cｏuｎｔ+1２；ｓuｍ_ｃount=ｓum_ｃouｎt+６;
ｗｈｉlｅ(nｏｒｍ(g１）>ｅpｓｏn)
p=-G1\g1;
x0=ｘ0＋p;
g1=subs(df,{x1，x2},{x0(1,1),x0(2,1)｝）;
G1=ｓｕｂｓ（G,{x1,ｘ２},{x0(1,1）,x0(2,1)}）;
k=k＋1;
mｕl＿coｕｎt＝muｌ_coｕnt+16;sｕm_coｕnt=sum_counｔ+11;
end；
ｋ
ｘ0
mｕl_ｃount
sum＿coｕnt
结果：：k= 1
x０=
２
4
ｍul_cｏunt = 28
ｓum_count = １7
共轭梯度法：
题目:f=(x－2)＾2+(y-４）^2
M文件:
ｆｕnｃtionｆ=conjugate_ｇrａd_2d（x0，t)
ｘ＝x0;
ｓymｓｘi yi a
ｆ=(xｉ-２)^2+(yi-4)^2;
ｆx=ｄiff（f,xi)；
fｙ=diff(ｆ,ｙi）;
fx=subs(fx,{ｘi,yi｝，x０)；
fy＝sｕbs（ｆy,{xi,ｙi｝,ｘ0）；
fi=［fｘ,ｆy］;
coｕnt=0；
whilｅ dｏｕble(ｓｑｒt(fｘ^2＋fｙ^2）)>t
ｓ=－fｉ；
ｉf count<=0
s=-ｆi;
elsｅ
s=s１;
end
ｘ=x+a＊ｓ;
f=suｂs(f,{xｉ,yi}，x)；
ｆ1=ｄｉff(ｆ);
f1=solｖe（f1);
iｆｆ１~=0
ai=douｂle(f1）；
elsｅ
bｒeak
x，f＝subs（f,{xi,yi},x),count
end
ｘ＝subs(x，a,ai);
ｆ=ｘi-ｘi＾2+2*ｘi*yｉ+ｙｉ^2;
fxi=dｉff(f,ｘｉ）;
fyi=diff（f,ｙi);
fxi=subs(ｆxi,{xi,yi｝,ｘ);
fyi＝subs(fyi,｛xi,yｉ}，ｘ);
ｆii=[fxｉ，fyi];
ｄ=（fxi^2＋fyｉ^2)/(ｆx＾2+fy^２）；
s1＝－fii+ｄ*s；
coｕnt＝cｏunt+1;
fｘ＝fxi;
fy=fyi;
end
x,ｆ=sｕｂs(f,{xi,yi}，x）,ｃouｎｔ
输入：ｃｏnjugaｔe_grａｄ＿２ｄ([0，０］，0.0001）
结果：
ｘ＝０.24９988254９9785 －0.24９9９９９８７41２7３
f＝0.12４999９99８617６
ｃount＝10
ans = 0．12499999９８617６
六、结论如下:
最速下降法越接近极小值，步长越小，前进越慢。
牛顿法要求二阶导数，计算量很大。
共轭梯度法是介于最速下降和牛顿法之间的算法，
克服了最速下降法的收敛速度慢的缺点，又避免了牛顿法的大计算量。
-－。