1、最速下降法求解線性代數(shù)方程組要求：對于給定的系數(shù)矩陣、右端項(xiàng)和初值，可以求解線性代數(shù)方程組一、最速下降法數(shù)學(xué)理論在基本迭代公式中，每次迭代搜索方向取為目標(biāo)函數(shù)的負(fù)梯度方向，即，而每次迭代的步長取為最優(yōu)步長，由此確定的算法稱為最速下降法。為了求解問題，假定我們已經(jīng)迭代了次，獲得了第個(gè)迭代點(diǎn)?，F(xiàn)在從出發(fā)，可選擇的下降方法很多，一個(gè)非常自然的想法是沿最速下降方向（即負(fù)梯度方向)進(jìn)行搜索應(yīng)該是有利的，至少在鄰近的范圍內(nèi)是這樣。因此，去搜索方向?yàn)?為了使目標(biāo)函數(shù)在搜索方向上獲得最多的下降，沿進(jìn)行一維搜索，由此得到第個(gè)跌帶點(diǎn)，即，其中步長因子按下式確定， . （1）顯然，令就可以得到一個(gè)點(diǎn)列,其中是初始點(diǎn)

2、，由計(jì)算者任意選定。當(dāng)滿足一定的條件時(shí)，由式（1）所產(chǎn)生的點(diǎn)列必收斂于的極小點(diǎn)。二、最速下降法的基本思想和迭代步驟已知目標(biāo)函數(shù)及其梯度，終止限和.（1） 選定初始點(diǎn)，計(jì)算；置.（2） 作直線搜索：；計(jì)算.用終止準(zhǔn)則檢驗(yàn)是否滿足：若滿足，則打印最優(yōu)解，結(jié)束；否則，置，轉(zhuǎn)（2）（3） 最速下降法算法流程圖如圖所示.結(jié)束 終止準(zhǔn)則滿足？ 選定開始三、最速下降法的matlab實(shí)現(xiàn)function x,n=twostep(A,b,x0,eps,varargin) %兩步迭代法求線性方程組Ax=b的解if nargin=3 eps= 1.0e-6; M = 200;elseif nargin=eps x0

3、 =x; x12=B1*x0+f1; x =B2*x12+f2; n=n+1; if(n=M) disp(Warning: 迭代次數(shù)太多，可能不收斂！); return; endendfunction x,n= fastdown(A,b,x0,eps) %最速下降法求線性方程組Ax=b的解if(nargin = 3) eps = 1.0e-6;endx=x0;n=0;tol=1;while(toleps) %以下過程可參考算法流程 r = b-A*x0; d = dot(r,r)/dot(A*r,r); x = x0+d*r; tol = norm(x-x0); x0 = x; n = n + 1;end四、最速下降法的算例實(shí)現(xiàn)A=5 2 0;6 4 1;1 2 5;b=10 1