1、數(shù)值線性代數(shù)習(xí)題解答習(xí)題1求下三角陣的逆矩陣的詳細(xì)算法。解 設(shè)下三角矩陣L的逆矩陣為T我們可以使用待定法，求出矩陣T的各列向量。為此我們將T按列分塊如下： 注意到我們只需運(yùn)用算法111，逐一求解方程便可求得注意 考慮到內(nèi)存空間的節(jié)省，我們可以置結(jié)果矩陣T的初始狀態(tài)為單位矩陣。這樣，我們便得到如下具體的算法：算法（求解下三角矩陣L的逆矩陣T，前代法）設(shè)為兩個(gè)上三角矩陣，而且線性方程組是非奇異的，試給出一種運(yùn)算量為的算法，求解該方程組。解 因，故為求解線性方程組，可先求得上三角矩陣T的逆矩陣，依照上題的思想我們很容易得到計(jì)算的算法。于是對(duì)該問題我們有如下解題的步驟：（1）計(jì)算上三角矩陣T的逆矩陣，

2、算法如下：算法 1（求解上三角矩陣的逆矩陣，回代法。該算法的的運(yùn)算量為）（2）計(jì)算上三角矩陣。運(yùn)算量大約為.（3）用回代法求解方程組：.運(yùn)算量為；（4）用回代法求解方程組：運(yùn)算量為。算法總運(yùn)算量大約為：證明：如果是一個(gè)Gauss變換，則也是一個(gè)Gauss變換。解 按Gauss變換矩陣的定義，易知矩陣是Gauss變換。下面我們只需證明它是Gauss變換的逆矩陣。事實(shí)上注意到，則顯然有從而有確定一個(gè)Gauss變換L，使解 比較比較向量和可以發(fā)現(xiàn)Gauss變換L應(yīng)具有功能：使向量的第二行加上第一行的2倍；使向量的第三行加上第一行的2倍。于是Gauss變換如下證明：如果有三角分解，并且是非奇異的，那么

3、定理112中的L和U都是唯一的。證明 設(shè) ，其中都是單位下三角陣，都是上三角陣。因?yàn)锳非奇異的，于是注意到，單位下三角陣的逆仍是單位下三角陣，兩個(gè)單位下三角陣的乘積仍是單位下三角陣；上三角陣的逆仍是上三角陣，兩個(gè)上三角陣的乘積仍是上三角陣。因此，上述等將是一個(gè)單位下三角陣與一個(gè)上三角陣相等，故此，它們都必是單位矩陣。即，從而即A的LU分解是唯一的。設(shè)的定義如下證明A有滿足的三角分解。證明 令 是單位下三角陣，是上三角陣。定義如下容易驗(yàn)證：設(shè)A對(duì)稱且，并假定經(jīng)過一步Gauss消去之后，A具有如下形式證明仍是對(duì)稱陣。證明 根據(jù)Gauss變換的屬性，顯然做矩陣A的LU分解的第一步中的Gauss變換為

4、其中，將A分塊為那么即 由A的對(duì)稱性，對(duì)稱性則是顯而易見的。設(shè)是嚴(yán)格對(duì)角占優(yōu)陣，即A滿足又設(shè)經(jīng)過一步Gauss消去后，A具有如下形式試證：矩陣仍是嚴(yán)格對(duì)角占優(yōu)陣。由此推斷：對(duì)于對(duì)稱的嚴(yán)格對(duì)角占優(yōu)矩陣來說，用Gauss消去法和列主元Gauss消去法可得得同樣的結(jié)果。證明 依上題的分析過程易知，題中的于是主對(duì)角線上的元素滿足（1）非主對(duì)角線上的元素滿足由于A是嚴(yán)格對(duì)角占優(yōu)的，即故從而（2）綜合（1）和（2）得即，矩陣仍是嚴(yán)格對(duì)角占優(yōu)陣。設(shè)有三角分解。指出當(dāng)把Gauss消去法應(yīng)用于矩陣時(shí)，怎樣才能不必存儲(chǔ)L而解出Ax=b？需要多少次乘法運(yùn)算？解 用Gauss消去法作A的LU分解，實(shí)際上就是對(duì)系數(shù)矩陣

5、A作了一組初等行變換，將其化為上三角矩陣U。而這一組的初等行變換對(duì)應(yīng)的變換矩陣就是，即如果把這一組初等行變換施加于方程右端向量b上，即有這就是說，方程組和是同解方程。而后者是上三角形方程組，可運(yùn)用本章算法112求解。這樣我們就不必存儲(chǔ)L，通求解方程組，來求解原方程組。算法如下：（1）用初等變換化；（2）利用回代法求解方程組。該算法所需要的加、減、乘、除運(yùn)算次數(shù)為10A是正定陣，如果對(duì)A執(zhí)行Gauss消去一步產(chǎn)生一個(gè)形式為的矩陣，證明仍是正定陣。證明 不妨設(shè)從而有由于非奇異，故對(duì)且，構(gòu)造，及，則由A的正定性有由x的任意性知，正定。11設(shè)并且是非奇異的。矩陣稱為是在A中的Schur余陣。證明：如果

6、有三角分解，那么經(jīng)過步Gauss消去以后，S正好等于（114）的矩陣證明 因?yàn)橛腥欠纸?，所以矩陣A可保證前步Gauss消去法可以順利完成。即有如下單位下三角矩陣使注意到比較兩式便知，故有12證明：如果用全主元Gauss消去法得到PAQ=LU，則對(duì)任意有證明 略。13利用列主元Gauss消去法給出一種求逆矩陣的實(shí)用算法。解 設(shè)A是非奇異的，則應(yīng)用列主元Gauss消去法可得到這里：P是置換陣，L是單位下三角陣，U是上三角陣。于是，通過求解下列n個(gè)方程組便可求得于是也就是說，求A的逆矩陣，可按下列方案進(jìn)行：（1）用列主元Gauss消去法得到：；（2）經(jīng)求解：得；（3）對(duì)X進(jìn)行列置換得：。14假定已

7、知的三角分解：A=LU。試設(shè)計(jì)一個(gè)算法來計(jì)算的（i，j）元素。解 求解方程組則x的第i個(gè)分量就是的（i,j）元素。15證明：如果是嚴(yán)格對(duì)角占優(yōu)陣（參見第8題），那么A有三角分解A=LU并且證明 仿照第8題的證明，容易證明：對(duì)于是嚴(yán)格對(duì)角占優(yōu)陣，經(jīng)過一步Gauss消去后，得到其中仍是嚴(yán)格對(duì)角占優(yōu)陣。A的三角分解A=LU中這樣，我們?cè)趯?duì)A進(jìn)行列主元三角分解時(shí)，不需要選擇主元，因?yàn)槊看蜗獣r(shí)，主元位置上的元素恰好是列主元。因此，16形如的矩陣稱作Gauss-Jordan變換，其中.（1）假定非奇異，試給出計(jì)算其逆矩陣的公式。（2）向量滿足何種條件才能保證存在使得?（3）給出一種利用Gauss-Jor

8、dan變換求的逆矩陣的算法。并且說明A滿足何種條件才能保證你的算法能夠進(jìn)行到底。解 為解決本問題，我們引入Gauss-Jordan變換的兩個(gè)性質(zhì)：性質(zhì)1： .事實(shí)上，性質(zhì)2：Gauss-Jordan變換非奇異的充分必要條件是.（1）運(yùn)用待定法，首先設(shè)的逆矩陣為，則有故應(yīng)有（2）欲使，則應(yīng)有即因此，應(yīng)滿足，便可按上述方法得到使得。（3）設(shè)A的逆矩陣，則應(yīng)有下面我們給出利用Gauss-Jordan變換求解方程組的計(jì)算方法。算法如下：假定A的各階主子陣非零，記第1步：假若，令，構(gòu)造，用左乘和，得到其中第2步：假定，令，構(gòu)造，用左乘和，得到其中照此下去，直到第n步：假定 ，構(gòu)造，用左乘和，得到經(jīng)上述n

9、步，我們得知：故從上面的約化過程可知，要保證算法進(jìn)行到底，必須保證：我們可以仿照定理1.1.2給出下列定理。定理：的充分必要條件是矩陣的各階順序主子陣非奇異。證明 對(duì)于用歸納法。當(dāng)時(shí)，定理顯然成立。假定定理直到成立，下面只需證明：若非奇異，則非奇異的充要條件是即可。由歸納假定知因此，Gauss-Jordan約化過程至少可以進(jìn)行步，即可得到個(gè)Gauss-Jordan變換使（16-1）由此可知的階順序主子陣有如下形式若將的階順序主子陣分別記為，則由（16-1）知注意到 所以即非奇異的充要條件是17證明定理131中的下三角陣L是唯一的。證明 因A是正定對(duì)稱矩陣，故其各階主子式均非零，因此A非奇異。為

10、證明L的唯一性，不妨設(shè)有和使那么注意到：和是下三角陣，和為上三角陣，故它們的逆矩陣也分別是下三角陣和上三角陣。因此，只能是對(duì)角陣，即從而于是得知18證明：如果A是一個(gè)帶寬為2m+1的對(duì)稱正定帶狀矩陣，則其Chelesky因子L也是帶狀矩陣。L的帶寬為多少？證明 帶寬為2m+1的矩陣的認(rèn)識(shí)：當(dāng)m=1時(shí)，2m+1=3，該帶寬矩陣形為：對(duì)m為任意一個(gè)合適的正整數(shù)來說，帶寬為2m+1的矩陣元素有如下特征：結(jié)合這一特征，對(duì)于帶寬為2m+1的對(duì)稱正定帶狀矩陣Ar的Colicky分解算法，可改寫成下列形式：從算法不難看出：Colicky因子L是下三角帶狀矩陣，L的帶寬為m+1.19若是A的Cholesky分

11、解，試證L的i階順序主子陣正好是A的i階順序主子陣的Cholesky因子。證明 將A和L作如下分塊其中：為矩陣A和L的i階順序主子陣。顯然故有。即是的Colicky分解。20證明：若是對(duì)稱的，而且其前個(gè)順序主子陣均非奇異，則A有唯一的分解式其中L是單位下三角矩陣，D是對(duì)角矩陣。證明 先證明存在性。根據(jù)定理112知，存在單位下三角陣L和上三角陣U，使A=LU，且U的主對(duì)角線上元素除外，其余都不為零。令，則有單位上三角陣使，即有又因?yàn)椋瑒t從而根據(jù)L和的可逆性知：該等式左端是一個(gè)上三角陣，右端是下三角陣。因此它們等于對(duì)角陣。再注意到單位上三角陣的乘積仍是單位上三角陣，單位下三角陣的乘積仍是單位下三角

12、陣。因此兩端都等于D。于是從而有再證唯一性。令，故有。左邊為下三角陣，右邊為上三角陣，故等于對(duì)角陣。又因，故。21給出按行計(jì)算Cholesky因子L的詳細(xì)算法。解 略。22利用改進(jìn)的平方根法設(shè)計(jì)一種計(jì)算正定對(duì)稱矩陣的逆的算法。解 算法可分為以下幾個(gè)步驟：（1）首先利用算法132計(jì)算出正定矩陣的如下分解其中，L是單位下三角陣，D是對(duì)角陣。（2）求解矩陣方程其解矩陣.（3）求解矩陣方程其解矩陣（4）求解矩陣方程其解矩陣注意 以上（2）、（3）、（4）步都是求解非常簡單的方程組，算法實(shí)現(xiàn)起來很容易。23設(shè)用平方根法證明A是正定的，并給出方程組的解。解 由Colicky分解可得其中顯然，L是非奇異矩陣

13、。因此，對(duì).于是所以是正定的。由方程組，解得，再由方程組，解得24設(shè)是一個(gè)正定Hermite矩陣，其中證明：矩陣是正定對(duì)稱的。試給出一種僅用實(shí)數(shù)運(yùn)算的算法來求解線性方程組解 既然是正定的，又對(duì)，有，且.且注意到顯然H正等價(jià)于A、B正定。對(duì)，則有由前面的討論，知道若H是正定的，則A是正定的，故矩陣C是正定的。由于于是求解原復(fù)數(shù)方程組，等價(jià)于求解下列實(shí)方程組其矩陣形式為：由（1）得知系數(shù)矩陣正定，故該方程可采用平方根算法求解。習(xí)題22.1 設(shè)是個(gè)正數(shù)。證明：由定義的函數(shù)是一個(gè)范數(shù)。證明 只需驗(yàn)證滿足定義2.1.1的三個(gè)條件。其中（1）和（2），即正定性和齊次性顯然成立，下面給出（3）三角不等式的證

14、明。像2范數(shù)的證明一樣，要證明三角不等式，需要用到Cauchy-Schwartz不等式欲證明這個(gè)不等式，只需證明：對(duì)任意的，有下列等式成立用數(shù)學(xué)歸納法證明。當(dāng)時(shí)，等式顯然成立。不妨歸納假設(shè)當(dāng)時(shí)，等式仍然成立，即有（E2.1）現(xiàn)在來考慮時(shí)的情形，注意到至此，我們便證明了前述等式。亦即證明了Cauchy-Schwartz不等式。又因?yàn)槭莻€(gè)正數(shù)，因此有從而對(duì)，我們有2.2 證明：當(dāng)且僅當(dāng)和線性相關(guān)且時(shí)，才有.證明 因?yàn)閷?duì)任意的于是，當(dāng)且僅當(dāng)由等式（E2.1）可知，當(dāng)且僅當(dāng)，即，對(duì)任意的，此式成立不外乎二種情形：或；或；或.即和線性相關(guān)。2.3 證明：如果是按列分塊的，那么證明 因?yàn)?2.4 證明：證

15、明 記，那么，根據(jù)第3題的結(jié)果我們有根據(jù)Frobenius范數(shù)定義易知，對(duì). 于是2.5 設(shè)是由定義的。證明是矩陣范數(shù)，并且舉例說明不滿足矩陣范數(shù)的相容性。證明 （1）證明是矩陣范數(shù)。因?yàn)轱@然滿足矩陣范數(shù)定義中的前三條：正定性、齊次性、三角不等式。下面我們證明還滿足“相容性”。對(duì)任意，記，且則，且（2）一個(gè)不滿足矩陣范數(shù)的相容性的例子。取，則。于是，從而2.6 證明：在上，當(dāng)且僅當(dāng)是正定矩陣時(shí)，函數(shù)是一個(gè)向量范數(shù)。證明 由于A是正定矩陣，不妨設(shè)是A的特征值，是其對(duì)應(yīng)的標(biāo)準(zhǔn)正交特征向量，即顯然，是線性無關(guān)的。因此，=span. 記，那么，且對(duì)任意，總有使.命題的充分性是很顯然的。因?yàn)槭巧系南蛄糠?/p>

16、數(shù)，則由其正定性可知A必為正定矩陣?，F(xiàn)在我們來證明命題的必要性。即假設(shè)是正定矩陣，則函數(shù)滿足向量范數(shù)定義的三條性質(zhì)：正定性。由A的正定性，正定性顯然成立。齊次性。對(duì)任意的，因?yàn)?，故?三角不等式。對(duì)于任意給定的，有，使應(yīng)用習(xí)題2.1的結(jié)果，得即有2.7 設(shè)是上的一個(gè)向量范數(shù)，并且設(shè). 證明：若，則是上的一個(gè)向量范數(shù)。證明 當(dāng)時(shí)，當(dāng)且僅當(dāng)是上的零向量。再由假設(shè)是上的一個(gè)向量范數(shù)，于是可證得滿足：正定性。事實(shí)上，對(duì)任意，而且當(dāng)且僅當(dāng).齊次性。事實(shí)上，對(duì)所有的和有，因此.三角不等式。事實(shí)上，對(duì)所有的有，因此有2.8 若且，證明.證明 首先用反證法，證明的存在性。設(shè)奇異，則有非零解，且，于是，從而.

17、這與假設(shè)矛盾?，F(xiàn)在來證明命題中的不等式。注意到：，且故有即2.9 設(shè)|.|是由向量范數(shù)|.|誘導(dǎo)出的矩陣范數(shù)。證明：若非奇異，則證明 因?yàn)閨.|是向量范數(shù)誘導(dǎo)的矩陣范數(shù)，故|I|=1，且對(duì)和，有 于是對(duì)，有且當(dāng)|x|=1時(shí)，有（E2.2）現(xiàn)在只需證明：存在且|x|=1，使即可。根據(jù)算子范數(shù)的定義，我們不妨假設(shè)且|y|=1，使. 再取，顯然|x|=1，且（E2.3）綜合(E2.2)和(E2.3)得2.10 設(shè)是的LU分解。這里，設(shè)和分別表示和的第行，驗(yàn)證等式并用它證明解 記于是注意到：. 則有現(xiàn)在來證明因?yàn)?.11 設(shè)（）計(jì)算；（）選擇，使得而且很小，但卻很大；（3）選擇，使得而且很小，但卻很大

18、。解 （1）顯然從而，于是選?。海瑒t可計(jì)算得選?。海瑒t可計(jì)算得.2.12 證明對(duì)任意的矩陣范數(shù)都有，并由此導(dǎo)出證明 由定理2.1.6（1）可知，對(duì)任意矩陣范數(shù)都有，而，于是，從而.2.13 若和都是非奇異的，證明.證明 因?yàn)樗裕鶕?jù)矩陣范數(shù)的相容性可得.2.14 估計(jì)連乘中的上界.解 假定那么則由定理2.3.3，若假定，則，從而.2.15 證明：若，則其中證明 由定理23.2得以此類推，我們有其中： 令 ，那么再由定理2.3.3知2.16 設(shè)，而且 證明：其中的元素滿足證明 因?yàn)橛衫?.3.1的結(jié)果我們可以得到其中再由定理2.3.3得令，則注意到從而得到其中.2.17 證明：若是維向量，則，

19、其中證明 由定理2.3.2可知，對(duì)一切，有下面對(duì)用數(shù)學(xué)歸納法證明。當(dāng)=1時(shí)，命題顯然成立。假設(shè)當(dāng)時(shí)，命題仍然成立，即有那么當(dāng)時(shí)，我們有，其中， 于是 ，從而由介值定理顯然存在，使即當(dāng)時(shí)，命題亦成立。習(xí)題3設(shè)用正則化方法求對(duì)應(yīng)的問題的解解由定理.1.4可知, 問題的解就是下列正則化方程組解：即解得：設(shè)求對(duì)應(yīng)的問題的全部解解由定理.1.4可知, 問題的解就是下列正則化方程組解：經(jīng)初等行變換得其同解方程組從而即,其中設(shè),求一個(gè)Householder變換和一個(gè)正數(shù)使得解 由于2范數(shù)具有正交不變性, 故. 于是于是,令那么,可以驗(yàn)證滿足該題的要求.4確定和使得解由范數(shù)具有正交不變性，故于是從而假定是一個(gè)

20、二維復(fù)向量，給出一種算法計(jì)算一個(gè)如下形式的酉矩陣使得的第二個(gè)分量為零解對(duì)于復(fù)向量的范數(shù)定義如下：顯然，在復(fù)數(shù)空間中，2范數(shù)仍然保持著正交不變性。即對(duì)酉矩陣Q有根據(jù)題意，不妨設(shè)，從而注意到于是由，從而不妨設(shè)，即，又因，所以.6假定和是中的兩個(gè)單位向量，給出一種使用Givens變換的算法，計(jì)算一個(gè)正交陣，使得解 首先考慮對(duì)指定的一個(gè)二維非零向量和一個(gè)實(shí)數(shù)，如何構(gòu)造Givens變換使。注意2范數(shù)的正交不變性，則(這里我們假定了，稍后對(duì)此加以處理)那么，G應(yīng)滿足即注意，則矩陣于是這樣，我們便可考慮從的前兩個(gè)分量開始，施以Givens變換，便其第一個(gè)分量變換為. 然后對(duì)施以Givens變換，使其首分量變

21、換為；這樣一直繼續(xù)次變換，最后使得變換為幾點(diǎn)說明： 為使算法能一步步正常進(jìn)行，需要首先對(duì)單位向量用一組Givens變換進(jìn)行規(guī)范化處理，使其成為標(biāo)準(zhǔn)單位向量.這樣在接下來的步的Givens變換中就能保證. 在規(guī)范化后，對(duì)其實(shí)施正交變換的每一步中，可以通過逐次計(jì)算向量的范數(shù)，當(dāng)其等于1時(shí)，即可結(jié)束算法。因?yàn)榇藭r(shí)，和的剩余分量均以為零。算法總結(jié)：算法1（用Givens變換求正交矩陣使單位向量滿足：）void standard(double *g,double *x,int n) int i,j; for(i=0;in;i+) for(j=0;j=0;i-) if(xi+1=0) continue;

22、else if(fabs(xi+1)fabs(xi) t=xi/xi+1; s=1.0/sqrt(1.0+t*t); c=s*t; else t=xi+1/xi; c=1.0/sqrt(1.0+t*t); s=c*t; xi=c*xi+s*xi+1; xi+1=0; for(j=0;jn;j+) a=gij;b=gi+1j; gij=c*a+s*b; gi+1j=c*b-s*a; 算法2（計(jì)算Givens變換，其中已知）void GetCS(double *g,double *x,double y) double a; a=sqrt(x0*x0+x1*x1-y*y); if(a=0) g0=1

23、; g1=0; else g0=(x0*y+a*x1)/(x0*x0+x1*x1); g1=(x1*y-a*x0)/(x0*x0+x1*x1); x0=y; x1=a; 算法3（使用Givens變換，求正交矩陣G使單位向量滿足：）void XtoY(double *g,double *x,double *y,int n) standard(g,x,n); double c,s,t; double cs2; t=0.0; for(int i=0;in-1;i+) GetCS(cs,x+i,yi); for(int j=0;jn;j+) c=gij;s=gi+1j; gij=cs0*c+cs1*s

24、; gi+1j=cs0*s-cs1*c; t+=yi*yi; if(t=1) break; 7設(shè)是中的兩個(gè)非零向量，給出一種算法來確定一個(gè)householder矩陣，使，其中解 （1）當(dāng)線性相關(guān)時(shí)，.（2）當(dāng)線性無關(guān)時(shí)，令：，則即為所求。8假定是下三角陣，說明如何確定Householder矩陣，使得其中是下三角陣。解 為討論方便，我們記第1步：令其中：，構(gòu)造，則由householder變換的性質(zhì)得第2步：令其中：，構(gòu)造：，則；第n步，令：，構(gòu)造，則有。9假定的秩為，并假定已經(jīng)用部分主元Gauss消去法計(jì)算好了LU分解，其中是單位下三角陣，是上三角陣，是排列方陣。說明怎樣用上題中的分解方法去找向

25、量使得并證明：如果，那么解 由上題的結(jié)果可知，存在正交矩陣使.由2范數(shù)的正交不變性可知，記則有從而最小二乘問題：的求角解算法可按下列計(jì)算過程實(shí)現(xiàn)： 利用上題的算法分解下三角陣，即求正交陣：； 計(jì)算：； 求解下三角方程組現(xiàn)在來證明：如果，那么結(jié)合上面討論的算法，我們只須證明：等價(jià)于事實(shí)上，與是等價(jià)的。10設(shè)且存在使得對(duì)每一個(gè)均極小化。證明：解 由矩陣奇異值分解定理知，設(shè)的秩 ，則存在階正交陣和階正交陣，使其中：是的非零特征值全體。可以證明矩陣，且.事實(shí)上，由定理3.1.4可知，對(duì)任一是=min.的解。另外，于是我們有11. 設(shè)是一個(gè)對(duì)角加邊矩陣，即試給出用Givens變換求A的QR分解的詳細(xì)算法

26、。解 算法可分兩部分：第一部分通過n-1次Givens變換，將A變換成如下形式第二部分通過n-1次Givens變換，將變換成如下形式下面我們?cè)敿?xì)描述這兩部分算法過程：第一部分：對(duì)于.構(gòu)造其中從而算法1（計(jì)算Givens變換1）算法2：（完成本題中的第一部分計(jì)算）第二部分，也是需要n-1個(gè)Givens變換其中從而算法3（計(jì)算Givens變換2）算法4：（完成本題中的第二部分計(jì)算）12利用等于證明：如果，那么證明 令泛函如果，那么對(duì)當(dāng)且充分小時(shí)，從而由連續(xù)性有，由的任意性，則必有，即習(xí)題四1. 設(shè)方程組的系數(shù)矩陣為證明：對(duì)來說，Jacobi迭代不收斂，而G-S迭代收斂；而對(duì)來說，Jacobi迭代收

27、斂，而G-S迭代不收斂。解 對(duì)于，則有從而，于是從而，即有由定理4.2.1知，Jacobi迭代法不收斂；G-S迭代收斂。對(duì)于，從而進(jìn)而顯然， 故由定理4.2.1知，Jacobi迭代法收斂；G-S迭代不收斂。2. 設(shè)滿足，證明對(duì)任意的，迭代格式最多迭代次就可得方程組的精確解。證明 由于，故的所有特征值均為零。于是存在正交矩陣及矩陣使，注意到于是：另一方面，記： 從而，即.3.考慮線性代數(shù)方程組這里（1）為何值時(shí)，是正定的？（2）為何值時(shí)，Jacobi迭代收斂？（3）為何值時(shí)，G-S迭代收斂？解（1）對(duì)稱矩陣正定的充分必要條件是其特征值均為正數(shù)。而的特征多項(xiàng)式為于是的特征值為：欲使它們均大于零，則

28、（2）由于Jacobi迭代矩陣為的特征多項(xiàng)式為其特征值為：，于是譜半徑. 由定理4.2.1可知，Jacobi迭代收斂當(dāng)且僅當(dāng). 從而當(dāng)時(shí)，Jacobi迭代收斂。（3）由于G-S迭代矩陣為其特征多項(xiàng)式為特征值為：從而 故由定理4.2.1可知，當(dāng)時(shí)，G-S迭代收斂。注意：（2）和（3）中的可以是復(fù)數(shù)。4. 證明：若非奇異，則必可找到一個(gè)排列方陣使得的對(duì)角元素均不為零。證明 用數(shù)學(xué)歸納法證明。時(shí)，結(jié)論顯然成立。假定對(duì)階非奇異矩陣，結(jié)論也成立。那么對(duì)于階非奇異矩陣我們來證明結(jié)論也是成立的。將按第1列作拉普拉斯展開，即有從而必存在，使，即，. 排列陣能使其中，且是的第行，是的第1列左乘排列陣后的向量，是

29、的余子式。顯然，即非奇異。由歸納假設(shè)，則存在階排列陣使的對(duì)角元素均不為零。作階排列陣則將只更換的后行，且使其右下角的階子矩陣的對(duì)角線元素非零。令，則的各對(duì)角線元素均非零。注意：本題結(jié)論為使用古典迭代法求解線性方程組奠定了可行性。對(duì)于非奇異線性方程組，完全可以假定其系數(shù)矩陣對(duì)角線元素均不為零，即D非奇異。5若是嚴(yán)格對(duì)角占優(yōu)的或不可約對(duì)角占優(yōu)的，則G-S迭代法收斂。證明 若是嚴(yán)格對(duì)角占優(yōu)的或不可約對(duì)角占優(yōu)的，則必有，因此非奇異。現(xiàn)在來證明：G-S迭代矩陣的譜半徑小于1。假設(shè)，則由的假設(shè)知，也是嚴(yán)格對(duì)角占優(yōu)或不可約對(duì)角占優(yōu)的，因此，而由于這說明迭代矩陣不存在模大于等于1的特征值。因此，從而G-S迭代

30、收斂。6設(shè)是嚴(yán)格對(duì)角占優(yōu)的。試證：證明 由Gerschgorin定理知，對(duì)任意階復(fù)矩陣，其特征值都在復(fù)平面上的個(gè)圓的和集內(nèi)。從而對(duì)任意一個(gè)特征值均有從而7. 設(shè)是具有正對(duì)角元素的非奇異對(duì)稱矩陣。證明：若求解的G-S迭代方法對(duì)任意近似皆收斂，則必為正定的。證明 方程組的G-S迭代如下：，由的對(duì)稱性可知，即G-S迭代又可寫成若令方程組的精確解為，并記，則有若令 注意到：，則有， 用和分別左乘上兩式，并做差得注意到：，故得由題設(shè)可知D是正定的，因此，上式表明誤差向量具有某種“減小性”，即現(xiàn)在來證明若G-S迭代收斂，則A是正定的。用反證法：設(shè)A不正定，則可找到一個(gè)，使。由題設(shè)知：，所以非奇異，于是方程

31、組有非零解，記為，則由假設(shè)知于是有這與的減小性相抵觸。該矛盾說明A是正定的。8若存在對(duì)稱正定陣P，使為對(duì)稱正定陣，試證迭代法收斂。證明 設(shè)是的任一特征值，是關(guān)于的特征向量，于是因都是正定陣，故，即 . 由的任意性得知，故迭代法收斂。9對(duì)Jacobi方法引進(jìn)迭代參數(shù)，即或者稱為Jacobi松馳法（簡稱JOR方法）證明：當(dāng)?shù)腏acobi方法收斂時(shí)，JOR方法對(duì)收斂證明對(duì)于，則Jacobi迭代矩陣和JOR迭代矩陣分別是由于Jacobi迭代收斂當(dāng)且僅當(dāng)，即的任一特征值現(xiàn)設(shè)是Jacobi迭代矩陣的一個(gè)特征值，非零向量是其對(duì)應(yīng)的特征向量，則有即有進(jìn)而即若是Jacobi迭代矩陣的一個(gè)特征值，則便是的一個(gè)特征

32、值當(dāng)取定：，并假定，注意到即的所有特征值模小于，從而，即JOR迭代收斂10證明：若是具有正對(duì)角元的實(shí)對(duì)稱矩陣，則JOR方法收斂的充分必要條件是及均為正定對(duì)稱矩陣證明由于的對(duì)角元都是正數(shù)，故的對(duì)角元為正數(shù)，故顯然，矩陣與相似，兩者有相同的特征值。同時(shí)，它與A有著相同的實(shí)對(duì)稱性。因此，兩個(gè)矩陣的特征值都是實(shí)數(shù)。必要性。設(shè)JOR迭代收斂，即那么，矩陣的特征值在區(qū)間內(nèi)，于是得出的特征值位于區(qū)間內(nèi)，這就是說是正定的，而它與具有相同的正定性，因此也是正定的另外，實(shí)對(duì)稱矩陣的特征值完全由的特征值所生成，所以的特征值將全部位于區(qū)間內(nèi)，因此是正定的。注意到因此矩陣也是正定的。充分性。一方面，因?yàn)樗耘c一樣是正定

33、矩陣。即的特征值均大于0即的特征值均小于另一方面，由于正定，而且所以，矩陣是正定的，即特征值全部為正數(shù)，即的特征值均大于結(jié)合兩方面的結(jié)果，得知：，即JOR迭代收斂11.證明：若系數(shù)矩陣是嚴(yán)格對(duì)角占優(yōu)的或不可約對(duì)角占優(yōu)的，且松馳因子，則SOR收斂。證明 若矩陣是嚴(yán)格對(duì)角占優(yōu)的或不可約對(duì)角占優(yōu)的，則必有，因此D非奇異?，F(xiàn)假定某個(gè)復(fù)數(shù)，則矩陣也是嚴(yán)格對(duì)角占優(yōu)的或不可約對(duì)角占優(yōu)的。不妨假設(shè)，且，于是就有從而因此得到于是由的嚴(yán)格對(duì)角占優(yōu)或不可約嚴(yán)格對(duì)角占優(yōu)可知也是嚴(yán)格對(duì)角占優(yōu)或不可約對(duì)角占優(yōu)的。因此，是非奇異的。而因此，不是SOR迭代矩陣的特征值。由的任意可知，的特征值都將滿足，于是，從而SOR迭代收斂

34、。12證明矩陣是具有相容次序的證明只需按定義驗(yàn)證，取矩陣符合相容次序的定義習(xí)題5證明等式(5.1.4)證明考慮在方程組的解向量處的Taylor展式，則有，注意到：，于是上式可寫為設(shè)是由最速下降法產(chǎn)生的證明：，其中證明由Taylor展式易知注意到：，由的正定性可知是正定的，因此，于是，從而試證明當(dāng)最速下降法在有限步求得極小值時(shí)，最后一步迭代的下降方向必是的一個(gè)特征向量證明假定在步迭代后，得到了精確解，即，從而有，記：，整理可得，即是說是的一個(gè)特征值，是其對(duì)應(yīng)的特征向量4證明線性方程組(5.2.1)的解存在唯一證明為證明(5.2.1)的解存在唯一，只需證明其系數(shù)矩陣的行列式不為零注意到：，其中由定

35、理5.2.1可得為了討論方便，我們引入記號(hào)，則將代入后，得設(shè)對(duì)稱正定的，是互相共軛正交的，即證明是線性無關(guān)的證明若有一組數(shù)滿足則對(duì)一切一定有注意到，由此得出：即所有的因此，是線性無關(guān)的設(shè)為對(duì)稱正定矩陣，從方程組的近似解出發(fā)，依次求使得，其中是階單位矩陣的第列，然后令驗(yàn)證這樣得到的迭代算法就是迭代法證明在下面的討論中，我們用表示第迭代的向量，表示的第個(gè)分量第一步：從出發(fā)，沿方向搜索得新的極小值點(diǎn)，則，其中，從而；完成第一步后，可以看出與直接從做迭代一步所得的第一個(gè)分量相同現(xiàn)在考慮第迭代假定的前個(gè)分量符合迭代形式，現(xiàn)從出發(fā)，沿進(jìn)行極小化搜索，得極小值點(diǎn)，其中從而這里顯然令，則恰與對(duì)經(jīng)一次迭代后的近

36、似解完全一致設(shè)是一個(gè)只有個(gè)互不相同的特征值的實(shí)對(duì)稱矩陣，是任一維實(shí)向量證明：子空間的維數(shù)至多是證明由于是實(shí)對(duì)稱矩陣，因此存在一個(gè)完全實(shí)特征向量系不妨設(shè)的特征值為其重?cái)?shù)為， ，且設(shè)關(guān)于 的特征向量為，是的單位正交實(shí)特征向量系，于是對(duì)任一維實(shí)向量有從而現(xiàn)在用歸納法證明的維數(shù)至多是當(dāng)，假定存在個(gè)實(shí)數(shù)使在上式兩邊同乘以，則得到將其看作是的方程，則系數(shù)矩陣為，顯然，它是一個(gè)秩不超過的矩陣因此，該方程的解系的自由變量至少有個(gè)這說明的維數(shù)為到多為習(xí)題6（上）1設(shè)矩陣，矩陣，且證明：證明令：則顯然，欲證本題結(jié)論，只需證明：假設(shè)，分兩種情況討論：（）是的一個(gè)特征值，非零維向量是關(guān)于的特征向量，即有，顯然，于是有

37、，此式表明是的特征值，對(duì)應(yīng)的特征向量為從而有（），則即于是得知：同理可證：從而由和的定義知：至此，命題得證 設(shè)是的Schur分解證明：有收斂的子序列；若記，則有是上三角矩陣證明由于是的Schur分解，因此是上三角矩陣，因此，仍上上三角矩陣設(shè)沒有重特征值，滿足證明：若是的Schur分解，則是上三角矩陣證明根據(jù)題設(shè)，既然沒有重特征值，不妨設(shè)的特征值如下排列再由Schur分解定理，不妨設(shè)定再將代入中，整理可得為敘述方便，記至此我們只需證明：對(duì)于一個(gè)階矩陣，如果，則必是上三角矩陣用歸納法證明當(dāng)時(shí)，設(shè)于是有由于，則對(duì)應(yīng)地有：，又因，故得即是上三角矩陣歸納假設(shè)，當(dāng)和為階矩陣時(shí)結(jié)論成立現(xiàn)在來證明階的情況，我

38、們將寫成如下塊形狀于是便有因，故應(yīng)有，于是，由題設(shè)不難清楚非奇異，因此從而，進(jìn)而得知由歸納假設(shè)知是上三角矩陣從而證得是上三角矩陣設(shè)，對(duì)于給定的非零向量定義，稱之為對(duì)的Rayleigh商證明對(duì)任意的有，即Rayleigh商有極小剩余性證明證明 使達(dá)到極小的問題是一個(gè)關(guān)于未知量的線性最小二乘問題它的正規(guī)方程即是，其解為從而設(shè)求的特征值的條件數(shù)解顯然都是單特征值對(duì)于來說，顯然是關(guān)于的一個(gè)模特征向量同時(shí)，容易求得是關(guān)于的滿足的左特征向量，故由特征值條件數(shù)的定義得知對(duì)于來說，解方程得到關(guān)于的特征向量當(dāng)時(shí)，再由方程可解得關(guān)于的左特征向量，令，則得出從而由特征值條件數(shù)的定義知分別應(yīng)用冪法于矩陣，并考察所得序

39、列的特性解我們不妨設(shè)對(duì)于矩陣即初始向量：，迭代如下： ； ；一般地，顯然對(duì)于矩陣取初始向量：，則迭代得到；由此我們可以看出，迭代數(shù)列：，和向量序列：均不收斂但它們都各對(duì)應(yīng)地存在兩個(gè)收斂子列即當(dāng)腳標(biāo)為奇數(shù)時(shí)，；當(dāng)腳標(biāo)為偶數(shù)時(shí)，在冪法中，取得到一個(gè)精確到位數(shù)字的特征向量需要多少次迭代？解分析冪法可知，由算法得到的向量序列滿足：注意到：于是得知，欲使計(jì)算結(jié)果精確到位數(shù)字，只需解之得：設(shè)有實(shí)特征值滿足現(xiàn)應(yīng)用冪法于矩陣試證：選擇所產(chǎn)生的向量序列收斂到屬于的特征向量的速度最快。證明由于特征值滿足，因此不論如何，的按模最大的特征值為或，當(dāng)我們希望計(jì)算和時(shí)，首先就選擇使且使收斂速度的比值顯然，當(dāng)，即時(shí)，收斂速

40、度的比值最小，即收斂速度最快10應(yīng)用冪法給出求多項(xiàng)式之模最大根的一種算法。解 根據(jù)拉普拉斯展開公式得知若令則有。這樣，我們就可以針對(duì)矩陣A利用冪法求得多項(xiàng)式的一個(gè)模最大特征值。利用反冪法計(jì)算矩陣對(duì)應(yīng)于近似特征值（精確特征值中）的近似特征向量解取初始向量：，位移取為，用反冪法迭代一次，即先求解方程組解得：；單位化得設(shè)，并假定和已給定，且不是的特征值證明：可選擇滿足使得向量是的一個(gè)特征向量證明根據(jù)題設(shè)可知，都是非零向量，因此存在Householder變換使令，由于是正交的，故，因此同時(shí)有即向量是關(guān)于其特征值的一個(gè)特征向量設(shè)，并假定是的特征值但不是的特征值證明：存在向量使得證明設(shè)非零向量為關(guān)于的特征

41、向量，即，再?。?，則，從而，即應(yīng)用基本的迭代于矩陣，并考察所得的矩陣序列的特點(diǎn)，并判斷該矩陣序列是否收斂？解用Givens正交變換實(shí)現(xiàn)迭代：第步：，第步：，由上面的兩步迭代，即已說明對(duì)該矩陣進(jìn)行迭代，其矩陣序列由兩個(gè)矩陣構(gòu)成其奇數(shù)項(xiàng)和偶數(shù)項(xiàng)，因此該矩陣序列不收斂設(shè)證明：存在初等置換矩陣和初等下三角矩陣使得有如下形式證明若的第一列除第一個(gè)非分量外，其余各分量為零，則結(jié)論顯然成立不妨假設(shè)的第一列除第一個(gè)分量外，至少還有一個(gè)分量非零，并設(shè)，那么我們?nèi)。瑥亩衅渲校豪^而構(gòu)造Gauss變換其中：則不難驗(yàn)證具有題中的形式依照即可完成習(xí)題6(下)設(shè)，證明：如果是非奇異的，則是上Hessenberg矩陣證明由

42、假設(shè)可知，的個(gè)列向量是線性無關(guān)的我們令則現(xiàn)在我們來考察上式兩邊矩陣的前列則有，由于是線性無關(guān)的，因此從而得知證明：若是一個(gè)非虧損的上Hessenberg矩陣則沒有重特征值證明設(shè)是的一個(gè)特征值，則由于是不可約的，即次對(duì)角線上的各元素，故的秩為，因此方程組，的基礎(chǔ)解系的秩為，即對(duì)應(yīng)于的特征向量都是線性相關(guān)的又是非虧損的，因此，將有個(gè)線性無關(guān)的特征向量而每個(gè)特征值只對(duì)應(yīng)存在一個(gè)線性無關(guān)的特征向量，因此必具有個(gè)互不相等的特征值即沒有重特征值設(shè)是一個(gè)為可約的上Hessenberg矩陣證明存在一個(gè)對(duì)角矩陣使得的次對(duì)角元素均為是多少？證明令，則由矩陣乘積的定義可知的次對(duì)角元素依次為令其均等于，則可得到令，則

43、從而記，則設(shè)是一個(gè)上Hessenberg矩陣，并假定是的對(duì)應(yīng)于實(shí)特征值的一個(gè)特征向量試給出一個(gè)算法計(jì)算正交矩陣使得，其中是階上Hessenberg矩陣解不妨假定，以作為第一列構(gòu)造正交矩陣，顯然，從而便有其中將算法6.4.1用于階矩陣，得，再令，為本題所求的正交矩陣，即設(shè)是一個(gè)奇異的不可約上Hessenberg矩陣證明：進(jìn)行一次基本的QR迭代后，的零特征值將出現(xiàn)證明由于是奇異的不可約上Hessenberg矩陣，所以它的秩為且由定理3.3.1可知，的分解如下，其中是上三角矩陣，其對(duì)角元素均為正數(shù)于是由算法可知，仍是上Hessenberg矩陣，這樣零特征值便出現(xiàn)了的右下角證明：若給定，并由產(chǎn)生矩陣序

44、列，則證明先來證明下面的等式關(guān)系：事實(shí)上，特別地，當(dāng)時(shí)，下面我們用歸納法證明本題結(jié)論當(dāng)時(shí)，結(jié)論顯然成立現(xiàn)歸納假設(shè)時(shí)，結(jié)論仍然成立，即有現(xiàn)在來證明對(duì)于時(shí)，結(jié)論仍然成立事實(shí)上，設(shè)是一具有互不相同對(duì)角元素的上三角矩陣，給出計(jì)算的全部特征向量的詳細(xì)算法解根據(jù)題設(shè)，的對(duì)角元素恰是個(gè)互不相等的特征值下面給出計(jì)算關(guān)于特征值的特征向量方法記關(guān)于特征值的特征向量為，它是下列方程組的非零解向量為討論其算法，我們記，我們將和做如下分塊這里是一個(gè)非奇異的階上三角矩陣；是一個(gè)非奇異矩陣；從而，方程等價(jià)于顯然，根據(jù)以上的分析，我們得到計(jì)算關(guān)于特征值的特征向量的算法步驟如下：（）任?。唬ǎ?duì)于依次計(jì)算：；（）取：證明：對(duì)任意的