1、第五章 解線性方程組迭代法5.1 引言5.2 基本迭代法5.3 迭代法收斂性5.4 分塊迭代法第1頁第1頁5.1 引言 本章簡介求解線性方程組 迭代求解方法，其中 ， 。假設(shè) 非奇異，則方程組有唯一解 。 本章簡介迭代法一些基本理論及Jacobi迭代法，Gauss-Seidel迭代法，超松弛迭代法等慣用迭代法。迭代法例例：用迭代法求解線性方程組：記為： ，其中：第2頁第2頁5.1 引言已知其準確解為： ?，F(xiàn)將方程組改寫成下列等價形式：迭代法例例：用迭代法求解線性方程組：記為： ，其中：第3頁第3頁5.1 引言已知其準確解為： ?，F(xiàn)將方程組改寫成下列等價形式：或?qū)憺?，其中： 第4頁第4頁5.1

2、 引言由此建立迭代格式（公式）： 給定初始向量： ，則可得：或?qū)憺?，其中： 第5頁第5頁5.1 引言由此建立迭代格式（公式）： 給定初始向量： ，則可得：當(dāng) 時，有： ，得近似解： ，由此能夠看出由迭代法產(chǎn)生向量序列 逐步迫近方程組準確解 。k1234x10.7780.9630.9930.999x20.8000.9640.9930.999x30.8670.9720.9950.999第6頁第6頁5.1 引言例2：考慮方程組： ，取初值 ，則有：可見不收斂。 因此，我們得到：對于任何一個方程組 ，由迭代法產(chǎn)生向量序列 不一定收斂。當(dāng) 時，有： ，得近似解： ，由此能夠看出由迭代法產(chǎn)生向量序列 逐

3、步迫近方程組準確解 。k1234x10.7780.9630.9930.999x20.8000.9640.9930.999x30.8670.9720.9950.999第7頁第7頁5.1 引言例2：考慮方程組： ，取初值 ，則有：可見不收斂。 因此，我們得到：對于任何一個方程組 ，由迭代法產(chǎn)生向量序列 不一定收斂。為做進一步研究，我們假設(shè)方程組 有唯一解 ，則 ， 又設(shè) 為任意初始向量，按下列公式結(jié)構(gòu)向量序列： 其中表示迭代次數(shù)，我們給出下列定義： 定義1：上述求解辦法稱為迭代法，假如 存在，則稱迭代法收斂，不然稱為迭代法發(fā)散。第8頁第8頁5.1 引言為討論收斂性，引進誤差向量 ，從而可得： ，遞

4、推得到： 要研究 收斂性，就要研究 在滿足什么條件時有 ，實際就是為做進一步研究，我們假設(shè)方程組 有唯一解 ，則 ， 又設(shè) 為任意初始向量，按下列公式結(jié)構(gòu)向量序列： 其中表示迭代次數(shù)，我們給出下列定義： 定義1：上述求解辦法稱為迭代法，假如 存在，則稱迭代法收斂，不然稱為迭代法發(fā)散。第9頁第9頁5.1 引言為討論收斂性，引進誤差向量 ，從而可得： ，遞推得到： 要研究 收斂性，就要研究 在滿足什么條件時有 ，實際就是第10頁第10頁5.2 基本迭代法 設(shè)有方程組 ，其中 為非奇異矩陣下面研究如何建立解方程組 各種迭代法。 將 分裂為 ，其中 為可選擇非奇異矩陣，且使 容易求解，普通選擇為 某種

5、近似稱 為分裂矩陣。 于是，求解 轉(zhuǎn)化為求解 ，即求解：這樣，可結(jié)構(gòu)迭代法：其中： 稱為迭代法迭代矩陣，選取 陣，就得到解 各種迭代法。第11頁第11頁5.2 基本迭代法 設(shè) ，并將 寫為三部分：這樣，可結(jié)構(gòu)迭代法：其中： 稱為迭代法迭代矩陣，選取 陣，就得到解 各種迭代法。第12頁第12頁5.2 基本迭代法 設(shè) ，并將 寫為三部分：Jacobi迭代法 由 ，選取 為 對角元素部分，即選取 ， ，可得Jacobi迭代公式：其中 稱 為解 Jacobi迭代法迭代矩陣。第13頁第13頁5.2 基本迭代法Jacobi迭代法分量表示 記由Jacobi迭代公式可得： ，寫成份量形式即為：于是，解 Jac

6、obi迭代法計算公式為：Jacobi迭代法 由 ，選取 為 對角元素部分，即選取 ， ，可得Jacobi迭代公式：其中 稱 為解 Jacobi迭代法迭代矩陣。第14頁第14頁5.2 基本迭代法Jacobi迭代法分量表示 記由Jacobi迭代公式可得： ，寫成份量形式即為：于是，解 Jacobi迭代法計算公式為：由此可知，Jacobi迭代法計算公式簡樸，每次迭代只需計算一次矩陣和向量乘法且計算過程中 不變。第15頁第15頁5.2 基本迭代法Gauss-Seidel迭代法 我們再來分析前面例子，其實在求 時，我們已經(jīng)求得了 ，然而我們此時并沒有用到 來計算 ，這使我們想到，應(yīng)該盡也許利用已經(jīng)計算出

7、來得新值 ，因此，可將上面迭代公式改為：由此可知，Jacobi迭代法計算公式簡樸，每次迭代只需計算一次矩陣和向量乘法且計算過程中 不變。第16頁第16頁5.2 基本迭代法Gauss-Seidel迭代法 我們再來分析前面例子，其實在求 時，我們已經(jīng)求得了 ，然而我們此時并沒有用到 來計算 ，這使我們想到，應(yīng)該盡也許利用已經(jīng)計算出來得新值 ，因此，可將上面迭代公式改為：這就是所謂Gauss-Seidel迭代法，用分裂矩陣語言，這時選取分裂矩陣 為 下三角部分，即選取 ， 于是由得到Gauss-Seidel迭代法：第17頁第17頁5.2 基本迭代法其中 稱 為解方程組 Gauss-Seidel迭代矩

8、陣。 至于Gauss-Seidel迭代法分量表示，我們可由矩陣這就是所謂Gauss-Seidel迭代法，用分裂矩陣語言，這時選取分裂矩陣 為 下三角部分，即選取 ， 于是由得到Gauss-Seidel迭代法：第18頁第18頁5.2 基本迭代法其中 稱 為解方程組 Gauss-Seidel迭代矩陣。 至于Gauss-Seidel迭代法分量表示，我們可由矩陣表示得到：即：寫成份量形式得到：第19頁第19頁5.2 基本迭代法Jacobi迭代法和Gauss-Seidel迭代法異同： Jacobi迭代法公式簡樸，每次只需做矩陣和向量一次乘法，尤其適合于并行計算；不足之處是需要存放 和 兩個存儲空間。表示

9、得到：即：寫成份量形式得到：第20頁第20頁5.2 基本迭代法Jacobi迭代法和Gauss-Seidel迭代法異同： Jacobi迭代法公式簡樸，每次只需做矩陣和向量一次乘法，尤其適合于并行計算；不足之處是需要存放 和 兩個存儲空間。 Gauss-Seidel辦法只需要一個向量存儲空間，一旦計算出 馬上存入 位置，可節(jié)約一套存儲單元這是對Jacobi辦法改進，在一些情況下，它能起到加速收斂作用。但它是一個典型串行算法，每一步迭代中，必須依次計算解各個分量。第21頁第21頁5.2 基本迭代法解大型稀疏線性方程組逐次超松弛法 選取分裂矩陣 為帶參數(shù)下三角矩陣其中 為可選擇松弛因子，于是結(jié)構(gòu)迭代法

10、如下：其中：這就是解 逐次超松弛迭代法(SOR辦法)。其分量形式為：第22頁第22頁5.2 基本迭代法關(guān)于SOR辦法幾點注釋：(1) 顯然，當(dāng) 時，SOR辦法就是Gauss-Seidel辦法。(2) SOR辦法每一次迭代主要運算量是計算一次矩陣 與向量乘法。(3) 時稱為超松弛辦法， 時稱為低松弛辦法。(4) 計算機實現(xiàn)時可用 控制 迭代終止，或用 控制終止。(5) SOR辦法能夠當(dāng)作是Gauss-Seidel辦法一個修正。第23頁第23頁5.3 迭代法收斂性 例：分別用Jacobi迭代法和Gauss-Seidel迭代法計算下列方程組，均取同樣初值 ，觀測其計算結(jié)果。解：對方程組1，其準確解

11、Jacobi迭代得： Gauss-Seidel迭代得： 對方程組2，其準確解 Jacobi迭代得：125次迭代可得精度為0.01解； Gauss-Seidel迭代得： 9次迭代可得精度為0.01解； 對方程組3，其準確解 Jacobi迭代得： Gauss-Seidel迭代得：第24頁第24頁5.3 迭代法收斂性 設(shè) ，其中 為非奇異矩陣，記 為方程準確解， 等價方程組為： ，于是：設(shè)有解方程組 一階定常迭代法：我們希望研究問題是：迭代矩陣滿足什么條件時，迭代法產(chǎn)生迭代序列 收斂到 。 引進誤差向量其遞推公式為：由本章引言可知：我們要研究問題就是 滿足什么條件時，有第25頁第25頁5.3 迭代法

12、收斂性 定義2：設(shè)有矩陣序列 及 ，假如 個數(shù)列極限存在且有則稱 收斂于 ，記為 。 例：設(shè)有矩陣序列且設(shè) ，考察其極限。 解：顯然，當(dāng) 時，有 矩陣序列極限概念能夠用矩陣算子范數(shù)來描述。 定理1： ，其中 為矩陣任意一個算子范數(shù)。第26頁第26頁 5.3 迭代法收斂性 證實：顯然有再利用矩陣范數(shù)等價性，可證定理對其它算子范數(shù)亦對。 定理2： 對任何向量 都有 定理3：設(shè) ，則 充足必要條件是矩陣 譜半徑 。 證實：由矩陣 若當(dāng)原則型，存在非奇異矩陣 使 其中若當(dāng)塊第27頁第27頁5.3 迭代法收斂性且 ，顯然有： ，其中：于是 下面考察 情況，引進記號：顯然有： ，由于因此：第28頁第28頁

13、5.3 迭代法收斂性利用極限 得到因此 充要條件是 ，即定理4：（迭代法基本定理） 設(shè)有方程組 ，對于任意初始向量 ， 一階定常迭代法 收斂充要條件是迭代矩陣 譜半徑 。第29頁第29頁5.3 迭代法收斂性證： 特性值 ，故 特性值 從而有： ，因此 有唯一解 。 定義 為誤差向量，則有：故對任意 和 ，有： 即： ：設(shè)對任意 和 ，都有： 且于是有 ，即 ，因此對任意 有 故 ，從而由定理3，有 。 定理4是一階定常迭代法基本理論。第30頁第30頁5.3 迭代法收斂性 推論：設(shè) ，其中 為非奇異矩陣且 非奇異，則： (1) 解方程組Jacobi迭代法收斂充要條件是其中 (2) 解方程組Gau

14、ss-Seidel迭代法收斂充要條件是 ，其中 (3) 解方程組SOR迭代法收斂充要條件是其中第31頁第31頁5.3 迭代法收斂性 迭代法基本定理在理論上有主要意義。在詳細使用上，由于 ，因此，我們利用范數(shù)能夠建立判別迭代法收斂充足條件。 定理5：（迭代法收斂充足條件） 設(shè)方程組 一階定常迭代法為假如有 某種算子范數(shù) ，則 (1) 迭代法收斂，即對任取 有 且 (2) (3) (4)第32頁第32頁5.3 迭代法收斂性證實：(1)由定理4，結(jié)論(1)是顯然；(2)由 及 得：(a) (b)重復(fù)利用(b)即得(2)；(3)注意到即得：(4)重復(fù)利用(a)即得(4)。第33頁第33頁5.3 迭代法

15、收斂性關(guān)于解一些特殊方程組迭代法收斂性 定義3：(對角占優(yōu)陣)設(shè)(1) 假如 元素滿足稱 為嚴格對角占優(yōu)陣(2) 假如 元素滿足且上式至少有一個不等式嚴格成立，稱 為弱對角占優(yōu)陣。第34頁第34頁5.3 迭代法收斂性 定義4：(可約與不可約矩陣)設(shè) ，假如存在置換陣 使其中 為 階方陣， 為 階方陣 ，則稱 為可約矩陣，不然，假如不存在這樣置換陣 使得上式成立，則稱 為不可約矩陣。第35頁第35頁5.3 迭代法收斂性 定理6：(對角占優(yōu)定理) 假如 為嚴格對角占優(yōu)矩陣或 為不可約弱對角占優(yōu)矩陣，則 為非奇異矩陣。 證實：我們只就嚴格對角占優(yōu)證實定理。采用反證法。 ，則 有非零解，記為 則 ，由

16、齊次方程組第 個方程得到 ，即與對角占優(yōu)假設(shè)矛盾，故 。第36頁第36頁5.3 迭代法收斂性 定理7：設(shè) ，假如： (1) 為嚴格對角占優(yōu)，則解 Jacobi迭代法，Gauss-Seidel迭代法均收斂。 (2) 為弱對角占優(yōu)，且 為不可約矩陣，則解 Jacobi迭代法，Gauss-Seidel迭代法均收斂。證實：這里我們僅證(1)Gauss-Seidel迭代法。 由假設(shè)可知： ， Gauss-Seidel迭代矩陣為 ，因此由于 于是 特性值為 根，記第37頁第37頁5.3 迭代法收斂性下面證實：當(dāng) 時， ，即 特性值均滿足 ，由基本定理，則有Gauss-Seidel迭代法收斂。 事實上，當(dāng)

17、時，由 A 為嚴格對角占優(yōu)，有這闡明，當(dāng) 時，矩陣 為嚴格對角占優(yōu)，再由對角占優(yōu)定理有 。 定理8：(SOR辦法收斂必要條件) 設(shè)解方程組SOR迭代法收斂，則 。 證實：由SOR迭代法收斂，則可得 ，設(shè) 特性值為 ，則 從而第38頁第38頁5.3 迭代法收斂性另一方面從而 ，即 。定理9：設(shè) ，如果： (1) 為對稱正定矩陣， (2) 則解 SOR迭代法收斂。證明：我們只需在上述假設(shè)下，證明 即可。 事實上，設(shè) 為相應(yīng)于 特性向量，即亦即： 為了找到 表達式，考慮數(shù)量積第39頁第39頁5.3 迭代法收斂性則顯然記：由于 ，因此 ，故因此從而第40頁第40頁5.3 迭代法收斂性 當(dāng) 時，有即 任

18、一特性值滿足 ，故SOR辦法收斂(注意當(dāng) 時，能夠證實 )定理10：設(shè) ，假如：(1) 為嚴格對角占優(yōu)矩陣(或不可約弱對角占優(yōu)矩陣)(2) 則解 SOR迭代法收斂。（證實略）第41頁第41頁5.3 迭代法收斂性迭代法收斂速度 我們已經(jīng)知道，假如 且 越小時，迭代法收斂越快，現(xiàn)考慮方程組及一階定常迭代法且設(shè)迭代法收斂，記 ，則 。由基本定理有 ，且誤差向量 滿足 ，故 現(xiàn)設(shè) 為對稱矩陣，則有第42頁第42頁5.3 迭代法收斂性下面擬定欲使初始誤差縮小 所需迭代次數(shù)，即使取對數(shù)，得到所需至少迭代次數(shù)為：故所需迭代次數(shù)與 成反比， 越小， 越大，從而所需迭代次數(shù)越少，收斂越快 定義5：稱 為迭代法漸

19、進收斂速度，簡稱收斂速度。 對于SOR迭代法來說，希望通過 選擇使得收斂速度較快，但詳細計算時，并非都可實現(xiàn)。第43頁第43頁5.3 迭代法收斂性SOR迭代法算法 設(shè) ，其中 為對稱正定矩陣或為嚴格對角占優(yōu)或為不可約弱對角占優(yōu)，本算法用SOR迭代法求解 ，數(shù)組 存儲 及 ，用 控制迭代終止，用 表示最大迭代次數(shù)。1. 2. 3. 4.5. 對于(1)(2) 假如 ，則 (3)6. 輸出7. 假如 ，則輸出 停止；8. 假如 ，則轉(zhuǎn)3；9. 輸出 及相關(guān)信息。第44頁第44頁5.4 分塊迭代法 前面討論迭代法，從 計算過程，是逐個計算 分量 ，因此這種辦法又被稱為點迭代法?，F(xiàn)在簡介分塊迭代法，就

20、是一組未知量同時被改進。 設(shè) ，其中 為大型稀疏矩陣且將 分塊為三個部分 ，其中第45頁第45頁5.4 分塊迭代法其中 為 非奇異矩陣， ，對 及 同樣分塊其中， 在上述定義基礎(chǔ)上，我們來討論分塊迭代法。(1) 塊Jacobi迭代法(BJ) 選取分裂矩陣 為 對角塊部分，即選取第46頁第46頁5.4 分塊迭代法于是，得到塊Jacobi迭代法其中迭代矩陣 ，或由分塊矩陣乘法，得到塊Jacobi迭代法詳細形式：其中：這闡明，塊Jacobi迭代法每迭代一步需要求解 個低階方程組第47頁第47頁5.4 分塊迭代法(2) 塊SOR迭代法(BSOR) 選取分裂矩陣 為帶松弛因子 塊下三角部分，即：得到塊S

21、OR迭代法其中迭代矩陣 由分塊矩陣乘法得到塊SOR迭代法詳細形式：于是，可通過解一組低階方程組來代替本來解。 第48頁第48頁5.4 分塊迭代法 定理：設(shè) ，其中(1) 假如 為對稱正定矩陣；(2) 則解 塊SOR迭代法收斂。第49頁第49頁5.5 向量和矩陣范數(shù) 為研究線性方程組近似解誤差預(yù)計和迭代法收斂性，我們需要對 中向量(或 中矩陣)引進一種度量大小概念，這就是所謂范數(shù)。 定義1 設(shè) (或 )將實數(shù) 或復(fù)數(shù)稱為向量 數(shù)量積，將非負實數(shù)或 稱為向量 歐氏范數(shù)。第50頁第50頁5.5 向量和矩陣范數(shù)定理：設(shè) (或 )，則： 1. ，當(dāng)且僅當(dāng) 時成立； 2. ，為實數(shù)(或 ，為復(fù)數(shù)) 3.

22、，(或 ) 4. 5. Cauchy-Schwarz不等式： 6. 三角不等式： 這僅是我們度量向量大小一個辦法，現(xiàn)在我們來推廣這個概念。第51頁第51頁5.5 向量和矩陣范數(shù) 定義2 . (向量范數(shù))假如向量 (或 )某個實值函數(shù) 滿足條件： (1) ( 當(dāng)且僅當(dāng) )（正定） (2) (或 ) (3)則稱 是 (或 )上一個向量范數(shù)(或模)，由(3)可推出不等式慣用范數(shù)有：(1) (2) (3) (4)例：向量 各種范數(shù)：第52頁第52頁5.5 向量和矩陣范數(shù) 定義3. 設(shè) 為 中一個向量序列， ，記 ， ，假如 ， ，則稱 收斂于向量 ，記為即向量序列收斂就是分量序列都收斂。 定理：(范數(shù)

23、連續(xù)性) 設(shè)非負函數(shù) 為 上可推出不等式慣用范數(shù)有：(1) (2) (3) (4)例：向量 各種范數(shù)：第53頁第53頁5.5 向量和矩陣范數(shù) 定義3. 設(shè) 為 中一個向量序列， ，記 ， ，假如 ， ，則稱 收斂于向量 ，記為即向量序列收斂就是分量序列都收斂。 定理：(范數(shù)連續(xù)性) 設(shè)非負函數(shù) 為 上任一向量范數(shù)，則 是分量 連續(xù)函數(shù)。證實：設(shè) ， ， ，其中 第 個分量為1，其余分量為0。第54頁第54頁5.5 向量和矩陣范數(shù) 定理：設(shè) 為 上任意兩種范數(shù)，則存在常數(shù) ，使得對于一切 ，有這就是所謂向量范數(shù)等價性。(證實略) 定理：其中 為向量任意一個范數(shù)。(證實略)任一向量范數(shù)，則 是分量

24、 連續(xù)函數(shù)。證實：設(shè) ， ， ，其中 第 個分量為1，其余分量為0。第55頁第55頁5.5 向量和矩陣范數(shù) 定理：設(shè) 為 上任意兩種范數(shù)，則存在常數(shù) ，使得對于一切 ，有這就是所謂向量范數(shù)等價性。(證實略) 定理：其中 為向量任意一個范數(shù)。(證實略)矩陣范數(shù) 現(xiàn)在把向量范數(shù)概念推廣到矩陣上去，用 表示 矩陣集合，則稱為 Frobenius范數(shù)。顯然 滿足正定性，齊次性及三角不等式。下面給出矩陣范數(shù)普通定義。第56頁第56頁5.5 向量和矩陣范數(shù) 定義：假如矩陣 某個非負實值函數(shù) 滿足條件： (1) ( ) (2) (3) (4)則稱 是 上一個矩陣范數(shù)。 現(xiàn)在把向量范數(shù)概念推廣到矩陣上去，用

25、表示 矩陣集合，則稱為 Frobenius范數(shù)。顯然 滿足正定性，齊次性及三角不等式。下面給出矩陣范數(shù)普通定義。第57頁第57頁5.5 向量和矩陣范數(shù) 定義：假如矩陣 某個非負實值函數(shù) 滿足條件： (1) ( ) (2) (3) (4)則稱 是 上一個矩陣范數(shù)。 上面定義 就是 上一個矩陣范數(shù)。 由于在大多數(shù)與預(yù)計相關(guān)問題中，矩陣和向量會同時參與討論，因此希望引進一個矩陣范數(shù)，它和向量范數(shù)相聯(lián)系且和向量范數(shù)相容，即 對任何向量 及 都成立，為此我們再引進一個矩陣范數(shù)。第58頁第58頁5.5 向量和矩陣范數(shù) 定義(算子范數(shù)) 設(shè) ， ，給出一個向量范數(shù) (如 )，相應(yīng)地定義一個矩陣非負函數(shù)能夠驗

26、證 滿足范數(shù)定義，因此 是 上矩陣一個范數(shù)，稱為 算子范數(shù)。 上面定義 就是 上一個矩陣范數(shù)。 由于在大多數(shù)與預(yù)計相關(guān)問題中，矩陣和向量會同時參與討論，因此希望引進一個矩陣范數(shù)，它和向量范數(shù)相聯(lián)系且和向量范數(shù)相容，即 對任何向量 及 都成立，為此我們再引進一個矩陣范數(shù)。第59頁第59頁5.5 向量和矩陣范數(shù) 定義(算子范數(shù)) 設(shè) ， ，給出一個向量范數(shù) (如 )，相應(yīng)地定義一個矩陣非負函數(shù)能夠驗證 滿足范數(shù)定義，因此 是 上矩陣一個范數(shù)，稱為 算子范數(shù)。 定理：設(shè) 是 上一個向量范數(shù)，則 是 上矩陣范數(shù)，且滿足相容條件： 。證實：由定義， 是顯然，現(xiàn)只需驗證范數(shù)定義中條件4。由 ，得到 當(dāng) 時

27、，有：第60頁第60頁5.5 向量和矩陣范數(shù)故： 顯然這種矩陣范數(shù) 依賴于向量范數(shù) 具體含義，也就是說，當(dāng)給出一個詳細范數(shù) 時，相 定理：設(shè) 是 上一個向量范數(shù)，則 是 上矩陣范數(shù)，且滿足相容條件： 。證實：由定義， 是顯然，現(xiàn)只需驗證范數(shù)定義中條件4。由 ，得到 當(dāng) 時，有：第61頁第61頁5.5 向量和矩陣范數(shù)故： 顯然這種矩陣范數(shù) 依賴于向量范數(shù) 具體含義，也就是說，當(dāng)給出一個詳細范數(shù) 時，相應(yīng)地就得到了一個矩陣范數(shù) 。 定理：設(shè) ，則 1. 稱為 行范數(shù)。 2. 稱為 列范數(shù)。 3. 稱為 2范數(shù)。第62頁第62頁5.5 向量和矩陣范數(shù)證實：1. 設(shè) ，對任一 ，有故應(yīng)地就得到了一個矩

28、陣范數(shù) 。 定理：設(shè) ，則 1. 稱為 行范數(shù)。 2. 稱為 列范數(shù)。 3. 稱為 2范數(shù)。第63頁第63頁5.5 向量和矩陣范數(shù)證實：1. 設(shè) ，對任一 ，有故有若取 ，其中則 ，且因此第64頁第64頁5.5 向量和矩陣范數(shù) 2. 設(shè) ，對任一 ，有故有若取 ，其中則 ，且因此第65頁第65頁5.5 向量和矩陣范數(shù) 2. 設(shè) ，對任一 ，有故又若取 ，則 ，且因此第66頁第66頁5.5 向量和矩陣范數(shù) 3. 由定義 ，且由于 對稱，故 特性值 ，將其排列為：由于存在相應(yīng)規(guī)范正交向量組 ，現(xiàn)設(shè)又若取 ，則 ，且因此第67頁第67頁5.5 向量和矩陣范數(shù) 3. 由定義 ，且由于 對稱，故 特性值

29、 ，將其排列為：由于存在相應(yīng)規(guī)范正交向量組 ，現(xiàn)設(shè) ，則 可表示為 ，且有于是尤其地，取 ，則因此：第68頁第68頁5.5 向量和矩陣范數(shù)例：設(shè)矩陣 ，計算 各種算子范數(shù)。解： ，由求得： 故 。 ，則 可表示為 ，且有于是尤其地，取 ，則因此：第69頁第69頁5.5 向量和矩陣范數(shù)例：設(shè)矩陣 ，計算 各種算子范數(shù)。解： ，由求得： 故 。 定理： 上任意兩種矩陣范數(shù)是等價，即若 ， 為 上任意兩種范數(shù)，則存在常數(shù) ，使得：如：第70頁第70頁5.5 向量和矩陣范數(shù) 定義：設(shè) 為其特性值，則稱 為矩陣 譜半徑。方程組性態(tài)、條件數(shù) 設(shè)方程組有準確解： ，對矩陣和右端項作微小改變 定理： 上任意兩

30、種矩陣范數(shù)是等價，即若 ， 為 上任意兩種范數(shù)，則存在常數(shù) ，使得：如：第71頁第71頁5.5 向量和矩陣范數(shù) 定義：設(shè) 為其特性值，則稱 為矩陣 譜半徑。方程組性態(tài)、條件數(shù) 設(shè)方程組有準確解： ，對矩陣和右端項作微小改變其解變?yōu)椋?可見：細微改變使得解面目全非，可謂“差之毫厘，失之千里”。為何？第72頁第72頁5.5 向量和矩陣范數(shù) 定義：假如方程組 中，矩陣 和右端項 改變 和 微小，引起解向量 改變 很大，則稱 為關(guān)于解方程組和矩陣求逆病態(tài)矩陣，稱相應(yīng)方程組 為病態(tài)方程組。反之，稱 為良態(tài)矩陣， 為良態(tài)方程組。擬定矩陣病態(tài)原則 為擬定矩陣 是否病態(tài)，我們需要一個原則，或者說是一個刻劃矩陣

31、和方程組“病態(tài)”程度原則。其解變?yōu)椋?可見：細微改變使得解面目全非，可謂“差之毫厘，失之千里”。為何？第73頁第73頁5.5 向量和矩陣范數(shù) 定義：假如方程組 中，矩陣 和右端項 改變 和 微小，引起解向量 改變 很大，則稱 為關(guān)于解方程組和矩陣求逆病態(tài)矩陣，稱相應(yīng)方程組 為病態(tài)方程組。反之，稱 為良態(tài)矩陣， 為良態(tài)方程組。擬定矩陣病態(tài)原則 為擬定矩陣 是否病態(tài)，我們需要一個原則，或者說是一個刻劃矩陣和方程組“病態(tài)”程度原則。 先考慮 不變， 變，設(shè) ，擾動后方程為： ，因此有， ，取范數(shù)，得到 ，由于： ，即： ，故： 由此可見： 是相對誤差 倍增因子。第74頁第74頁5.5 向量和矩陣范數(shù)

32、 刻劃了矩陣 病態(tài)程度和 對 擾動敏感程度。 對 擾動可作相應(yīng)討論。結(jié)果同樣可得出是相對誤差 倍增因子結(jié)論，因此我們定義： 定義：設(shè) 存在，則稱數(shù) 為矩陣 條件數(shù)，其中 是矩陣算子范數(shù)。 先考慮 不變， 變，設(shè) ，擾動后方程為： ，因此有， ，取范數(shù)，得到 ，由于： ，即： ，故： 由此可見： 是相對誤差 倍增因子。第75頁第75頁5.5 向量和矩陣范數(shù) 刻劃了矩陣 病態(tài)程度和 對 擾動敏感程度。 對 擾動可作相應(yīng)討論。結(jié)果同樣可得出是相對誤差 倍增因子結(jié)論，因此我們定義： 定義：設(shè) 存在，則稱數(shù) 為矩陣 條件數(shù)，其中 是矩陣算子范數(shù)。 慣用條件數(shù)為： 分別稱為矩陣 條件數(shù)， 條件數(shù)， 條件數(shù)。當(dāng) 時， 當(dāng) 對稱正定期， 第76頁第76頁5.5 向量和矩陣范數(shù)條件數(shù)相關(guān)性質(zhì) 設(shè) 存在，則由條件數(shù)定義，有下列性質(zhì)：(1)(2) 若 為正交陣，即 ，則 定義：設(shè) 存在，則稱數(shù) 為矩陣 條件數(shù)，其中 是矩陣算子范數(shù)。 慣用條件數(shù)為： 分別稱為矩陣 條件數(shù)， 條件數(shù)， 條件數(shù)。當(dāng) 時， 當(dāng) 對稱正定期，