第五章向量范數和矩陣范數

對于實數和復數，由于定義了它們的絕對值或模，這樣我們就可以用這個度量來表示它們的大?。◣缀紊暇褪情L度），進而可以考察兩個實數或復數的距離。

對于維線性空間，定義了內積以后，向量就有了長度（大小）、角度、距離等度量概念，這顯然是3維現(xiàn)實空間中相應概念的推廣。利用公理化的方法，可以進一步把向量長度的概念推廣到范數?！?、向量范數一、從向量的長度或模談起

，當且僅當時，等號成立。例1

復數

的長度或模指的是量顯然復向量的模具有下列三條性質：

，當且僅當時，等號成立。顯然向量的模也具有下列三條性質：例2

維歐氏空間中向量的長度或模定義為二、向量范數的概念定義3如果是數域上的線性空間，對中的任意向量，都有一個非負實數與之對應，并且具有下列三個條件（正定性、正齊性和三角不等式）：則稱是向量的向量范數，稱定義了范數的線性空間為賦范線性空間。拓撲空間線性空間Hausdorff空間賦范空間

距離空間(度量空間)拓撲線性空間完備距離線性空間距離線性空間內積空間Hilbert空間Banach空間歐氏空間和各類空間的層次關系例4

設是內積空間，則由定義的是上的向量范數，稱為由內積導出的范數。這說明范數未必都可由內積導出。例如后面介紹的和。

例5

在賦范線性空間中，定義任意兩向量之間的距離為則稱此距離為由范數導出的距離。此時按此式定義了距離的滿足度量空間的距離三公理（對稱性、三角不等式和非負性），所以賦范線性空間按由范數導出的距離構成一個特殊的度量空間。三、常用的向量范數例6

對任意，由定義的是上的向量范數，稱為2-范數或范數，也稱為Euclid范數。例7

對任意，由定義的是上的向量范數，稱為p-范數或范數。例8

對任意，由定義的是上的向量范數，稱為1-范數或范數或和范數，也被風趣地稱為Manhattan范數。特別地，p=1時，有遺憾的是，當時，由定義的不是上的向量范數。因為時，取，則例9

對任意，由定義的是上的向量范數，稱為

-范數或范數或極大范數。在廣義實數范圍內，P能否取到正無窮大呢？具體而言，如何計算這種范數呢？也就是證明：驗證是向量范數顯然很容易。下證。令，則有由極限的兩邊夾法則，并注意到，即得欲證結論。例10

計算向量的p范數，這里解：%ex501.mi=sqrt(-1);a=[3*i,0,-4*i,-12]';norm(a),norm(a,1),norm(a,'inf')ans=13ans=19ans=12這些范數在幾何上如何理解呢？例11

對任意，對應于四種范數的閉單位圓的圖形分別為例12

對任意，由定義的是上的向量范數，稱為范數。特別地，范數、范數和范數分別為定義的是上的向量范數，稱為加權范數或橢圓范數。例13

若矩陣為Hermite正定矩陣，則由對于任意，有當時，；當時由對稱正定知，即。由于為Hermite正定矩陣，故存在酉矩陣，使得從而有這里的特征值都為正數。此時因此對任意，這從幾何上可以理解成求可逆變換的像的“長度”。這說明只要運算成立即可，因此對矩陣的要求可放寬為列滿秩矩陣。如果，此時，這就是加權范數或橢圓范數名稱的由來。一般地，由于是Hermite正定矩陣，從而存在Cholesky分解，即存在可逆矩陣（未必是酉矩陣），使得，因此為李雅普諾夫（Lyapunov）函數，這里是正定對稱矩陣。大家已經知道，此函數是討論線性和非線性系統(tǒng)穩(wěn)定性的重要工具。在現(xiàn)代控制理論中，稱二次型函數例14（模式識別中的模式分類問題）模式分類的問題指的是根據已知類型屬性的觀測樣本的模式向量，判斷未知類型屬性的模式向量歸屬于哪一類模式。其基本思想是根據與模式樣本向量的相似度大小作出判斷。最簡單的方法是用兩向量之間的距離來表示相似度，距離越小，相似度越大。最典型的是Euclidean距離其他距離測度還包括以及與橢圓范數類似的Mahalanobis距離：這里是從正態(tài)母體中抽取的兩個樣本。四、向量范數的性質定理15

Euclid范數是酉不變的，即對任意酉矩陣以及任意，均有這個定理的結論是顯然的，因為酉變換保持向量的內積不變，自然也保持了Euclid意義下的幾何結構（長度、角度或范數等）不變。注意這個結論對無限維未必成立。另外，根據等價性，處理向量問題（例如向量序列的斂散性）時，我們可以基于一種范數來建立理論，而使用另一種范數來進行計算。定理16有限維線性空間上的不同范數是等價的，即對上定義的任意兩種范數，必存在兩個任意正常數，使得§2、矩陣范數

向量是特殊的矩陣，矩陣可以看成一個維向量，因此自然想到將向量范數推廣到矩陣范數。一、矩陣范數的概念定義1

對中的任意矩陣，都有一個非負實數與之對應，并且具有下列三個條件（正定性、正齊性和三角不等式,矩陣乘法相容性）：則稱是矩陣的矩陣范數。(4)(矩陣乘法相容性)例2

對任意，由定義的是上的矩陣范數，稱為范數。例3

對任意，由定義的是上的（廣義）矩陣范數，稱為范數。例4

對任意，由定義的是上的矩陣范數，稱為范數，Euclid范數或Frobenius范數(F—范數)。二、算子范數和范數的相容性矩陣不僅僅是向量，它還可以看成變換或算子。實際中，從算子或變換的角度來定義范數更加有用。定義5

對中的任意矩陣，用一個非負實數表示對于任意向量，可以“拉伸”向量的最大倍數，即使得不等式成立的最小的數。稱為范數和誘導出的矩陣范數或算子范數。

由矩陣范數的正齊性可知的作用是由它對單位向量的作用所決定，因此可以等價地用單位向量在下的像來定義矩陣范數，即從幾何上看，矩陣范數反映了線性映射把一個向量映射為另一個向量，向量的“長度”縮放的比例

的上界。

而且考慮到矩陣乘法的重要地位，因此討論矩陣范數時一般附加“范數相容性”條件（這里的范數一般要求是同類的）：

注意到即可以證明，前面給出的矩陣范數都滿足“相容性條件”，即成立但是矩陣范數不滿足“相容性條件”。例如對于矩陣就有要使矩陣范數滿足“相容性條件”，則可以修正其定義為：

在“相容性條件”中，如果而且范數與范數相同時，即如果有則稱矩陣范數與向量范數是相容的。證明：定理6上的矩陣F-范數與上的向量2-范數相容。

根據算子范數的定義，當向量范數分別為時，我們可誘導出相應的相容矩陣范數。設任意矩陣，則1-范數單位球

在下的像中的任意向量滿足從而如果，則選取，此時由，得因此類似地可得，

實際上，這些誘導矩陣范數具有如下的表示定理。定理7

對中的任意矩陣，有

最大列和

最大行和

最大譜證明：

所以是半正定Hermite矩陣,因此特征值全部為非負實數。設為

并設對應的兩兩互相正交且2-范數都為1的特征向量為，那么，對于任意的單位2-范數向量，必成立

由于因此有

所以因此成立

另外，由于，而且同樣給出這些范數在幾何上的理解。例8

求矩陣的范數（），并考察對應于的三種向量范數的閉單位球在矩陣作用下的效果。%ex502.mA=[12;02];

norm(A),norm(A,1),norm(A,'inf')ans=2.9208ans=4ans=3定理9上的譜范數具有下列性質：三、矩陣范數的一些性質(1)設有使，令，則有證明：(2)(3)設有使，則定理10

上的矩陣F--范數和譜范數都是酉不變的，即對任意酉矩陣，恒有令則即對于譜范數的情形，利用定義即可。對于譜范數，這個定理的結論可以推廣到列正交酉矩陣，即的情形，此時仍然成立利用定理9可以證明這個推廣結論?！?、范數的應用

長度和距離在實分析和復分析中的應用，我們已經有充分認識，而范數是長度和距離的推廣，因此范數作為一種推廣的度量，由于其抽象性和概括性，其應用范圍自然也隨之擴展。至少在矩陣分析和數值線性代數領域，范數有著深刻的應用。一、譜半徑與矩陣范數根據矩陣的誘導范數的含義，結合特征值，設為的任意特征對，則從而這說明矩陣特征值的模都不超過它的范數。定義1

設的特征值為，稱為矩陣的譜半徑。定理2

對