1、第四章第四章 特殊變換及其矩陣特殊變換及其矩陣1、正規(guī)變換與正規(guī)矩陣、正規(guī)變換與正規(guī)矩陣正規(guī)變換（正規(guī)矩陣）可以說(shuō)是對(duì)稱(chēng)變換正規(guī)變換（正規(guī)矩陣）可以說(shuō)是對(duì)稱(chēng)變換（對(duì)稱(chēng)矩陣）、正交變換（正交矩陣）等（對(duì)稱(chēng)矩陣）、正交變換（正交矩陣）等的推廣和抽象，即只關(guān)心永恒的主題的推廣和抽象，即只關(guān)心永恒的主題-“對(duì)角化對(duì)角化”的問(wèn)題。這又一次體現(xiàn)出現(xiàn)代的問(wèn)題。這又一次體現(xiàn)出現(xiàn)代數(shù)學(xué)高度的數(shù)學(xué)高度的抽象抽象和和統(tǒng)一統(tǒng)一。鏈接鏈接：現(xiàn)代數(shù)學(xué)的特點(diǎn)與意義現(xiàn)代數(shù)學(xué)的特點(diǎn)與意義，孫小禮、杜珣，孫小禮、杜珣，大學(xué)數(shù)學(xué)大學(xué)數(shù)學(xué)，1992，2（或（或 杜珣杜珣現(xiàn)代數(shù)學(xué)引論現(xiàn)代數(shù)學(xué)引論序言序言）或其他。）或其他。.ABIBA

2、 兩方陣兩方陣 互逆的條件是成立關(guān)系式互逆的條件是成立關(guān)系式,A B從純代數(shù)角度看，如果從純代數(shù)角度看，如果去掉乘積為單位矩陣的限制去掉乘積為單位矩陣的限制， 那么兩矩陣是可交換矩陣。那么兩矩陣是可交換矩陣。聯(lián)想到正交矩陣的逆即為其轉(zhuǎn)置，因此如果聯(lián)想到正交矩陣的逆即為其轉(zhuǎn)置，因此如果再限定兩再限定兩矩陣互為轉(zhuǎn)置矩陣互為轉(zhuǎn)置，即要求成立，即要求成立 ，情況又如，情況又如何？何？TTAAA A 顯然對(duì)稱(chēng)矩陣顯然對(duì)稱(chēng)矩陣 和反對(duì)稱(chēng)矩陣和反對(duì)稱(chēng)矩陣 都滿(mǎn)足要求，正交矩陣當(dāng)然也滿(mǎn)足這個(gè)要求。因此具都滿(mǎn)足要求，正交矩陣當(dāng)然也滿(mǎn)足這個(gè)要求。因此具有性質(zhì)有性質(zhì) 的這種新矩陣就的這種新矩陣就“一統(tǒng)江湖一統(tǒng)江湖”

3、，具有了統(tǒng)一性。具有了統(tǒng)一性。()TAA ()TAA TTAAA A 對(duì)稱(chēng)矩陣最主要的性質(zhì)是對(duì)稱(chēng)矩陣最主要的性質(zhì)是可以對(duì)角化可以對(duì)角化，尤其是可以，尤其是可以正正交對(duì)角化交對(duì)角化，推廣到這種新矩陣后這個(gè)性質(zhì)是否還能保，推廣到這種新矩陣后這個(gè)性質(zhì)是否還能保留呢？留呢？對(duì)于復(fù)方陣（或?qū)嵎疥嚕?duì)于復(fù)方陣（或?qū)嵎疥嚕?，如果存在酉，如果存在酉矩陣矩陣 或正交矩陣或正交矩陣 ，使得，使得或或則稱(chēng)則稱(chēng) 。UQAB、A1HUAUUAUB- -= = =1TQ AQQAQB- -= = =B一、正規(guī)變換一、正規(guī)變換(Normal Transformation)酉空間酉空間 上的線(xiàn)性變換上的線(xiàn)性變換 稱(chēng)為稱(chēng)為

4、上的一個(gè)上的一個(gè)，如果，如果存在存在 的的標(biāo)準(zhǔn)正交基標(biāo)準(zhǔn)正交基及對(duì)角矩陣及對(duì)角矩陣 滿(mǎn)足滿(mǎn)足并稱(chēng)并稱(chēng) 在任意在任意標(biāo)準(zhǔn)正交基標(biāo)準(zhǔn)正交基 下的矩陣表下的矩陣表示為示為。V12,n L L, ,VVT1212( (),(),()(,)nnT T T D,= =L LL L12(,)nDdiag d dd L L, ,T,12,n L L顯然過(guò)渡矩陣顯然過(guò)渡矩陣 是酉矩陣（是酉矩陣（請(qǐng)?jiān)囋囎约鹤C明一下請(qǐng)?jiān)囋囎约鹤C明一下）U 正規(guī)變換在不同標(biāo)準(zhǔn)正交基下的矩陣表示是正規(guī)變換在不同標(biāo)準(zhǔn)正交基下的矩陣表示是酉相似酉相似的。的。證明證明：設(shè)正規(guī)變換設(shè)正規(guī)變換 在在 的兩組標(biāo)準(zhǔn)正交基的兩組標(biāo)準(zhǔn)正交基 和和 下的

5、矩陣表示下的矩陣表示分別為分別為 ，并設(shè)，并設(shè)AB、12,nL L, ,VT12,n,L L1212(,)(,)nnU,= =L LL L因?yàn)橐驗(yàn)?12(,)HnUA U,= =L L12(),(),()nTTT= =L L12(),(),()nTTTU= =L L12(,)nA U= =L L, ,12(,)nB,L L所以所以 ，結(jié)論成立。，結(jié)論成立。HBUA U= =根據(jù)定理根據(jù)定理3 3，正規(guī)變換在任一標(biāo)準(zhǔn)正交基下的矩陣，正規(guī)變換在任一標(biāo)準(zhǔn)正交基下的矩陣表示必定酉相似于對(duì)角陣，即表示必定酉相似于對(duì)角陣，即HUA U= =二、正規(guī)矩陣的等價(jià)定義二、正規(guī)矩陣的等價(jià)定義.HU AUT= =1

6、00多年前多年前(1909年年) Schur給出的給出的Schur 引理是矩陣引理是矩陣?yán)碚撝械闹匾ɡ?，是很多其他重要結(jié)論的基礎(chǔ)。理論中的重要定理，是很多其他重要結(jié)論的基礎(chǔ)。在矩陣計(jì)算中也具有相當(dāng)重要的地位。在矩陣計(jì)算中也具有相當(dāng)重要的地位。并稱(chēng)并稱(chēng) 為方陣為方陣 的的。AHAUTU= =( ( Schur 引理引理 ) ) 任何復(fù)方陣任何復(fù)方陣 必必酉相似酉相似于于一個(gè)一個(gè)上三角陣上三角陣 。即存在酉矩陣。即存在酉矩陣 ，使，使AUT根據(jù)根據(jù)Schur引理，引理，可以推出正規(guī)矩陣的一個(gè)相當(dāng)美妙可以推出正規(guī)矩陣的一個(gè)相當(dāng)美妙的性質(zhì)，此性質(zhì)經(jīng)常被當(dāng)作的性質(zhì)，此性質(zhì)經(jīng)常被當(dāng)作正規(guī)矩陣的等價(jià)定義正

7、規(guī)矩陣的等價(jià)定義。方陣方陣 是正規(guī)的，當(dāng)且僅當(dāng)是正規(guī)的，當(dāng)且僅當(dāng)A.HHAAA A= =為證明這個(gè)結(jié)論，再給出一個(gè)為證明這個(gè)結(jié)論，再給出一個(gè)引理引理。滿(mǎn)足滿(mǎn)足 的三角陣的三角陣 必是必是對(duì)角陣。對(duì)角陣。THHTTT T= =證證明明22221|i ii nii ittttHHTTT T= =對(duì)上三角陣對(duì)上三角陣 ，比較等式，比較等式()i jTt 兩邊乘積矩陣在第兩邊乘積矩陣在第 行第行第 列位置上的元素列位置上的元素 ，并注，并注意到意到 ，因此對(duì)，因此對(duì) ，有，有ii0 ()i jtij1,2,in 22221112111|ntttt當(dāng)當(dāng) 時(shí)，有時(shí)，有 1i 可知可知10 (2,3, )j

8、tjni對(duì)對(duì) 施行歸納法，可得施行歸納法，可得 ，證畢。，證畢。0 ()i jtij定定理理 5 的的證證明明。如果。如果 是正規(guī)矩陣，那么存在酉是正規(guī)矩陣，那么存在酉矩陣矩陣 及對(duì)角陣及對(duì)角陣 ，使得，使得HAUDU AUD因此因此()()HHHHHAAUDUUDUUDDU()()HHHHUDDUUDUUDUA A。根據(jù)。根據(jù)Schur引理引理，存在酉矩陣，存在酉矩陣 及及上三角陣上三角陣 ，使得，使得HAUTU UT顯然顯然 當(dāng)且僅當(dāng)當(dāng)且僅當(dāng) 。根據(jù)根據(jù)引理引理6， 是對(duì)角矩陣。故是對(duì)角矩陣。故 是正規(guī)陣。是正規(guī)陣。HHA AAA HHT TTT AT例例 7 7 判斷下列矩陣是不是正規(guī)矩

9、陣：判斷下列矩陣是不是正規(guī)矩陣：（1）實(shí)對(duì)稱(chēng)矩陣（）實(shí)對(duì)稱(chēng)矩陣（ ）；）；TAA （2）實(shí)反對(duì)稱(chēng)矩陣（）實(shí)反對(duì)稱(chēng)矩陣（ ）；）；TAA （3）正交矩陣）正交矩陣 （ ）；）；1TAA （4）酉矩陣（）酉矩陣（ ）；）；1HAA （5）Hermite 矩陣矩陣（ ）；）；HAA （6）反反Hermite 矩陣矩陣（ ）；）；HAA （7）形如）形如 的矩陣。的矩陣。11,11aaR or C 天下英雄盡天下英雄盡入吾彀矣！入吾彀矣！與正規(guī)矩陣酉相似的方陣仍然是正規(guī)矩陣。與正規(guī)矩陣酉相似的方陣仍然是正規(guī)矩陣。11()()HHBBUAU UAU-= =11HHHHHUAA UAAUUUU-=1HHU

10、UA A-= =1111()() ()HHHHU AAUUUUAUUAU- - - - -= = =.HB B= =如果存在酉矩陣如果存在酉矩陣 ，使得，使得 ，則，則1BUAU- -= =UHHUUA A= =方陣方陣 是正規(guī)的，當(dāng)且僅當(dāng)是正規(guī)的，當(dāng)且僅當(dāng) 與對(duì)角矩與對(duì)角矩陣酉相似，并且對(duì)角矩陣的對(duì)角元就是正規(guī)矩陣的特陣酉相似，并且對(duì)角矩陣的對(duì)角元就是正規(guī)矩陣的特征值。征值。AA。如果。如果 是正規(guī)矩陣，那么存在酉是正規(guī)矩陣，那么存在酉矩陣矩陣 及對(duì)角陣及對(duì)角陣 使得使得 ，即，即HU AU A1(,)nUuu 1(,)ndiag AUU因此因此1111(,)(,)(,)nnnnA uuAu

11、Auuu。若有。若有 ，顯然可驗(yàn)證，顯然可驗(yàn)證HU AU HHA AAA 方陣方陣 是正規(guī)的，當(dāng)且僅當(dāng)是正規(guī)的，當(dāng)且僅當(dāng) 有有 個(gè)個(gè)兩兩正交的單位特征向量?jī)蓛烧坏膯挝惶卣飨蛄? ,即對(duì)應(yīng)于不同特征值的特即對(duì)應(yīng)于不同特征值的特征子空間相互正交（完備正交系）。征子空間相互正交（完備正交系）。AAn。如果。如果 是正規(guī)矩陣，那么存在酉是正規(guī)矩陣，那么存在酉矩陣矩陣 及對(duì)角陣及對(duì)角陣 使得使得 ，即，即HU AU A1(,)nUuu 1(,)ndiag AUU因此因此1111(,)(,)(,)nnnnA uuAuAuuu。若。若 有有 個(gè)兩兩正交的單位特征向量個(gè)兩兩正交的單位特征向量 ，取，取 即可

12、。即可。1(,)nUuu 1,nuuAn正規(guī)矩陣的譜分解正規(guī)矩陣的譜分解1122HnnAU UGGG111222HHHnnnu uu uu uHU AU 11111122111(1)(1)1iiAiiii 注意這里矩陣的特征值為復(fù)數(shù)注意這里矩陣的特征值為復(fù)數(shù)1HU AUUAU 例例11 11 設(shè)設(shè) 為正規(guī)矩陣，且為正規(guī)矩陣，且 ，則，則32AA A2.AA 因?yàn)橐驗(yàn)?是正規(guī)矩陣，所以存在酉矩陣是正規(guī)矩陣，所以存在酉矩陣 ，使得，使得UAHAU U32AA 再由再由 ，得，得3()()()()HHHHU UU UUUUU 322()HHHUUUUU U 因此因此 ，即，即 ，故，故 32 32i

13、i 01.i 或或從而從而 ，故，故2 22.HHAUUU UA1、實(shí)正規(guī)矩陣是否正交相似于實(shí)、實(shí)正規(guī)矩陣是否正交相似于實(shí)對(duì)角矩陣？對(duì)角矩陣？2、實(shí)正規(guī)矩陣是否正交相似于復(fù)、實(shí)正規(guī)矩陣是否正交相似于復(fù)對(duì)角矩陣？對(duì)角矩陣？3、實(shí)正規(guī)矩陣正交相似于什么、實(shí)正規(guī)矩陣正交相似于什么樣的樣的“簡(jiǎn)單簡(jiǎn)單”矩陣？矩陣？2、Hermite變換及變換及Hermite矩陣矩陣單從變換的角度我們很難把單從變換的角度我們很難把Hermite變換變換（對(duì)稱(chēng)變換）與正規(guī)變換聯(lián)系起來(lái)，但從（對(duì)稱(chēng)變換）與正規(guī)變換聯(lián)系起來(lái)，但從Hermite矩陣（對(duì)稱(chēng)矩陣）的定義，或者矩陣（對(duì)稱(chēng)矩陣）的定義，或者從從Hermite矩陣（對(duì)稱(chēng)矩

14、陣）矩陣（對(duì)稱(chēng)矩陣） 都可對(duì)角化都可對(duì)角化上卻能找到兩者的關(guān)聯(lián)，這似乎可以作為上卻能找到兩者的關(guān)聯(lián)，這似乎可以作為數(shù)學(xué)的數(shù)學(xué)的“奇異美奇異美”的一個(gè)例證。的一個(gè)例證。TAA 推廣到酉空間，相應(yīng)的矩陣稱(chēng)為推廣到酉空間，相應(yīng)的矩陣稱(chēng)為Hermite矩陣，滿(mǎn)足矩陣，滿(mǎn)足關(guān)系式關(guān)系式HAA 既然矩陣與變換一一對(duì)應(yīng)，那么既然矩陣與變換一一對(duì)應(yīng)，那么Hermite矩陣以及實(shí)矩陣以及實(shí)對(duì)稱(chēng)矩陣與什么樣的變換對(duì)應(yīng)呢？對(duì)稱(chēng)矩陣與什么樣的變換對(duì)應(yīng)呢？推廣到酉空間，相應(yīng)的矩陣稱(chēng)為推廣到酉空間，相應(yīng)的矩陣稱(chēng)為Hermite矩陣，滿(mǎn)足矩陣，滿(mǎn)足關(guān)系式關(guān)系式HAA 既然矩陣與變換一一對(duì)應(yīng)，那么既然矩陣與變換一一對(duì)應(yīng)，那么

15、Hermite矩陣以及實(shí)矩陣以及實(shí)對(duì)稱(chēng)矩陣與什么樣的變換對(duì)應(yīng)呢？對(duì)稱(chēng)矩陣與什么樣的變換對(duì)應(yīng)呢？推廣到酉空間，相應(yīng)的矩陣稱(chēng)為推廣到酉空間，相應(yīng)的矩陣稱(chēng)為Hermite矩陣矩陣，滿(mǎn)足，滿(mǎn)足關(guān)系式關(guān)系式HAA 既然矩陣與變換一一對(duì)應(yīng)，那么既然矩陣與變換一一對(duì)應(yīng)，那么Hermite矩陣以及實(shí)矩陣以及實(shí)對(duì)稱(chēng)矩陣與什么樣的變換對(duì)應(yīng)呢對(duì)稱(chēng)矩陣與什么樣的變換對(duì)應(yīng)呢？我們知道，實(shí)對(duì)稱(chēng)矩陣我們知道，實(shí)對(duì)稱(chēng)矩陣 滿(mǎn)足關(guān)系式滿(mǎn)足關(guān)系式A任取任取 ，設(shè)，設(shè)V、 1212= (,) ,= (,)nnxy， ， ， 則則)(),HHHy AxTAyx 設(shè)設(shè) 在酉空間在酉空間 的一組標(biāo)準(zhǔn)正交基的一組標(biāo)準(zhǔn)正交基 下的矩陣表示為

16、下的矩陣表示為 且且 。VTA12,n， ，HAA ( ,( ( )()HA yxT 12( )(,),nTAx ， ，12( )(,),nTAy ， ，設(shè)設(shè) 是酉空間（或是酉空間（或歐氏空間歐氏空間） 上的線(xiàn)上的線(xiàn)性變換，如果對(duì)任意性變換，如果對(duì)任意 ， 都有都有則稱(chēng)則稱(chēng) 為為 上的上的 ，并，并稱(chēng)稱(chēng) 在在 的任意一組標(biāo)準(zhǔn)正交基下的矩陣表示為的任意一組標(biāo)準(zhǔn)正交基下的矩陣表示為VT( ( ),)( ,( ) .TT VTV、 TV一、一、 Hermite變換（對(duì)稱(chēng)變換）變換（對(duì)稱(chēng)變換）酉空間（或酉空間（或歐氏空間歐氏空間） 上的線(xiàn)性變換上的線(xiàn)性變換 是是 的的充要條件充要條件是是 在在 的任意

17、一組標(biāo)準(zhǔn)正交基下的矩陣的任意一組標(biāo)準(zhǔn)正交基下的矩陣 滿(mǎn)足滿(mǎn)足即即 是是Hermite矩陣。矩陣。VTATV()HTAAAA A1122( (),)(,)ijiin injTaaa ( (),)jii jTa 所以所以( (),)(,()ijij ijTTa ( (),)jii jaT 從而從而HAA ,j ia 設(shè)設(shè) 在在 的一組標(biāo)準(zhǔn)正交基的一組標(biāo)準(zhǔn)正交基 下的矩陣表示為下的矩陣表示為 。12,n， ，()i jAa VT設(shè)設(shè) 是酉空間（或是酉空間（或歐氏空間歐氏空間） 上的線(xiàn)上的線(xiàn)性變換，如果對(duì)任意性變換，如果對(duì)任意 ， 都有都有則稱(chēng)則稱(chēng) 為為 上的上的 ，并稱(chēng)，并稱(chēng) 在在 的任意一組標(biāo)準(zhǔn)正

18、交基下的矩的任意一組標(biāo)準(zhǔn)正交基下的矩陣表示為陣表示為( ( ),)( ,( ) .TT VTV、 TVVT()HTAAAA 酉空間（或酉空間（或歐氏空間歐氏空間） 上的線(xiàn)性變上的線(xiàn)性變換換 是是 的充要的充要條件是條件是 在在 的任意一組標(biāo)準(zhǔn)正交基下的矩陣的任意一組標(biāo)準(zhǔn)正交基下的矩陣 滿(mǎn)足滿(mǎn)足VTATV例例 5 (5 (方陣的方陣的Cartesian分解分解) )任意復(fù)方陣任意復(fù)方陣 可分解為可分解為其中其中 都是都是Hermite矩陣。矩陣。A12,AHi H12,HH例例 6 (6 (Cayley變換變換) )方陣方陣 是實(shí)反對(duì)稱(chēng)矩陣，那么是實(shí)反對(duì)稱(chēng)矩陣，那么 是非奇異是非奇異的，并且的，

19、并且Cayley變換矩陣變換矩陣是正交矩陣。是正交矩陣。A1()()SIA IA IA 因?yàn)橐驗(yàn)?，所以對(duì)任意的，所以對(duì)任意的 ， 有有nxR TAA ()()TTTTTTx Axx AxxAxx Ax 因此因此 。對(duì)于。對(duì)于0Tx Ax ()0IA x 由于由于 ，從而方程組，從而方程組只有零解，所以只有零解，所以 是非奇異的。是非奇異的。()0TTx xxIA x()IA 由于由于11()()() ()SIAIAIAIA 11()()()()TTTSIAIAIA IA 所以所以從而可推出從而可推出TSSI 例例 7 (7 (廣義特征值問(wèn)題的廣義特征值問(wèn)題的Cayley變換變換) )對(duì)于對(duì)于

20、 ，如果，如果 是是所謂所謂 是我們已經(jīng)計(jì)算出的特征值是我們已經(jīng)計(jì)算出的特征值的近似值的近似值, ,即所謂即所謂那么經(jīng)過(guò)那么經(jīng)過(guò)Cayley變變換換可得到可得到 并且并且AxBx 1()()CTABAB CT xt x 1()()t ()(),AB xBxBxBx,AxBx 11()(),ABBxx11() ()() ()ABBxABBxBx 1() ()ABAxBx 1() (.)ABAB x 11()() ().)ABBxx 二、二、 Hermite矩陣及對(duì)稱(chēng)矩陣的性質(zhì)矩陣及對(duì)稱(chēng)矩陣的性質(zhì)正規(guī)矩陣正規(guī)矩陣 是是 矩陣矩陣( (反反HermiteHermite矩陣矩陣) )的充要條件是的充要

21、條件是 的特征值全是實(shí)數(shù)的特征值全是實(shí)數(shù)( (純虛純虛數(shù)數(shù)) )，即，即 酉相似酉相似于實(shí)對(duì)角矩陣于實(shí)對(duì)角矩陣( (對(duì)角元是純虛數(shù)對(duì)角元是純虛數(shù)的對(duì)角矩陣的對(duì)角矩陣) )。AAA因?yàn)橐驗(yàn)?是正規(guī)矩陣，所以存在是正規(guī)矩陣，所以存在酉矩陣酉矩陣 及對(duì)角陣及對(duì)角陣 ，使得，使得UDAHAUDU ()HH HHHAUDUUDUUDUA 由于由于 的特征值全是實(shí)數(shù)，所以的特征值全是實(shí)數(shù)，所以A因?yàn)橐驗(yàn)?是正規(guī)矩陣，所以存在是正規(guī)矩陣，所以存在酉矩陣酉矩陣 及對(duì)角陣及對(duì)角陣 ，得到，得到UDAHAUDU 因?yàn)橐驗(yàn)?，從而，從而HAA HHUDUUDU 因此因此 ，即，即 的對(duì)角元全是實(shí)數(shù)。的對(duì)角元全是實(shí)數(shù)

22、。DD D所以所以 的主對(duì)角元是的主對(duì)角元是 的特征值。的特征值。DA實(shí)對(duì)稱(chēng)矩陣實(shí)對(duì)稱(chēng)矩陣 正交相似于實(shí)對(duì)角矩陣正交相似于實(shí)對(duì)角矩陣 ，即存在正交矩陣即存在正交矩陣 ，使得，使得A Q1TQ AQQ AQ HermiteHermite矩陣的譜分解矩陣的譜分解1122HnnAU UUUU111222HHHnnnu uu uu u1HU AUUAU 111112211102iiiAiii 注意這里矩陣的特征值為注意這里矩陣的特征值為實(shí)實(shí)數(shù)數(shù)實(shí)對(duì)稱(chēng)矩陣的特征值分解實(shí)對(duì)稱(chēng)矩陣的特征值分解1122TnnAQ QQQQ1 1 1222TTTnnnq qq qq q1TQ AQQ AQ 注意這里矩陣的特征對(duì)

23、都是注意這里矩陣的特征對(duì)都是實(shí)實(shí)的的311111112213111124A三、三、 正定正定Hermite矩陣矩陣實(shí)數(shù)域內(nèi)經(jīng)常處理的矩陣是實(shí)數(shù)域內(nèi)經(jīng)常處理的矩陣是正定對(duì)稱(chēng)矩陣正定對(duì)稱(chēng)矩陣，關(guān)于它有許多優(yōu)美的結(jié)論。將數(shù)域推廣到關(guān)于它有許多優(yōu)美的結(jié)論。將數(shù)域推廣到復(fù)數(shù)域，考察相應(yīng)的結(jié)論，這就是下面的復(fù)數(shù)域，考察相應(yīng)的結(jié)論，這就是下面的主題。主題?；蚧蛑傅氖侵傅氖菑?fù)系數(shù)二復(fù)系數(shù)二次齊次復(fù)多項(xiàng)式次齊次復(fù)多項(xiàng)式其對(duì)應(yīng)的矩陣其對(duì)應(yīng)的矩陣 顯然是顯然是()i jAa 1,1(,),nHni jiji jj ii jf xxa x xx Axaa 對(duì)于對(duì)于Hermite二次型二次型存在存在酉變換酉變換 ，將二

24、次型化為，將二次型化為其中其中 是是 的特征值。的特征值。xU y 1(,),Hnf xxx Ax Aj 1111222(,)nnnnf xxy yy yy y對(duì)于對(duì)于Hermite二次型二次型存在存在可逆的線(xiàn)性變換可逆的線(xiàn)性變換 ，將二次型化成，將二次型化成其中其中 是是 的秩。的秩。xP y 1(,),Hnf xxx Ax Ar1111( )pppprrf xy yy yyyy y Hermite二次型二次型 稱(chēng)為稱(chēng)為，如果對(duì)任意，如果對(duì)任意 ，恒有，恒有 ；當(dāng)且僅當(dāng)當(dāng)且僅當(dāng) 時(shí)時(shí) 。其對(duì)應(yīng)的矩陣顯。其對(duì)應(yīng)的矩陣顯然是然是( )Hf xx Ax nxC 0Hx Ax x 0Hx Ax He

25、rmite二次型二次型 稱(chēng)為稱(chēng)為，如果對(duì)任意，如果對(duì)任意 ，恒有，恒有 。其對(duì)應(yīng)的矩陣顯然是其對(duì)應(yīng)的矩陣顯然是( )Hf xx Ax nxC 0Hx Ax 設(shè)設(shè) 是酉空間是酉空間 上的上的Hermite 變換，如果對(duì)變換，如果對(duì)任意任意 ， 都有都有則稱(chēng)則稱(chēng) 為為 上的上的 ，并稱(chēng)，并稱(chēng) 在在 的任意一組標(biāo)準(zhǔn)正交基下的矩陣表示為的任意一組標(biāo)準(zhǔn)正交基下的矩陣表示為VT( ,( )0,( )0().TT VTV TV設(shè)設(shè) 是是歐氏空間歐氏空間 上的上的對(duì)稱(chēng)變換對(duì)稱(chēng)變換），如果對(duì)），如果對(duì)任意任意 ， 都有都有則稱(chēng)則稱(chēng) 為為 上的上的 ，并稱(chēng)，并稱(chēng) 在在 的任意一組標(biāo)準(zhǔn)正交基下的矩陣表示為的任意一組

26、標(biāo)準(zhǔn)正交基下的矩陣表示為VT( ,( )0,( )0().TT VTV TV對(duì)對(duì)Hermite二次型二次型 ，下，下列命題是等價(jià)的：列命題是等價(jià)的：（1 1） 是正定的；是正定的；（2 2） 對(duì)任意對(duì)任意 階可逆矩陣，階可逆矩陣， 都是正定都是正定HermiteHermite矩陣；矩陣；（3 3） 的特征值全是正數(shù)；的特征值全是正數(shù)； （4 4） 存在存在 階可逆矩陣階可逆矩陣 ，使得，使得 ；（5 5） 存在存在 階可逆矩陣階可逆矩陣 ，使得，使得 ；（6 6） 存在存在 階可逆階可逆Hermite矩陣矩陣 ，使得，使得P( ),Hnf xx Ax xCAnHP API H( )f xQHA

27、Q Q 2AH nnnHP AP證明：證明：可證可證(1)(2)(3)(4)(5)(1)以及以及(1)(6)對(duì)對(duì) 階階Hermite矩陣矩陣 ，下列命題是等價(jià)的：下列命題是等價(jià)的：（1 1） 是半正定的；是半正定的；（2 2） 對(duì)任意對(duì)任意 階可逆矩陣，階可逆矩陣， 都是半正定都是半正定Hermite矩陣；矩陣；（3 3） 的特征值全是非負(fù)實(shí)數(shù)；的特征值全是非負(fù)實(shí)數(shù)； （4 4） 存在存在 階可逆矩陣階可逆矩陣 ，使得，使得 這里這里 為為 的秩；的秩；（5 5） 存在秩為存在秩為 的的 階矩陣階矩陣 使得使得 ；（6 6） 存在存在 階階Hermite矩陣矩陣 ，使得，使得PnArn,HrI

28、OPAPOO HAQHAQ Q 2AH nAArnHP APnHHALDLGG ( ( Cholesky分解定理分解定理 ) )Hermite陣陣 的充要條件是則存在唯一的的充要條件是則存在唯一的單位下三角矩陣單位下三角矩陣 與唯一的實(shí)對(duì)角矩陣與唯一的實(shí)對(duì)角矩陣 ，也就是存在唯一的下三角矩陣也就是存在唯一的下三角矩陣 ，使得使得 0A ALD1/2GLD 對(duì)正定對(duì)正定Hermite矩陣矩陣 ，證明：，證明：（1 1） 也是正定的；（也是正定的；（2 2） 。|0A 1A A例例 21 (21 (Schur補(bǔ)補(bǔ)) ) 階方陣階方陣 有如下分塊有如下分塊則則 是正定是正定Hermite矩陣的矩陣的

29、充要條件充要條件是是 和和 都是正定都是正定Hermite矩矩陣。陣。A11121121122122,k kHAAAACAAAA 11AAn122211112AA A A 11A證明：證明：利用利用111121121112221121111A AA AAA AIOAOIAIOOIA 3、投影變換及投影矩陣、投影變換及投影矩陣正交投影和斜投影應(yīng)用領(lǐng)域廣泛。比如在正交投影和斜投影應(yīng)用領(lǐng)域廣泛。比如在無(wú)線(xiàn)通信、雷達(dá)、時(shí)間序列分析和信號(hào)處無(wú)線(xiàn)通信、雷達(dá)、時(shí)間序列分析和信號(hào)處理等領(lǐng)域中，經(jīng)常需要理等領(lǐng)域中，經(jīng)常需要提取某個(gè)所需要的提取某個(gè)所需要的信號(hào)，同時(shí)過(guò)濾掉所有干擾或噪聲。信號(hào)，同時(shí)過(guò)濾掉所有干擾或

30、噪聲。這就這就仿佛拍照：我們留下了二維的平面影像，仿佛拍照：我們留下了二維的平面影像，但也拋棄了第三個(gè)維度。在大規(guī)模計(jì)算中，但也拋棄了第三個(gè)維度。在大規(guī)模計(jì)算中，更需要通過(guò)投影方法來(lái)降低計(jì)算量。更需要通過(guò)投影方法來(lái)降低計(jì)算量。定理定理1 (1 (斜投影變換斜投影變換) )酉空間或歐氏空間酉空間或歐氏空間 中的任意向量中的任意向量 有有直和分解直和分解則則 是是12112212,VV VVV 1 R R : :V 2V1V2R RR R V1V 1 2 2V思考：思考：HouseholderHouseholder是斜投影矩陣嗎？是斜投影矩陣嗎？V定理定理2 (2 (正交投影變換正交投影變換) )

31、酉空間或歐氏空間酉空間或歐氏空間 中的任意向量中的任意向量 在在 的的子空間子空間 上的正交投影為上的正交投影為 ，即有，即有則則既是既是Hermite，也，也是是1V121121,VV V1 1 R R : :V 1V 1VV1V 1 2 對(duì)任意對(duì)任意 ，同樣有，同樣有V 121121,VV 因此因此11211( ( ),)()()R,R, 121(,)( ,( ( )R R另外顯然有另外顯然有211( )( ( )()( )R RR R R RR RR R 這說(shuō)明正交投影變換的矩陣表示這說(shuō)明正交投影變換的矩陣表示 （稱(chēng)為（稱(chēng)為正交投影正交投影矩陣矩陣）既是）既是Hermite 矩陣也是矩陣

32、也是冪等矩陣冪等矩陣( )( )P2PP 思考：思考：HouseholderHouseholder是正交投影矩陣嗎？是正交投影矩陣嗎？正交投影變換的矩陣表示是什么樣的矩陣呢？正交投影變換的矩陣表示是什么樣的矩陣呢？考慮正交投影考慮正交投影121:()0)TTx xxR R, , ,注意到注意到1112200010 xxxPxx 再聯(lián)想到此投影的再聯(lián)想到此投影的像空間像空間 ，不難發(fā)現(xiàn)其基不難發(fā)現(xiàn)其基 滿(mǎn)足滿(mǎn)足111(0) ,TVxxR, , (1)T,0,0 110,00001P 這說(shuō)明正交投影變換的矩陣表示應(yīng)該是由像空間的基這說(shuō)明正交投影變換的矩陣表示應(yīng)該是由像空間的基與其轉(zhuǎn)置相乘而得的矩陣

33、？與其轉(zhuǎn)置相乘而得的矩陣？考慮正交投影考慮正交投影123120:()(, ) .TTx xxx xR R, , , ,注意到注意到111222330000010010 xxxxxP xxx00010101000101.0100000P 并且確實(shí)成立并且確實(shí)成立定理定理 3 (3 (正交投影變換的矩陣表示正交投影變換的矩陣表示I I) )酉空間或歐氏空間酉空間或歐氏空間 中的子空間中的子空間 由由半酉半酉矩陣矩陣 張成，即張成，即則則 可表示為可表示為1V1n rUC V1V 11().VSpan U nVC 1V111.HVPU U= =按施密特正交化過(guò)程可知，存在另一個(gè)單位按施密特正交化過(guò)程

34、可知，存在另一個(gè)單位正交列矩陣正交列矩陣 ，使得，使得 滿(mǎn)滿(mǎn)足足 ，則，則()2nn rUC 12(,)UU U HU UI HIUU 11211222(,).HHHHUU UU UU UU1122.HHxIxU U xU U x 這里這里111222(),().HHU U xR UU U xR U 因此對(duì)任意因此對(duì)任意 ，有，有nxC 1.WU R 顯然顯然如果僅僅知道如果僅僅知道列滿(mǎn)秩列滿(mǎn)秩矩陣矩陣 ，顯然，顯然 的各的各列構(gòu)成列構(gòu)成 維子空間維子空間 的一組基，那么根據(jù)的一組基，那么根據(jù)UR分分解解可知，存在半正交矩陣可知，存在半正交矩陣 和上三角矩和上三角矩陣陣 ，使得，使得r rRC

35、 1VWn rWC 1n rUC r11()().VSpan WSpan U因此因此11111()VHHU UWPRWR 1()HHW R RW 111()HHHW R U U RW 1()HHW W WW 定理定理 4 (4 (正交投影變換的矩陣表示正交投影變換的矩陣表示IIII) )酉空間或歐氏空間酉空間或歐氏空間 中的子空間中的子空間 由由列滿(mǎn)秩矩陣列滿(mǎn)秩矩陣 的列向量張成，即的列向量張成，即則則 可表示為可表示為1Vn rWC nC1V 1().VSpan W nC1V- -= =11().HHVPW W WW思考思考對(duì)于一般的酉空間或歐氏空間對(duì)于一般的酉空間或歐氏空間 ，是否成立，是

36、否成立與定理與定理3及定理及定理4類(lèi)似的結(jié)論？此時(shí)類(lèi)似的結(jié)論？此時(shí) 及及 的含義分別是什么？的含義分別是什么？V1U1V2PP 正規(guī)變換正規(guī)變換投影變換投影變換 HHAAA A HermiteHermite變換變換（對(duì)稱(chēng)變換）（對(duì)稱(chēng)變換） 酉變換酉變換 （正交變換）（正交變換） 2HPPP 正交投影變換正交投影變換 對(duì)合變換對(duì)合變換 2AI HAA 1HAA 4、矩陣的奇異值分解、矩陣的奇異值分解從從Beltrami（1873）和）和Jordan（1874）提出奇）提出奇異值分解（異值分解（SVD）至今，）至今，SVD及其推廣已經(jīng)成及其推廣已經(jīng)成為矩陣計(jì)算中最有用和最有效的工具之一，并為矩陣計(jì)

37、算中最有用和最有效的工具之一，并在最小二乘問(wèn)題、最優(yōu)化、統(tǒng)計(jì)分析、信號(hào)與在最小二乘問(wèn)題、最優(yōu)化、統(tǒng)計(jì)分析、信號(hào)與圖像處理、系統(tǒng)理論與控制等領(lǐng)域被廣泛使用。圖像處理、系統(tǒng)理論與控制等領(lǐng)域被廣泛使用。一、從幾何觀測(cè)說(shuō)起一、從幾何觀測(cè)說(shuō)起 圓圓 經(jīng)過(guò)變換經(jīng)過(guò)變換 ，變成橢圓，變成橢圓 。圓的正交方。圓的正交方向向 變成橢圓的長(zhǎng)、短軸方向變成橢圓的長(zhǎng)、短軸方向12vv、SAAS1 122uu 、 假定矩陣假定矩陣 是是列滿(mǎn)秩矩陣列滿(mǎn)秩矩陣。()mnnACm 一般地，一般地， 維空間中的維空間中的 經(jīng)過(guò)變換經(jīng)過(guò)變換 變成變成 。正交方向。正交方向 變成超橢變成超橢圓的主半軸方向圓的主半軸方向 。稱(chēng)。稱(chēng)

38、的的 個(gè)主個(gè)主半軸的長(zhǎng)度半軸的長(zhǎng)度 為為 的的， 對(duì)應(yīng)的單位向量對(duì)應(yīng)的單位向量 為為 的的，對(duì)應(yīng)的原象，對(duì)應(yīng)的原象 為為 的的。相應(yīng)的空間稱(chēng)為。相應(yīng)的空間稱(chēng)為1nvv、 、SAAS1 1nnuu 、 、n1nuu、 、A11()nn 、 、1nvv、 、ASnAA 前面已經(jīng)指出前面已經(jīng)指出：(1)jjjAvujn 121212( , , ) ( , ,)( ,)nnnAv vvu uu diag 矩陣形式為矩陣形式為 AVU 這里矩陣這里矩陣 是半酉矩陣，是半酉矩陣， 是酉矩陣。是酉矩陣。UV* AUV這樣就得到這樣就得到 的的A 同樣地，將矩陣同樣地，將矩陣 擴(kuò)充為擴(kuò)充為 階酉矩陣階酉矩陣

39、， 并令并令 ，則得，則得 的的UAO Um*AVU 對(duì)任意矩陣對(duì)任意矩陣 ，都存在一個(gè)完，都存在一個(gè)完全奇異值分解全奇異值分解 ,并且奇異值并且奇異值 是唯是唯一確定的。也就是一確定的。也就是任意矩陣酉等價(jià)于對(duì)角陣任意矩陣酉等價(jià)于對(duì)角陣.j m nAC *AU V 從變換的角度理解從變換的角度理解，酉變換，酉變換 保持球面不變保持球面不變 ，對(duì)角矩陣對(duì)角矩陣 將球面拉伸到一個(gè)有標(biāo)準(zhǔn)基的超橢將球面拉伸到一個(gè)有標(biāo)準(zhǔn)基的超橢圓，最后酉變換圓，最后酉變換 旋轉(zhuǎn)或鏡射這個(gè)超橢圓，但旋轉(zhuǎn)或鏡射這個(gè)超橢圓，但不改變它的形狀。則不改變它的形狀。則 的求解為的求解為(有解時(shí)有解時(shí))*V UAxb 11UVHb

40、UbbbxVxx 二、由二、由SVD導(dǎo)出的矩陣性質(zhì)導(dǎo)出的矩陣性質(zhì)此結(jié)論說(shuō)明用此結(jié)論說(shuō)明用SVD可以計(jì)算矩陣的秩（可以計(jì)算矩陣的秩（數(shù)值秩數(shù)值秩）, matlab中矩陣求秩采用的算法就是基于中矩陣求秩采用的算法就是基于SVD的算的算法法. 例如例如對(duì)矩陣對(duì)矩陣 ， 表示矩表示矩陣陣 的的非零非零奇異值的數(shù)目，則奇異值的數(shù)目，則 m nAC (min(, )rrm n A( )rrank A H=hilb(20); /Hilbert矩陣 rank(H) /計(jì)算H的秩，真解為真解為20ans = 13對(duì)任意矩陣對(duì)任意矩陣 ，矩陣，矩陣 的的非零非零奇異值數(shù)目為奇異值數(shù)目為 ， 為為矩陣矩陣 的的SV

41、D分解，則分解，則 A*AU Vm nAC (min(, )rm nr A12( ,(),)rRspanAu uu 12(,.()rrnNspanvAvv 112112rHm rHHOVAUUUVOOrnVr 將將 的的SVD分解分塊為分解分塊為A于是有于是有111()() | |()Hy yAxy yUVxARRU從而從而1111 | |()()y yU zy yA VR UR Az 121,(),()rspaR UAu uuRn11|()()(Hx AxxxN AUV12|Hx xVx Vx 12,rrnspan vvv 對(duì)任意矩陣對(duì)任意矩陣 ，矩陣，矩陣 的的非零非零奇異值奇異值 就是矩

42、陣就是矩陣 或或 的的非零非零特征值的平方根。特征值的平方根。HA Am nAC AHAA10r 矩陣矩陣 在多元統(tǒng)計(jì)分析中稱(chēng)為在多元統(tǒng)計(jì)分析中稱(chēng)為，這說(shuō)明這說(shuō)明SVD可以可以在其中大展拳腳，事實(shí)上也確實(shí)在其中大展拳腳，事實(shí)上也確實(shí)如此。如此。HA A既然矩陣既然矩陣 的非零奇異值對(duì)應(yīng)將球面拉伸為超橢圓時(shí)的非零奇異值對(duì)應(yīng)將球面拉伸為超橢圓時(shí)各主半軸的拉伸因子，而特征值也表示某種拉伸的倍數(shù)，各主半軸的拉伸因子，而特征值也表示某種拉伸的倍數(shù)，那么兩者間存在什么關(guān)系呢？那么兩者間存在什么關(guān)系呢？A設(shè)設(shè) 的的SVD分解為分解為 ，則，則HAU VA() ()HHHHA AU VU V 所以所以 與與

43、相似，而對(duì)角矩陣相似，而對(duì)角矩陣 的的 個(gè)特征值為個(gè)特征值為 HA AH H 221,0,0(min( , )ppm n n對(duì)于對(duì)于 的的 個(gè)特征值，有類(lèi)似的計(jì)算。個(gè)特征值，有類(lèi)似的計(jì)算。 HAAm111()() ()HHHVVVV |( )HHUsignAUUU 對(duì)任意對(duì)任意Hermite矩陣矩陣 ，矩陣，矩陣 的的奇奇異值就是矩陣異值就是矩陣 的特征值的絕對(duì)值。的特征值的絕對(duì)值。An nAC A其中其中 1|(|,|),ndiag 設(shè)設(shè)Hermite矩陣矩陣 的特征值分解為的特征值分解為 這里這里 為實(shí)對(duì)角矩陣。則為實(shí)對(duì)角矩陣。則HAU UA 1( )(),()nsigndiag sign

44、sign 由于矩陣由于矩陣 是酉矩陣，所以是酉矩陣，所以 ( )HsignU 是一個(gè)是一個(gè)SVD。根據(jù)定理。根據(jù)定理4 4，結(jié)論成立。，結(jié)論成立。|( )HUsignAU (),()() ()| 0HHHHHHA AA AxA A xAxAxAx 221()(,)HHnVA A Vdiag 這里這里111,0nrrnVvv , , , ,所以所以 是是半正定的半正定的Hermite矩陣矩陣。HA A又因?yàn)榉匠探M又因?yàn)榉匠探M 與與 同解，所以同解，所以HA Ax Ax ()()Hr ArrAA 從而可設(shè)從而可設(shè) 具有如下具有如下Schur分解分解：HA A則由則由Schur分解，可知分解，可知1

45、1211,(,)rrnrVvvVvvdiag 令令, , , , , , ,21122(),().HHHHVA A VVA A VO 111,UAV 令令則則11.HU UI 這說(shuō)明這說(shuō)明 的列互相正交，同時(shí)的列互相正交，同時(shí) 的列都是零向的列都是零向量，即量，即 。2AV1AV2AVO 添加添加 至至 ，從而將，從而將 擴(kuò)充擴(kuò)充 至至 使之成為使之成為 的正交基，則的正交基，則1m rUC 12,UU U ()2mm rUC 1UmC1122,HHHU AVUVUA V 11122122HHHHU AOVU AVU AVU AVOO 從而從而11()HHUVOAUVOO 第二步第二步： 令令

46、 為為 的非負(fù)對(duì)角的平方根，計(jì)的非負(fù)對(duì)角的平方根，計(jì)算算 三、三、SVD的算法的算法11111()HUVAVAU 由定理由定理3和和4，任意矩陣，任意矩陣 的的SVD分解的算法為：分解的算法為：A第一步第一步： 形成形成 ，并計(jì)算特征值分解，并計(jì)算特征值分解HA A12, ,HHA A V VVV V 第三步第三步: 通過(guò)求通過(guò)求 的解空間的單位正交的解空間的單位正交基，得基，得 ，從而得，從而得HAA y 2U12(,)UU U 1 0 1(1)0 1 1 ;0 0 0A 求下列矩陣的（完全）求下列矩陣的（完全）SVD分解：分解：1 0(2)0 1 .1 0A 101210011 ,1201

47、12000TTA AAA解解：（1）矩陣矩陣 的特征值為的特征值為 ，對(duì)應(yīng)的特征向，對(duì)應(yīng)的特征向量為量為123(1,1,2) ,(1, 1,0) ,(1,1, 1)TTT3,1,0TA A從而從而12111623111623216330(,),010VV V 計(jì)算計(jì)算解解 ，得其基礎(chǔ)解系為，得其基礎(chǔ)解系為T(mén)AA y 1111122112200UAV 3(0,0,1)T 從而從而200 ,1U 12112211220(,)0001UU U 因此所求（完全）因此所求（完全）SVD為為000030010TAUV 由于是方陣，簡(jiǎn)化由于是方陣，簡(jiǎn)化SVD同上面的結(jié)果一樣。同上面的結(jié)果一樣。%exm401

48、.mA=1 0 1; 0 1 1;0 0 0; U,D,V=svd(A) %注意返回的三個(gè)矩陣的順序注意返回的三個(gè)矩陣的順序U = 0.7071 -0.7071 0 0.7071 0.7071 0 0 0 1.0000D = 1.7321 0 0 0 1.0000 0 0 0 0V = 0.4082 -0.7071 0.5774 0.4082 0.7071 0.5774 0.8165 0.0000 -0.5774注意注意 的第的第2 2列與手算列與手算結(jié)果相差一個(gè)負(fù)號(hào)。結(jié)果相差一個(gè)負(fù)號(hào)。U10120,01001101TTA AAA解解：（2）矩陣矩陣 的特征值為的特征值為 ，對(duì)應(yīng)的特征向量，對(duì)應(yīng)的特征向量為為12(1,0) ,(0,1)TT2,1TA A從而從而11020,0101VV 計(jì)算計(jì)算解解 ，得其基礎(chǔ)解系為，