1、矩陣的廣義逆,The Pseudoinverse,矩陣的廣義逆,概述： 矩陣的逆：A n n ，B n n ，B A= A B =I, 則B=A 1 廣義逆的目標(biāo)：逆的推廣 對(duì)一般的矩陣 A m n可建立部分逆的性質(zhì)。 當(dāng)矩陣A n n可逆時(shí)，廣義逆與逆相一致。 可以用廣義逆作求解方程組AX=b的理論分析。, 4. 1 矩陣的左逆與右逆,一、滿秩矩陣和單側(cè)逆 1、左逆和右逆的定義 定義4. 1 (P . 93) A C m n， B C n m，BA=In，則稱矩陣B 為矩陣A 的左逆，記為 B = 。,例題1 矩陣A的左逆A= 。,A C m n ， C C n m ，AC=Im，則稱矩陣C

2、 為 矩陣A 的右逆，記為 C= 。,2、左逆和右逆存在的條件 的存在性,直觀分析,存在矩陣A列滿秩 = （AHA）1AH,定理4. 1(P . 93) 設(shè)A C mn ，下列條件等價(jià) A左可逆 A的零空間N（A）=0。 mn，秩（A）=n，即矩陣A是列滿秩的。 矩陣AH A可逆。,例題2 求矩陣A = 的左逆。,矩陣右逆的存在性 定理4 . 2 (P . 94)A C m n ，則下列條件等價(jià)： 矩陣A右可逆。 A的列空間R（A）=Cm n m ，秩（A）=m，A是行滿秩的。 矩陣A AH 可逆 =AH（AAH）1,討論：可逆矩陣An n的左、右逆和逆的關(guān)系 可逆矩陣A的左、右逆就是矩陣A的

3、逆A A1=（AHA）1AH =AH（AAH）1,二、單側(cè)逆和求解線性方程組AX=b,討論 AX=b 有解與左、右逆存在的關(guān)系。 借助于左、右逆求AX=b的形如X=Bb的解。 1、右可逆矩陣 定理4 4 (P . 95) A C m n右可逆，則bCm，AX=b有解。 X= b 是方程組AX=b的解。,二、單側(cè)逆和求解線性方程組AX=b,2、左可逆矩陣 求解分析： 定理4 3 (P . 94)設(shè)矩陣A C m n左可逆，B是矩陣A的任何一個(gè)左逆，則 AX=b有形如X=Bb的解的充要條件是 ( ImAB )b=0 () 當(dāng)()式成立時(shí)，方程組的解是惟一的，而且惟一解是X=（AHA）1AH b 證

4、明：,討論：對(duì)任何滿足式( ) 的左逆B，X=Bb都是方程組的 解，如何解釋方程組的解是惟一的？, 4. 2 廣義逆矩陣,思想：用公理來定義廣義逆。 一、減號(hào)廣義逆 定義4 . 2 (P . 95) A C m n ，如果，G C n m使得，AGA=A，則矩陣G為的A減號(hào)廣義逆?；?逆。A的減號(hào)逆集合A1=A11，A21， ， Ak1 例題1 A C nn可逆，則A1 A1； A單側(cè)可逆，則A 1LA1；A1RA1。 減號(hào)逆的求法：定理4.5（P . 95） 減號(hào)逆的性質(zhì)：定理4.6 (P . 96),二、Moore-Penrose（M-P）廣義逆,由Moore 1920年提出，1955年由

5、Penrose發(fā)展。 1、 定義4.3 (P . 98)設(shè)矩陣A C m n ，如果 GC n m ，使得 AGA=A GAG=G （AG）H = AG （GA）H =GA 則稱G為A的M-P廣義逆，記為G=A+。,A1 = A + ； A1L = （AHA）1AH=A +； A 1R =AH（AAH）1=A + ； 若 A + ，則A + 是 A1 。,例題2 討論原有的逆的概念和M-P廣義逆的關(guān)系。,3、M-P廣義逆的存在性及其求法 定理4.8（P . 99）任何矩陣都有M-P廣義逆。 求法： 設(shè)A滿秩分解A=BC， 則A + =CH （CCH ）1（BH B）1BH 。 （定理4.9）設(shè)

6、A奇異值分解 ：,，則,2、M-P 廣義逆的惟一性,定理4.9 (P . 98)如果A有M-P廣義逆，則A的 M-P廣義逆是惟一的。,例題1 求下列特殊矩陣的廣義逆； 零矩陣0； 1階矩陣( 數(shù)) a； 對(duì)角矩陣,例題3 設(shè) ， 求A+。,0 + mn =0 nm,例題2 設(shè)向量 的M-P廣義逆。.,4、M-P廣義逆的性質(zhì) 定理4.12 (P . 100) ：則A滿足下列性質(zhì)： （ A + ）+=A （A + ） H =（A H ）+ （A）= +A+ A列滿秩，則A+=（ A H A ） 1A H ，A行滿秩，則A+=AH （AAH） 1。 A有滿秩分解：A=BC，則A+=C+B+。,A +

7、與A1 性質(zhì)的差異比較： （AB）1=B 1 A 1 ，一般不成立（AB）+=B+A+。（只有滿秩分解成立） （A1）k =（Ak） 1 ，但不成立（A+）k=（Ak）+, 4. 3 投影變換（為討論A + 的應(yīng)用做準(zhǔn)備）,問題：逆在什么情形下是有用的？ 一、投影變換和投影矩陣 定義4.4（P . 101）設(shè)Cn=L M ，向量x Cn, x=y+z， y L， z M， 如果線性變換 ： C nCn ， （x）=y， 則稱為從 Cn 沿子空間M到子空間L的投影變換。,投影變換的矩陣,R（ ）=L； N（ ）=M， Cn=R（ ） N（ ） L和M是的不變子空間；L=I； M =0,投影的矩陣

8、和變換性質(zhì)： 定理4 .13（P . 101） 是投影 是冪等變換 推論： 為投影變換的充要條件是變換矩陣是 冪等矩陣,二、正交投影和正交投影矩陣 正交投影的定義： 定義4.5 （P . 103） 設(shè) ：C nCn 是投影變換， C n =R（） N（），如果 R （） =N（），則稱為正交投影。,2 正交投影矩陣 定理4.14（P . 103）是正交投影 投影矩陣A滿足：,A 2 =A AH=A,例題1 設(shè)W是C n 的子空間，證明 存在到W的投影變換， 使R（）=W。,3、正交投影的性質(zhì) 定理4.16（P . 104）設(shè)W是C n的子空間，x0C n，x 0 W，如果是空間C n向空間W的

9、正交投影，則,含義：點(diǎn)（x0）是空間 W 中與點(diǎn)x 0距離最近的點(diǎn)。,4、A + A與AA +的性質(zhì) 定理4.15（P . 104） A + A的性質(zhì)： （A + A）2 = A + A，（A + A）H = A + A C n =R（A + ） N（A） R （A + ）= N（A） A A +的性質(zhì)： （A A + ）2 = A A + ，（A A + ）H = A A + C m=R（A ） N（A + ） R （A + ）= N（A）,A + A 是正交投影，將向量 x 投影到空間R（A + ）中。 A A + 是正交投影，將向量 x 投影到空間R（ A ）中。,含義：,4.4 最佳最小二乘解,一、最佳最小二乘解 A mn X n 1 =b m1,有解bR（A） 無解b R（A）,1、AX=b的最佳最小二乘解 定義4. 6（P . 105） u 是最小二乘解 x0是最佳最小二乘解,2、 AX=b的最佳最小二乘解的計(jì)算 定理4. 17 設(shè)方程組AX=b，則A +b 是AX=b 的最佳最小二乘解。 例題1 （P . 106，eg8）,例題2、設(shè)， ，= 證明 R（A） 在列空間R（A）上找一點(diǎn)X0 ，X0距離 最近。,二、最佳擬合曲線 問題：在實(shí)際問題中，已知變量X和變量Y之間存在函數(shù)關(guān)系Y=F（X