《線性代數(shù)》電子教案-第五章目錄contents向量空間線性變換內(nèi)積與正交性線性方程組求解方法矩陣特征值與特征向量應(yīng)用范數(shù)和矩陣函數(shù)01向量空間向量空間是一個集合，其中的元素稱為向量，滿足加法和數(shù)量乘法的封閉性、交換性、結(jié)合性、有零元、有負元、數(shù)乘分配律等性質(zhì)。向量空間具有線性組合、線性表示、線性相關(guān)與線性無關(guān)等重要性質(zhì)。向量空間概念及性質(zhì)向量空間性質(zhì)向量空間定義子空間與基、維數(shù)子空間定義向量空間的一個非空子集，對于向量的加法和數(shù)量乘法也構(gòu)成向量空間，則稱該子集為原向量空間的一個子空間?；c維數(shù)向量空間的基是一組線性無關(guān)的向量，且能線性表示該空間中的任意向量?；邢蛄康膫€數(shù)稱為向量空間的維數(shù)。坐標(biāo)概念在給定基下，向量可以表示為基的線性組合，其系數(shù)稱為該向量在該基下的坐標(biāo)。基變換公式當(dāng)向量空間的基發(fā)生變化時，向量的坐標(biāo)也會發(fā)生變化?；儞Q公式描述了新舊坐標(biāo)之間的關(guān)系。坐標(biāo)與基變換如果存在一組數(shù)，使得一組向量可以表示為這組數(shù)的線性組合，則稱這組向量線性相關(guān)；否則稱這組向量線性無關(guān)。線性組合定義判斷一組向量是否線性無關(guān)，可以通過觀察它們是否滿足線性組合的定義，或者利用行列式、秩等概念進行判斷。線性無關(guān)性判斷線性組合與線性無關(guān)性02線性變換VS線性變換是線性空間中的一種特殊映射，它保持向量加法和數(shù)量乘法的性質(zhì)不變。線性變換性質(zhì)線性變換具有保持向量線性組合、保持線性相關(guān)性、保持子空間不變等性質(zhì)。線性變換定義線性變換定義及性質(zhì)線性變換與矩陣線性變換在一組基下的矩陣表示是唯一的，且線性變換的矩陣表示具有相似性。變換矩陣的求法給定線性變換和一組基，可以通過基向量的像來求解變換矩陣。線性變換矩陣表示特征值與特征向量定義特征值和特征向量是線性變換中的特殊元素，它們滿足一定的等式關(guān)系。特征值與特征向量求法可以通過求解特征多項式來得到特征值，再代入原方程求得對應(yīng)的特征向量。特征值與特征向量性質(zhì)特征值和特征向量具有重要的性質(zhì)，如不同特征值對應(yīng)的特征向量線性無關(guān)等。特征值與特征向量對角化定義對角化是指通過相似變換將線性變換化為對角矩陣的過程。對角化條件一個線性變換可對角化的充分必要條件是它有足夠多的線性無關(guān)的特征向量。相似變換相似變換是保持線性變換結(jié)構(gòu)不變的變換，它具有保持特征值和行列式不變等性質(zhì)。對角化與相似變換03內(nèi)積與正交性對于n維實向量空間Rn中的兩個向量α和β，它們的內(nèi)積定義為α·β=αTβ，其中αT表示α的轉(zhuǎn)置。內(nèi)積定義內(nèi)積性質(zhì)施瓦茨不等式內(nèi)積具有對稱性、線性性和正定性等性質(zhì)，這些性質(zhì)是內(nèi)積空間的基礎(chǔ)。對于任意兩個向量α和β，有|α·β|≤||α||·||β||，其中||α||表示向量α的模。內(nèi)積定義及性質(zhì)正交矩陣如果n階實矩陣A滿足ATA=E（E為單位矩陣），則稱A為正交矩陣。正交矩陣具有保范性和保角性等性質(zhì)。正交變換正交矩陣對應(yīng)的線性變換稱為正交變換，它保持向量的長度和角度不變。正交向量組如果向量組中的任意兩個向量都正交，則稱該向量組為正交向量組。正交向量組與正交矩陣正交補空間對于向量空間V中的一個子空間U，與U中所有向量都正交的向量組成的子空間稱為U的正交補空間，記作U⊥。投影定理對于向量α和子空間U，存在唯一的向量β∈U，使得α-β與U中所有向量都正交，稱β為α在U上的投影。最小二乘法投影定理在最小二乘法中有著重要應(yīng)用，通過求解法方程組可以得到最優(yōu)解。正交補空間與投影定理最小二乘法的幾何意義最小二乘法可以看作是在高維空間中尋找一個點，使得該點到給定數(shù)據(jù)點的距離之和最小。最小二乘法的求解步驟首先構(gòu)造法方程組，然后求解法方程組得到最優(yōu)解，最后對最優(yōu)解進行解釋和應(yīng)用。最小二乘法問題的提出在實際問題中，經(jīng)常需要求解一組數(shù)據(jù)的最佳擬合曲線或平面，最小二乘法是一種常用的求解方法。最小二乘法問題04線性方程組求解方法通過對方程組進行初等行變換，將系數(shù)矩陣化為上三角矩陣，進而回代求解。選主元、消元、回代。其中選主元是為了避免計算過程中的除數(shù)為零，提高數(shù)值穩(wěn)定性。原理步驟高斯消元法原理及步驟主元選取在每一步消元過程中，從當(dāng)前未處理的方程中選擇絕對值最大的元素作為主元。列主元消元法在選主元的基礎(chǔ)上，通過交換方程的順序，使得每一步消元都能選取到列主元，進一步提高數(shù)值穩(wěn)定性。主元選取與列主元消元法三角分解法（LU分解）將系數(shù)矩陣分解為一個下三角矩陣和一個上三角矩陣的乘積，進而簡化方程組的求解過程。原理對系數(shù)矩陣進行LU分解，得到下三角矩陣L和上三角矩陣U，然后分別求解Ly=b和Ux=y兩個方程組，得到原方程組的解。步驟原理通過構(gòu)造一個迭代格式，逐步逼近方程組的真實解。要點一要點二常見的迭代法雅可比迭代法、高斯-賽德爾迭代法、逐次超松弛迭代法等。這些方法在求解大型稀疏線性方程組時具有較高的效率。迭代法簡介05矩陣特征值與特征向量應(yīng)用對角化條件矩陣可對角化的充分必要條件是矩陣有n個線性無關(guān)的特征向量。對角化步驟首先求出矩陣的特征值和特征向量，然后將特征向量正交化、單位化，最后構(gòu)造出對角矩陣。應(yīng)用場景矩陣對角化在線性代數(shù)中具有重要意義，可以用于簡化矩陣運算、求解微分方程等領(lǐng)域。矩陣對角化條件及步驟030201設(shè)A(t)為t的矩陣函數(shù)，其元素aij(t)為t的標(biāo)量函數(shù)。矩陣函數(shù)定義對矩陣函數(shù)A(t)求導(dǎo)，得到其導(dǎo)數(shù)矩陣，元素為對應(yīng)元素的導(dǎo)數(shù)。求導(dǎo)法則在求導(dǎo)過程中，需要遵循矩陣運算的法則，如乘法不滿足交換律等。注意事項矩陣函數(shù)求導(dǎo)法則含有n個變量x1,x2,...,xn的二次齊次函數(shù)稱為二次型。二次型定義通過正交變換或配方法將二次型化為標(biāo)準(zhǔn)型，即只含有平方項的二次型。標(biāo)準(zhǔn)化方法二次型標(biāo)準(zhǔn)化在優(yōu)化問題、圖像處理等領(lǐng)域有廣泛應(yīng)用。應(yīng)用場景二次型標(biāo)準(zhǔn)化問題PCA定義主成分分析是一種常用的數(shù)據(jù)分析方法，旨在利用正交變換將原始數(shù)據(jù)變換為一組各維度線性無關(guān)的表示。PCA原理通過構(gòu)造原變量的適當(dāng)?shù)木€性組合，產(chǎn)生一組互不相關(guān)的新變量，從中選出少數(shù)幾個新變量并使它們含有盡可能多的原變量帶有的信息，從而使得用這幾個新變量代替原變量分析和解決問題成為可能。應(yīng)用場景PCA在數(shù)據(jù)降維、去噪、可視化等領(lǐng)域有廣泛應(yīng)用。主成分分析（PCA）原理06范數(shù)和矩陣函數(shù)向量范數(shù)是衡量向量大小的度量，滿足非負性、齊次性、三角不等式三個基本性質(zhì)。定義1-范數(shù)、2-范數(shù)、∞-范數(shù)等，分別對應(yīng)向量元素絕對值之和、歐幾里得長度、元素絕對值最大值。常見范數(shù)向量范數(shù)具有連續(xù)性、等價性等重要性質(zhì)，在數(shù)值計算和最優(yōu)化問題中有廣泛應(yīng)用。性質(zhì)010203向量范數(shù)定義及性質(zhì)定義矩陣范數(shù)是衡量矩陣“大小”的度量，也需滿足非負性、齊次性、三角不等式等基本性質(zhì)。常見范數(shù)Frobenius范數(shù)、譜范數(shù)、核范數(shù)等，分別對應(yīng)矩陣元素平方和的平方根、矩陣最大特征值、矩陣奇異值之和。性質(zhì)矩陣范數(shù)具有次乘性、相容性等重要性質(zhì)，在矩陣分析和計算中有重要作用。矩陣范數(shù)定義及性質(zhì)矩陣函數(shù)求導(dǎo)法則應(yīng)用矩陣函數(shù)求導(dǎo)法則以矩陣為自變量的函數(shù)，如矩陣的行列式、逆、特征多項式等。對矩陣函數(shù)求導(dǎo)需遵循特定的法則，如鏈?zhǔn)椒▌t、乘積法則等，同時注意矩陣的轉(zhuǎn)置和求逆操作對導(dǎo)數(shù)的影響。矩陣函數(shù)求導(dǎo)在機器學(xué)習(xí)、優(yōu)化算法等領(lǐng)域有廣泛應(yīng)用，如梯度下降法、牛頓法等。01條件數(shù)衡量問題解