1、數(shù) 學 系University of Science and Technology of ChinaDEPARTMENT OF MATHEMATICS第3章 曲線擬合的最小二乘法 給出一組離散點，確定一個函數(shù)逼近原函數(shù)，插值是這樣的一種手段。在實際中，數(shù)據(jù)不可避免的會有誤差，插值函數(shù)會將這些誤差也包括在內。 因此，我們需要一種新的逼近原函數(shù)的手段：不要求過所有的點（可以消除誤差影響）；盡可能表現(xiàn)數(shù)據(jù)的趨勢，靠近這些點。數(shù) 學 系University of Science and Technology of ChinaDEPARTMENT OF MATHEMATICS 有時候，問題本身不要求構造

2、的函數(shù)過所有的點。如：5個風景點，要修一條公路S使得S為直線，且到所有風景點的距離和最小。先講些預備知識 對如上2類問題，有一個共同的數(shù)學提法：找函數(shù)空間上的函數(shù)g，使得g到f的距離最小。數(shù) 學 系University of Science and Technology of ChinaDEPARTMENT OF MATHEMATICS定義1：向量范數(shù)向量范數(shù)映射：滿足：0: RRn非負性00, 0XXX且齊次性XaaXRa,三角不等式YXYX稱該映射為向量的一種范數(shù)范數(shù)預備知識我們定義兩點的距離距離為：YX 數(shù) 學 系University of Science and Technology

3、of ChinaDEPARTMENT OF MATHEMATICS常見的范數(shù)有：nniixxxXxX,)(21122nixxxXxX,max21nniixxxXxX,2111定義2：函數(shù)f，g的關于離散點列 niix0的離散內積離散內積為：niiiDxgxfgf0)()(),(數(shù) 學 系University of Science and Technology of ChinaDEPARTMENT OF MATHEMATICS定義3：函數(shù)f的離散范數(shù)離散范數(shù)為niiiDxfxff0)()(提示：該種內積，范數(shù)的定義與向量的2范數(shù)一致我們還可以定義函數(shù)的離散范數(shù)為：01010110(),(),()

4、max(),(),()(),(),()( )nnDnniDiff xf xf xf xf xf xff xf xf xf x數(shù) 學 系University of Science and Technology of ChinaDEPARTMENT OF MATHEMATICSf(x)為定義在區(qū)間a,b上的函數(shù)， 為區(qū)間上n+1個互不相同的點， 為給定的某一函數(shù)類。求 上的函數(shù)g(x)滿足f(x)和g(x)的距離最小 0niix如果這種距離取為2范數(shù)的話，稱為最小二乘問題曲線擬合的最小二乘問題定義定義數(shù) 學 系University of Science and Technology of Chin

5、aDEPARTMENT OF MATHEMATICS下面我們來看看最小二乘問題：求 使得 最小)(xgniiixfxgR022)()(設,10nspan)()()(00 xaxaxgnnDnnxaxaxf)()()(00DDxfxxfxg)()(min)()(最小則即關于系數(shù),10naaa數(shù) 學 系University of Science and Technology of ChinaDEPARTMENT OF MATHEMATICS20020020020,001 ( )( )( )2(,( )( ) ( )( )2,(,)nnDnnDDnnDnnkkikikDki knfxaxaxff a

6、xaxaxaxfafa aQ aaa由于它關于系數(shù),10naaa最小，因此有：niaQi, 0, 0即nifainkkik, 0),(),(0數(shù) 學 系University of Science and Technology of ChinaDEPARTMENT OF MATHEMATICS寫成矩陣形式有：DnDnDnnDnDnDffaa,000000法方程法方程由,10n的線性無關性，知道該方程存在唯一解數(shù) 學 系University of Science and Technology of ChinaDEPARTMENT OF MATHEMATICSbxay DDDDDDxffbaxxxx

7、,1 ,1 , 11 , 1第一步：函數(shù)空間的基x, 1，然后列出法方程baxy2 DDDDDDfxfbaxxxx1 ,1 , 1, 1, 1,22222第一步：函數(shù)空間的基1 ,2x，然后列出法方程例：數(shù) 學 系University of Science and Technology of ChinaDEPARTMENT OF MATHEMATICSbaxy23703456334558.3ab 3212414.38.34.78.322.7xy第一步：函數(shù)空間的基1 ,2x，然后列出法方程DDDDDDfxfbaxxxx1 ,1 , 1, 1, 1,222220.8327167.49691ab 數(shù) 學 系University of Science and Technology of ChinaDEPARTMENT OF MATHEMATICSbxaey 由bxay lnln，可以先做bxay*bxayeeey*3212414.38.34.78.322.7ln2.660262.116261.547562.116263.12236xyy1,11,11,DDDDDDxfaxx xf xb 5011.56270342.9611ab 2.312540.0870912ab 數(shù) 學 系University of Science and Technolog