第一節(jié)最小二乘法的基本原理和多項式擬合一最小二乘法的基本原理從整體上考慮近似函數(shù)召法)同所給數(shù)據(jù)點"J(i=0,1,…,m)誤差戲=*)-入(i=0,i,…,m)的大小，常用的方法有以下三種：一是誤差門=P(無)-M(i=0,1,…,m)絕對值的最大值甜回引，即誤差向量F 的8—范數(shù)；二是誤差絕對值的和切時，即誤差向量r的1一3 …一 …小 3 *上范數(shù)；三是誤差平方和w的算術(shù)平方根，即誤差向量r的2—范數(shù)；前兩種方法簡單、自然，但不便于微分運算，后一種方法相當于考慮2—范數(shù)的平方，因此在曲線擬合中常采用誤差平方和技乙來度量誤差門(i=0，1，…，m)的整體大小。數(shù)據(jù)擬合的具體作法是：對給定數(shù)據(jù)(孔為)(i=0,1,…，m)，在取定的函數(shù)類中中，求召⑴氏中，使誤差―僉)f(i=0,1,…,m)的平方和最小，即M M __=I從幾何意義上講，就是尋求與給定點(i=0,1,…,m)的距離平方和為最小的曲線V=風對(圖6-1)。函數(shù)聲3)稱為擬合函數(shù)或最小二乘解，求擬合函數(shù)『3)的方法稱為曲線擬合的最小二乘法。在曲線擬合中，函數(shù)類中可有不同的選取方法.6—1二多項式擬合

假設(shè)給定數(shù)據(jù)點（心M）（i=0,1,…,m）,①為所有次數(shù)不超過心頃的多項式構(gòu)成的函數(shù)類，現(xiàn)求一 心，使得J= 眼成-乂=n?心 ） （1）當擬合函數(shù)為多項式時，稱為多項式擬合，滿足式（1）的稱為最小二乘擬合多項式。特別地，當n=1時，稱為線性擬合或直線擬合。顯然為勤皿，…％的多元函數(shù)，因此上述問題即為求'二￡（%%???%）的極值問題。由多元函數(shù)求極值的必要條件，得=空②5*-ME=R2-0心2-0（3）是關(guān)于⑶，知，的線性方程組，用矩陣表示為2-02-0ZL2-0TOC\o"1-5"\h\z用 禎 M fl m\o"CurrentDocument"手2＞廣…2＞： 2＞金L抑口 5 」Lw」 （4）式（3）或式（4）稱為正規(guī)方程組或法方程組?？梢宰C明，方程組（4）的系數(shù)矩陣是一個對稱正定矩陣，故存在唯一解。從式（4）中解出改（k=0,1,…，n），從而可得多項式外0）=立誑/可以證明，式(5)中的球?qū)M足式(1)，即眼)為所求的擬合多項式。我們把抑 稱為最小二乘擬合多項式八》)的平方誤差，記作2-0由式(2)可得TOC\o"1-5"\h\zIHhZ^-Z^cZ^) 小i-o心2-0 (6)多項式擬合的一般方法可歸納為以下幾步：(1)由已知數(shù)據(jù)畫出函數(shù)粗略的圖形一一散點圖，確定擬合多項式的次數(shù)n；2罰(j=ox■■■,2k)Z野m c/=o，、由)⑵列表計算」口 和抑 ；(3)寫出正規(guī)方程組，求出f%L%；處⑴=2＞此(4)寫出擬合多項式 心在實際應(yīng)用中，6或心*；當時所得的擬合多項式就是拉格朗日或牛頓插值多項式。例1測得銅導線在溫度耳(°C)時的電阻震⑴如表6-1，求電阻R與溫度T的近似函數(shù)關(guān)系。i0123456罵(C)19.125.030.136.040.045.150.076.3077.8079.2580.8082.3583.9085.10解畫出散點圖(圖6-2)，可見測得的數(shù)據(jù)接近一條直線，故取n=1，擬合函數(shù)為R=⑶+4了列表如下i&T.R.33019.176.30364.811457.330125.077.80625.001945.000230.179.25906.012385.425

336.080.801296.002908.800440.082.351600.003294.000545.183.902034.013783.890650.085.102500.004255.0002245.3565.59325.8320029.445正規(guī)方程組為565.5245.3565.5245.39325.8320029.445245.39325.8320029.445解方程組得⑶=70.572,知=0.921故得R與T的擬合直線為A=70.572+0.9217利用上述關(guān)系式，可以預(yù)測不同溫度時銅導線的電阻值。例如，由 R=0得T=-242.5，即預(yù)測溫度T=-242.5°C時，銅導線無電阻。ElR5- .■■(fl- *10M506-2例2已知實驗數(shù)據(jù)如下表i012345678%13456789101054211234試用最小二乘法求它的二次擬合多項式。解設(shè)擬合曲線方程為列表如下I驀01101111010135927811545

244166425616643522512562510504613621612966365714934324017496826451240961612879381729656127243810410010001000040400Z53323813017253171471025得正規(guī)方程組_952381--32-523813017147_381301725317_一吃_1025_解得a0=13.4597, =-3.6053 =0.2676故擬合多項式為y=13.4597-3.6053+0.2676x2*三最小二乘擬合多項式的存在唯一性定理1設(shè)節(jié)點 互異，則法方程組（4）的解存在唯一。證由克萊姆法則，只需證明方程組（4）的系數(shù)矩陣非奇異即可。用反證法，設(shè)方程組（4）的系數(shù)矩陣奇異，則其所對應(yīng)的齊次方程組-■ 0 -■ 0 ■2-002-002-0手-2>嚴Z時i-0.i-0M:S<+12-0-2-0 _LMJ_2-0 _A2-0(7)右兩端分別相加，右兩端分別相加，有非零解。式（7）可寫為?用￡(￡乂擴)穌=o; j=偵…』心j-o (8)然后將新得到的n+1個方程左將式（8）中第j個方程乘以七（j=0,1,然后將新得到的n+1個方程左因為>0 |_5i-0 Ji-0y-0JUO i-0>0 R-0 i-0其中處⑴=立誑/心所以外(巧)=0 (i=0,1,…，m)八3）是次數(shù)不超過n的多項式，它有m+1>n個相異零點，由代數(shù)基本定理，必須有⑶=如=…％=°，與齊次方程組有非零解的假設(shè)矛盾。因此正規(guī)方程組（4）pO=￡的,/必有唯一解。定理2設(shè)勤產(chǎn)1，…，4是正規(guī)方程組（4）的解，則心是滿足式（1）的最小二乘擬合多項式。證只需證明，對任意一組數(shù)組成的多項式 一心瞬，恒有TOC\o"1-5"\h\zM 釀z【0（芯）-j7J2x瓜（為）fr2-0 2-0即可。M ME[2/^）-m]'-2[a2-0 2-0M M=2^[&/誑）-#心舟+2Z[&」誑）-八（氣）]上3）-*2-0 2-0涂g「 1H Mfr.MT/M "^0+2ZZK_^^h--為=2Zis-\2-0j-0 La-0 J>0[ 2-0Lv-0 7 」_因為勤（k=0,1,…，n）是正規(guī)方程組（4）的解，所以滿足式（2），因此有M 02-0 2-0故P」工）為最小二乘擬合多項式。*四多項式擬合中克服正規(guī)方程組的病態(tài)在多項式擬合中，當擬合多項式的次數(shù)較高時，其正規(guī)方程組往往是病態(tài)的。而且

正規(guī)方程組系數(shù)矩陣的階數(shù)越高，病態(tài)越嚴重；擬合節(jié)點分布的區(qū)間偏離原點越遠，病態(tài)越嚴重；誑（i=0,1,…，m）的數(shù)量級相差越大，病態(tài)越嚴重。為了克服以上缺點，一般采用以下措施：盡量少作高次擬合多項式，而作不同的分段低次擬合；不使用原始節(jié)點作擬合，將節(jié)點分布區(qū)間作平移，使新的節(jié)點誑關(guān)于原點對稱，可大大降低正規(guī)方程組的條件數(shù)，從而減低病態(tài)程度。平移公式為：西=氣_氣;“"， 2=0,1，…，刑 （9）對平移后的節(jié)點％（i=0,1,…，m）,再作壓縮或擴張?zhí)幚?其中(10),（r是擬合次數(shù)）其中(10),（r是擬合次數(shù)）(11)經(jīng)過這樣調(diào)整可以使他的數(shù)量級不太大也不太小，特別對于等距節(jié)點誑=沖+*a="…兩，作式（10）和式（11）兩項變換后，其正規(guī)方程組的系數(shù)矩陣設(shè)為A，則對1?4次多項式擬合，條件數(shù)都不太大，都可以得到滿意的結(jié)果。變換后的條件數(shù)上限表如下：擬合次數(shù)1234CQ?2d2(A)=1<9.9<50.3<435在實際應(yīng)用中還可以利用正交多項式求擬合多項式。一種方法是構(gòu)造離散正交多項式；另一種方法是利用切比雪夫節(jié)點求出函數(shù)值后再使用正交多項式。這兩種方法都使正規(guī)方程組的系數(shù)矩陣為對角矩陣，從而避免了正規(guī)方程組的病態(tài)。我們只介紹第一種，見第三節(jié)。例如m=19，知=328,h=1,工1二%+ih，i=0,1,…，19,即節(jié)點分布在［328,347］，作二次多項式擬合時①直接用氣構(gòu)造正規(guī)方程組系數(shù)矩陣^，計算可得g清」瓦）=2.2%10】'嚴重病態(tài)，擬合結(jié)果完全不能用。②作平移變換一328+347%一*一2用石構(gòu)造正規(guī)方程組系數(shù)矩陣A,計算可得必我(