關(guān)于最小二乘法與曲線擬合第1頁，課件共39頁，創(chuàng)作于2023年2月

如果已知函數(shù)f(x)在若干點(diǎn)xi(i=1,2,…,n)處的值yi,便可根據(jù)插值原理來建立插值多項(xiàng)式作為f(x)的近似。但在科學(xué)實(shí)驗(yàn)和生產(chǎn)實(shí)踐中，往往會(huì)遇到這樣一種情況，即節(jié)點(diǎn)上的函數(shù)值并不是很精確的，這些函數(shù)值是由實(shí)驗(yàn)或觀測(cè)得到的數(shù)據(jù)，不可避免地帶有測(cè)量誤差，如果要求所得的近似函數(shù)曲線精確無誤地通過所有的點(diǎn)(xi,yi),就會(huì)使曲線保留著一切測(cè)試誤差。最小二乘法與曲線擬合第2頁，課件共39頁，創(chuàng)作于2023年2月為此,我們希望從給定的數(shù)據(jù)(xi,yi)出發(fā),構(gòu)造一個(gè)近似函數(shù),不要求函數(shù)完全通過所有的數(shù)據(jù)點(diǎn)，只要求所得的近似曲線能反映數(shù)據(jù)的基本趨勢(shì)，如圖5-7所示。圖5-7曲線擬合示意圖

第3頁，課件共39頁，創(chuàng)作于2023年2月也就是說擬合函數(shù)在xi處的偏差(亦稱殘差）

不都嚴(yán)格地等于零。即為矛盾方程組。曲線擬合函數(shù)不要求嚴(yán)格地通過所有數(shù)據(jù)點(diǎn)

但是,為了使近似曲線能盡量反映所給數(shù)據(jù)點(diǎn)的變化趨勢(shì),要求按某種度量標(biāo)準(zhǔn)最小。若記向量即要求向量的某種范數(shù)最小,如的1-范數(shù)或∞-范數(shù)第4頁，課件共39頁，創(chuàng)作于2023年2月即為最小。這種要求誤差（偏差）平方和最小的擬合稱為曲線擬合的最小二乘法。為了便于計(jì)算、分析與應(yīng)用，通常要求的2-范數(shù)實(shí)質(zhì)仍然是求矛盾方程組的最小二乘解。第5頁，課件共39頁，創(chuàng)作于2023年2月

作擬合直線（1）直線擬合該直線不是通過所有的數(shù)據(jù)點(diǎn),而是使偏差平方和設(shè)已知數(shù)據(jù)點(diǎn),分布大致為一條直線。為最小，第6頁，課件共39頁，創(chuàng)作于2023年2月其中每組數(shù)據(jù)與擬合曲線的偏差為根據(jù)最小二乘原理，應(yīng)取和使有極小值，故和應(yīng)滿足下列條件：解法一：第7頁，課件共39頁，創(chuàng)作于2023年2月即得如下正規(guī)方程組

求解該方程組，解得代人即得擬合曲線。第8頁，課件共39頁，創(chuàng)作于2023年2月也可將條件帶入構(gòu)成矛盾方程組其中利用解法二：第9頁，課件共39頁，創(chuàng)作于2023年2月即得如下正規(guī)方程組

求解該方程組，解得代人即得擬合曲線。第10頁，課件共39頁，創(chuàng)作于2023年2月例：某種合成纖維的強(qiáng)度與其拉伸倍數(shù)有直接關(guān)系，下表是實(shí)際測(cè)定的24個(gè)纖維樣品的強(qiáng)度與相應(yīng)拉伸倍數(shù)的記錄。試確定這種關(guān)系。第11頁，課件共39頁，創(chuàng)作于2023年2月（提示：將拉伸倍數(shù)作為x,強(qiáng)度作為y,在座標(biāo)紙上標(biāo)出各點(diǎn)，可以發(fā)現(xiàn)什么?）第12頁，課件共39頁，創(chuàng)作于2023年2月

解：設(shè)y=a+bx從上圖中可以看出強(qiáng)度與拉伸倍數(shù)大致成線形關(guān)系，可用一條直線來表示兩者之間的關(guān)系。則：第13頁，課件共39頁，創(chuàng)作于2023年2月解得：a=0.15,b=0.859

直線方程為：y=0.15+0.859x計(jì)算出它的正規(guī)方程得第14頁，課件共39頁，創(chuàng)作于2023年2月12341.361.371.952.2814.09416.84418.47520.963

用最小二乘法求以上數(shù)據(jù)的擬合函數(shù)例設(shè)有某實(shí)驗(yàn)數(shù)據(jù)如下：解:把表中所給數(shù)據(jù)畫在坐標(biāo)紙上,將會(huì)看到數(shù)據(jù)點(diǎn)的分布可以用一條直線來近似地描述,第15頁，課件共39頁，創(chuàng)作于2023年2月設(shè)所求的擬合直線為則正規(guī)方程組為第16頁，課件共39頁，創(chuàng)作于2023年2月解得

即得擬合直線將以上數(shù)據(jù)代入上式正規(guī)方程組,得其中第17頁，課件共39頁，創(chuàng)作于2023年2月（2）多項(xiàng)式擬合有時(shí)所給數(shù)據(jù)點(diǎn)的分布并不一定近似地呈一條直線,這時(shí)仍用直線擬合顯然是不合適的,可用多項(xiàng)式擬合。對(duì)于給定的一組數(shù)據(jù)，尋求次數(shù)不超過m(m<<n)的多項(xiàng)式，

第18頁，課件共39頁，創(chuàng)作于2023年2月來擬合所給定的數(shù)據(jù)，與線性擬合類似，使偏差的平方和為最小第19頁，課件共39頁，創(chuàng)作于2023年2月由于Q可以看作是關(guān)于

(j=0,1,2,…,m)的多元函數(shù),故上述擬合多項(xiàng)式的構(gòu)造問題可歸結(jié)為多元函數(shù)的極值問題。令得

第20頁，課件共39頁，創(chuàng)作于2023年2月即有

這是關(guān)于系數(shù)

的線性方程組正則方程組第21頁，課件共39頁，創(chuàng)作于2023年2月也可利用矛盾方程組來做第22頁，課件共39頁，創(chuàng)作于2023年2月即有

利用第23頁，課件共39頁，創(chuàng)作于2023年2月123456012345521123用最小二乘法求一個(gè)多項(xiàng)式擬合這組數(shù)據(jù)例設(shè)某實(shí)驗(yàn)數(shù)據(jù)如下：解：將已給數(shù)據(jù)點(diǎn)描在坐標(biāo)系中，可以看出這些點(diǎn)接近一條拋物線，因此設(shè)所求的多項(xiàng)式為

第24頁，課件共39頁，創(chuàng)作于2023年2月由法方程組（5.46）,

n=6,經(jīng)計(jì)算得

其法方程組為

第25頁，課件共39頁，創(chuàng)作于2023年2月解之得

所求的多項(xiàng)式為

第26頁，課件共39頁，創(chuàng)作于2023年2月例1設(shè)函數(shù)y=f(x)的離散數(shù)據(jù)如下表所示01234500.20.40.60.811.0001.2211.4921.8222.2262.718試用二次多項(xiàng)式擬和上述數(shù)據(jù)解：設(shè)第27頁，課件共39頁，創(chuàng)作于2023年2月則第28頁，課件共39頁，創(chuàng)作于2023年2月由可得第29頁，課件共39頁，創(chuàng)作于2023年2月例：試用最小二乘法求形如的多項(xiàng)式，使之與下列數(shù)據(jù)擬合。1234529163052解：由題目可知：第30頁，課件共39頁，創(chuàng)作于2023年2月由可得第31頁，課件共39頁，創(chuàng)作于2023年2月（3）可化為線性擬合的非線性擬合12345600.511.522.52.01.00.90.60.40.3用最小二乘法求擬合曲線例設(shè)某實(shí)驗(yàn)數(shù)據(jù)如下:解:將已給數(shù)據(jù)點(diǎn)描在坐標(biāo)系中下圖所示,第32頁，課件共39頁，創(chuàng)作于2023年2月可以看出這些點(diǎn)接近指數(shù)曲線,因而可取指數(shù)函數(shù)作為擬合函數(shù)：對(duì)函數(shù)兩邊取對(duì)數(shù)得.令則就得到線性模型得第33頁，課件共39頁，創(chuàng)作于2023年2月則正規(guī)方程組為

其中

第34頁，課件共39頁，創(chuàng)作于2023年2月將以上數(shù)據(jù)代入上式正規(guī)方程組，得解得

第35頁，課件共39頁，創(chuàng)作于2023年2月由得于是得到擬合指數(shù)函數(shù)為由

得

第36頁，課件共39頁，創(chuàng)作于2023年2月

有些非線性擬合曲線可以通過適當(dāng)?shù)淖兞刻鎿Q轉(zhuǎn)化為線性曲線，從而用線性擬合進(jìn)行處理，對(duì)于一個(gè)實(shí)際的曲線擬合問題，一般先按觀測(cè)值在直角坐標(biāo)平面上描出散點(diǎn)圖，看一看散點(diǎn)的分布同哪類曲線圖形接