曲線(xiàn)擬合的最小二乘法最小二乘法最小二乘解的求法加權(quán)最小二乘法主要內(nèi)容問(wèn)題的提出第一部分引言一、問(wèn)題的提法怎樣從給定的一組數(shù)據(jù)出發(fā)，在某個(gè)函數(shù)類(lèi)中尋找一個(gè)“最好”的函數(shù)來(lái)擬合這組數(shù)據(jù)。二、目的在科學(xué)實(shí)驗(yàn)和生產(chǎn)實(shí)踐中，經(jīng)常要從一組實(shí)驗(yàn)數(shù)據(jù)出發(fā)，尋找函數(shù)y=f(x)的一個(gè)近似公式（稱(chēng)為經(jīng)驗(yàn)公式）。已有的多項(xiàng)式插值法解決這類(lèi)問(wèn)題有明顯的缺陷：實(shí)驗(yàn)數(shù)據(jù)有誤差；實(shí)驗(yàn)數(shù)據(jù)量大等。三、方法曲線(xiàn)擬合方法.第二部分最小二乘法一、基本概念：殘差二、殘差的選取方法（原則）1、選取，使偏差絕對(duì)值之和最小，即擬合的目的：使得殘差最小，其中為所要找的函數(shù)。3、選取，使偏差平方之和最小，即2、選取，使偏差最大絕對(duì)值最小，即三、最小二乘原則（方法）1、定義：使“偏差平方和最小”的原則稱(chēng)為最小二乘原則。2、定義：按照最小二乘原則選取擬合曲線(xiàn)的方法，稱(chēng)為最小二乘法。3、線(xiàn)性最小二乘問(wèn)題的提法對(duì)給定數(shù)據(jù)表要求在某個(gè)函數(shù)類(lèi)中尋求一個(gè)函數(shù)（線(xiàn)性構(gòu)成）使?jié)M足條件式中，是函數(shù)類(lèi)中任一函數(shù)。滿(mǎn)足上述關(guān)系式的函數(shù)，稱(chēng)為上述最小二乘問(wèn)題的最小二乘解。如何求解最小二乘問(wèn)題？1、確定函數(shù)類(lèi)原則：根據(jù)實(shí)際問(wèn)題與所給數(shù)據(jù)點(diǎn)的變化規(guī)律；有兩個(gè)基本環(huán)節(jié)2、求解如下方程：第三部分最小二乘解的求法一、求解的基本原理：極小值原理點(diǎn)是多元函數(shù)的極小值點(diǎn)，從而有滿(mǎn)足方程組二、正則（法）方程組如果定義:對(duì)任意函數(shù)和，引入記號(hào)三、定理（最小二乘解的存在唯一性定理）對(duì)于給定的一組實(shí)驗(yàn)數(shù)據(jù)(互異，）,在函數(shù)類(lèi)（且線(xiàn)性無(wú)關(guān)）中，存在唯一的函數(shù)使得關(guān)系式（*）成立，并且其系數(shù)可以通過(guò)解法方程組（**）得到。作為一種應(yīng)用，擬合曲線(xiàn)假設(shè)為代數(shù)曲線(xiàn)，即取:則有：四、應(yīng)用分析于是正則（法）方程組為：五、應(yīng)用舉例說(shuō)明最小二乘法解決實(shí)際問(wèn)題的具體步驟和某些技巧。例1(補(bǔ)充)某種鋁合金的含鋁量為x(％),其熔解溫度為y（0C），由實(shí)驗(yàn)測(cè)得x與y的數(shù)據(jù)如下表左邊的三列。試用最小二乘法建立x與y的經(jīng)驗(yàn)公式。解：1、將數(shù)據(jù)進(jìn)行描圖觀(guān)察；2、確定擬合曲線(xiàn)的形式。這里根據(jù)所描圖形分析，擬合曲線(xiàn)接近于一直線(xiàn)，故可用線(xiàn)性函數(shù)進(jìn)行擬合這組數(shù)據(jù)；3、建立法方程組；4、解法方程組；5、檢驗(yàn)擬合值與實(shí)測(cè)值之間的偏差（均方誤差和最大誤差）：法方程組對(duì)應(yīng)的代數(shù)方程組：1、實(shí)際問(wèn)題的解決中測(cè)得的數(shù)據(jù)并不都是等精度、等地位的。顯然，對(duì)于精度高、地位重的數(shù)據(jù)應(yīng)該以足夠的重視，在計(jì)算時(shí)，給以足夠的、更大的權(quán)重，在這種情況下，求給定的數(shù)據(jù)的擬合曲線(xiàn)，就要用加權(quán)最小二乘法。2、利用最小二乘法原則上解決了最小二乘法意義下的曲線(xiàn)擬合問(wèn)題，但在實(shí)際問(wèn)題的解決時(shí)，n往往很大，法方程組往往是病態(tài)的，因而給求解帶來(lái)了一定的困難，為了解決這一問(wèn)題，近年來(lái)，產(chǎn)生了一些新方法來(lái)克服這一困難，利用正交函數(shù)（正交多項(xiàng)式）作多項(xiàng)式的擬合。小結(jié)