1、第6章 回歸分析,主要內(nèi)容 第一節(jié)回歸分析的基本概念 函數(shù)與相關(guān) 回歸分析思路 第二節(jié)一元線性回歸 回歸方程的確定 回歸方程得方差分析及顯著性檢驗 重復試驗情況 回歸直線的簡便求法 第三節(jié)一元非線性回歸 求解思路 回歸曲線函數(shù)類型得選取和檢驗 化曲線回歸為直線回歸問題,第一節(jié)回歸分析的基本概念,一、函數(shù)與相關(guān),函數(shù)關(guān)系：可以用明確的函數(shù)關(guān)系式精確地表示 出來 相關(guān)關(guān)系：這些變量之間既存在著密切的關(guān)系， 又不能由一個（或幾個）自變量的數(shù) 值精確地求出另一個因變量的數(shù)值，而 是要通過試驗和調(diào)查研究，才能確定它 們之間的關(guān)系。,第一節(jié)回歸分析的基本概念,二、回歸分析思路,1、由數(shù)據(jù)確定變量之間的數(shù)學

2、表達式回歸方程或經(jīng) 驗公式； 2、 對回歸方程的可信度進行統(tǒng)計檢驗； 3、 因素分析。,第二節(jié)一元線性回歸,一元線性回歸：確定兩個變量之間的線性關(guān)系，即 直線擬合問題。,一、回歸方程的確定,例：確定某段導線的電阻與溫度之間的關(guān)系：,散點圖：,20,25,30,35,40,45,50,76,78,82,80,84,第二節(jié)一元線性回歸,從散點圖可以看出：電阻與溫度大致成線性關(guān)系。,設(shè)測量數(shù)據(jù)有如下結(jié)構(gòu)形式：,式中， 分別表示其它隨機因素對電阻值 影響的總和。,思路：要求電阻y與x的關(guān)系，即根據(jù)測量數(shù)據(jù)要求出,和,的估計值。根據(jù)測量數(shù)據(jù)，可以得到 7個測量方程，結(jié)合前面所學，未知數(shù)有兩個， 而方程個

3、數(shù)大于未知數(shù)的個數(shù)，適合于用最小 二乘法求解。,第二節(jié)一元線性回歸,設(shè)得到的回歸方程,殘差方程為,根據(jù)最小二乘原理可求得回歸系數(shù)b0和b。,對照第五章最小二乘法的矩陣形式，令,第二節(jié)一元線性回歸,則誤差方程的矩陣形式為,對照 ，設(shè)測得值 的精度相等，則有,將測得值分別代入上式，可計算得,第二節(jié)一元線性回歸,其中,二、回歸方程的方差分析及顯著性檢驗,第二節(jié)一元線性回歸,問題：這條回歸直線是否符合y 與x之間的客觀規(guī) 律回歸直線的預報精度如何？,方差分析法分解N個觀測值與其算術(shù)平均值之差的平方和；從量值上區(qū)別多個影響因素；用F檢驗法對所求回歸方程進行顯著性檢驗。,解決辦法：,第二節(jié)一元線性回歸,（

4、一）回歸方程的方差分析,1、引起變差的原因： A、自變量x取值的不同； B、其它因素（包括試驗誤差）的影響。,2、方差分析,總的離差平方和（即N個觀測值之間的變差）,可以證明：,第二節(jié)一元線性回歸,S=U+Q,其中,U回歸平方和，反映總變差中由于x和y的線性關(guān) 系而引起 y變化的部分。,Q殘余平方和，反映所有觀測點到回歸直線的殘 余誤差，即其它因素對y變差的影響。,第二節(jié)一元線性回歸,（二）回歸方程顯著性檢驗 F檢驗法,基本思路：方程是否顯著取決于U和Q的大小，U越 大Q越小說明y與x的線性關(guān)系愈密切。,計算統(tǒng)計量F,對一元線性回歸，應為,查F分布表，根據(jù)給定的顯著性水平 和已知的 自由度1和

5、N-2進行檢驗：,若， 回歸在0.01的水平上高度顯著。,第二節(jié)一元線性回歸,回歸在0.05的水平上顯著。,回歸在0.1的水平上顯著。,回歸不顯著。,（三）殘余方差與殘余標準差,第二節(jié)一元線性回歸,殘余方差：排除了x 對y的線性影響后，衡量y 隨機波動的特征量。,殘余標準差：,含義： 越小，回歸直線的精度越高。,第二節(jié)一元線性回歸,（四）方差分析表,三、重復試驗情況,1、重復試驗的意義,“回歸方程顯著”：只表明因素x的一次項對y的影響 顯著；難以確定影響y的是否還有其它不可忽略的 因素？x和y是否線性? 不表明該方程擬合得很好。,為檢驗一個回歸方程擬合的好壞，可通過重復試驗，獲得誤差平方和 和

6、失擬平方和 ，然后用 對 進行F檢驗。,第二節(jié)一元線性回歸,2、重復試驗回歸直線的求法,1）設(shè)N個試驗點，每個試驗點重復m次試驗，則將 這m次試驗取平均值，然后再按照前面的方法進 行擬合，見表65和表66。,2）方差分析,第二節(jié)一元線性回歸,3）方差檢驗,四、回歸直線的簡便求法,前面介紹：最小二乘法（誤差小，計算復雜） 現(xiàn)在推薦：分組法、圖解法（計算簡便，精度低）,第二節(jié)一元線性回歸,1）分組法平均值法,具體做法：將自變量按由小到大次序排列，分成個數(shù)相等或近于相等的兩個組（分組數(shù)等于未知數(shù)個數(shù)），則可建立相應的兩組觀測方程：,將兩組觀測方程分別相加，得,b和b0,2）圖解法緊繩法,第三節(jié)一元非線性回歸,2、求解未知參數(shù)?？苫€回歸為直線回歸， 用最小二乘法求解；可化曲線回歸為多項式 回歸。,1、確定函數(shù)類型并檢驗。,一、求解思路,二、回歸曲線函數(shù)類型得選取和檢驗,1、直接判斷法,2、作圖觀察法，與典型曲線比較，確定其屬于何 種類型，然后檢驗。,第三節(jié)一元非線性回歸,3、直線檢驗法（適用于待求參數(shù)不多的情況）,a、預選回歸曲線,b、,c、求出幾對與x,y相對應的Z1,Z2值,d、以Z1,Z2為坐標作圖，若為直線，則說明原 選定的曲線類型是合適的。,4、表差法（適用于多項式回歸，含有常數(shù)項多于兩 個的情