回歸分析1回歸分析回歸分析是對具有相關(guān)關(guān)系的兩個變量進(jìn)行統(tǒng)計分析的一種常用方法相關(guān)性問題是日常生活中普遍存在的問題生活中，有些變量之間存在著明顯的函數(shù)關(guān)系，有些變量之間不滿足函數(shù)關(guān)系，但是它們之間又存在著一種明顯的依賴關(guān)系利用回歸分析法對兩個具有線性相關(guān)關(guān)系的變量研究的步驟為：（1）畫出這兩個變量的散點圖；（2）求回歸直線方程；（3）利用回歸直線方程進(jìn)行預(yù)報2隨機(jī)誤差當(dāng)樣本點散布在某一條直線附近，而不是在一條直線上時，我們不能用一次函數(shù)來描述兩個具有線性相關(guān)關(guān)系的變量之間的關(guān)系，而是把這兩個關(guān)系用下面的線性回歸模型來表示： 其中為模型的未知參數(shù)，稱為隨機(jī)誤差注：線性回歸模型與我們所熟悉的一次函數(shù)模型的不同之處是增加了隨機(jī)誤差項，因變量的值由自變量和隨機(jī)誤差共同確定，即自變量只能解釋部分的變化3樣本點中心最小二乘估計和就是未知參數(shù)和的最好估計，其計算公式為其中，稱為樣本點的中心注：回歸直線過樣本點的中心4衡量兩個變量之間線性相關(guān)關(guān)系的方法我們常用相關(guān)系數(shù)r來衡量兩個變量之間的線性相關(guān)關(guān)系，具體計算公式為當(dāng)時，表明兩個變量正相關(guān)；當(dāng)時，表明兩個變量負(fù)相關(guān)的絕對值越接近，表明兩個變量的線性相關(guān)性越強(qiáng)；的絕對值接近于時，表明兩個變量之間幾乎不存在線性相關(guān)關(guān)系5總偏差平方和、殘差平方和、回歸平方和在數(shù)學(xué)上，把每個效應(yīng)（觀測值減去總的平均值）的平方加起來，即用表示總的效應(yīng)，稱為總偏差平方和數(shù)據(jù)點和它在回歸直線上相應(yīng)位置的差異是隨機(jī)誤差的效應(yīng)，稱為殘差，然后分別將所得值的平方后加起來，稱為殘差平方和，它代表了隨機(jī)誤差的效應(yīng)，用數(shù)學(xué)符號表示為回歸平方和總偏差平方和殘差平方和注：我們可以用相關(guān)指數(shù)來刻畫回歸的效果，其計算公式為顯然，的值越大，說明殘差平方和越小，也就是說模型的擬合效果越好，在線性回歸模型中，表示解釋變量對預(yù)報變量變化的貢獻(xiàn)率6殘差分析在研究兩個變量間的關(guān)系時，首先要根據(jù)散點圖來粗略判斷它們是否線性相關(guān)，是否可以用線性回歸模型來擬合數(shù)據(jù)，然后，我們可以通過殘差來判斷模型擬合的效果，判斷原始數(shù)據(jù)中是否存在可疑數(shù)據(jù)，這方面的分析工作稱為殘差分析7建立回歸模型的一般步驟（1）確定研究對象，明確哪個變量是解釋變量，哪個變量是預(yù)報變量（2）畫出確定好的解釋變量和預(yù)報變量的散點圖，觀察它們之間的關(guān)系（如是否存在線性關(guān)系等）（3）由經(jīng)驗確定回歸方程的類型（如我們觀察到數(shù)據(jù)呈線性關(guān)系，則選用線性回歸方程）（4）按一定規(guī)則估計回歸方程中的參數(shù)（如最小二乘法）（5）得出結(jié)果后分析殘差圖是否有異常（個別數(shù)據(jù)對應(yīng)殘差過大，或殘差呈現(xiàn)不隨機(jī)的規(guī)律性等等），若存在異常，則檢查數(shù)據(jù)是否有誤，或模型是否合適等8比較擬合效果的基本步驟對于給定的樣本點，兩個含有未知參數(shù)的模型和其中和都是未知參數(shù)，可以按如下的步驟來比較它們的擬合效果：（1）分別建立對應(yīng)于兩個模型的回歸