3.1

回歸分析的基本思想及其初步應(yīng)用3.1

回歸分析的基本思想及其初步應(yīng)用1一、相關(guān)知識的回顧回歸分析是對具有相關(guān)關(guān)系的兩個變量進(jìn)行統(tǒng)計分析的一種方法。2、線性回歸分析的步驟是什么？（1）畫出兩個變量的散點(diǎn)圖。（2）求回歸直線方程。（3）用回歸直線方程進(jìn)行預(yù)報。1、什么叫回歸分析？3.求回歸直線方程的截距和斜率是根據(jù)

估算得最小二乘法一、相關(guān)知識的回顧回歸分析是對具有相關(guān)關(guān)系的兩個變量進(jìn)行統(tǒng)2二、新課（一）最小二乘法二、新課（一）最小二乘法3例從某大學(xué)中隨機(jī)選取8名女大學(xué)生，其身高和體重數(shù)據(jù)如下表所示：

求根據(jù)一名女大學(xué)生的身高預(yù)報她的體重的回歸方程，并預(yù)報一名身高為172cm的女大學(xué)生的體重。5943616454505748體重/kg170155165175170157165165身高/cm87654321編號例從某大學(xué)中隨機(jī)選取8名女大學(xué)生，其身高和體重數(shù)據(jù)如下表4解：1、選取身高為自變量x，體重為因變量y，作散點(diǎn)圖：2、由散點(diǎn)圖知道身高和體重有比較好的線性相關(guān)關(guān)系，因此可以用線性回歸方程刻畫它們之間的關(guān)系。解：1、選取身高為自變量x，體重為因變量y，作散點(diǎn)2、由散點(diǎn)5于是有根據(jù)最小二乘法估計和就是未知參數(shù)a和b的最好估計，所以回歸方程是所以，對于身高為172cm的女大學(xué)生，由回歸方程可以預(yù)報其體重為于是有根據(jù)最小二乘法估計和就是未知參數(shù)a和b的6從散點(diǎn)圖可以看到，樣本點(diǎn)散布在某一條直線的附近，而不是在一條直線上，所以不能用一次函數(shù)y=bx+a描述它們關(guān)系。

我們可以用下面的線性回歸模型來表示：y=bx+a+e，其中a和b為模型的未知參數(shù)，e稱為隨機(jī)誤差。思考產(chǎn)生隨機(jī)誤差項e的原因是什么？探究：身高為172cm的女大學(xué)生的體重一定是60.316kg嗎？如果不是，你能解析一下原因嗎？從散點(diǎn)圖可以看到，樣本點(diǎn)散布在某一條直線的附近，而不是在一條7思考：產(chǎn)生隨機(jī)誤差項e的原因是什么？隨機(jī)誤差e的來源：1、其它因素的影響：影響體重y的因素不只是身高x，可能還包括遺傳基因、飲食習(xí)慣、是否喜歡運(yùn)動、生長環(huán)境等因素；2、用線性回歸模型近似真實(shí)模型所引起的誤差；3、體重y的觀測誤差。（三）、隨機(jī)誤差、殘差以及相關(guān)指數(shù)思考：產(chǎn)生隨機(jī)誤差項e的原因是什么？隨機(jī)誤差e的來源：（三）8線性回歸模型y=bx+a+e增加了隨機(jī)誤差項e，因變量y的值由自變量x和隨機(jī)誤差項e共同確定，即自變量x只能解析部分y的變化。在統(tǒng)計中，我們也把自變量x稱為解析變量，因變量y稱為預(yù)報變量。思考：我們?nèi)绾窝芯侩S機(jī)誤差？（閱讀教材P84）線性回歸模型y=bx+a+e增加了隨機(jī)誤差項e，因變量y的值9下表列出了女大學(xué)生身高和體重的原始數(shù)據(jù)以及相應(yīng)的殘差數(shù)據(jù)。

在研究兩個變量間的關(guān)系時，首先要根據(jù)散點(diǎn)圖來粗略判斷它們是否線性相關(guān)，是否可以用回歸模型來擬合數(shù)據(jù)。殘差分析與殘差圖的定義：編號12345678身高/cm165165157170175165155170體重/kg4857505464614359殘差-6.3732.6272.419-4.6181.1376.627-2.8830.382

我們可以利用圖形來分析殘差特性，作圖時縱坐標(biāo)為殘差，橫坐標(biāo)可以選為樣本編號，或身高數(shù)據(jù)，或體重估計值等，這樣作出的圖形稱為殘差圖。然后，我們可以通過殘差

，來判斷模型擬合的效果，判斷原始數(shù)據(jù)中是否存在可疑數(shù)據(jù)，這方面的分析工作稱為殘差分析下表列出了女大學(xué)生身高和體重的原始數(shù)據(jù)以及相應(yīng)的殘差數(shù)據(jù)。10殘差圖的制作及作用。坐標(biāo)縱軸為殘差變量，橫軸可以有不同的選擇；若模型選擇的正確，殘差圖中的點(diǎn)應(yīng)該分布在以橫軸為心的帶形區(qū)域；對于遠(yuǎn)離橫軸的點(diǎn)，要特別注意。身高與體重殘差圖異常點(diǎn)

錯誤數(shù)據(jù)模型問題

幾點(diǎn)說明：第一個樣本點(diǎn)和第6個樣本點(diǎn)的殘差比較大，需要確認(rèn)在采集過程中是否有人為的錯誤。如果數(shù)據(jù)采集有錯誤，就予以糾正，然后再重新利用線性回歸模型擬合數(shù)據(jù)；如果數(shù)據(jù)采集沒有錯誤，則需要尋找其他的原因。另外，殘差點(diǎn)比較均勻地落在水平的帶狀區(qū)域中，說明選用的模型計較合適，這樣的帶狀區(qū)域的寬度越窄，說明模型擬合精度越高，回歸方程的預(yù)報精度越高。殘差圖的制作及作用。身高與體重殘差圖異常點(diǎn)錯誤數(shù)據(jù)11

假設(shè)身高和隨機(jī)誤差的不同不會對體重產(chǎn)生任何影響，那么所有人的體重將相同。在體重不受任何變量影響的假設(shè)下，設(shè)8名女大學(xué)生的體重都是她們的平均值，即8個人的體重都為54.5kg。54.554.554.554.554.554.554.554.5體重/kg170155165175170157165165身高/cm87654321編號54.5kg在散點(diǎn)圖中，所有的點(diǎn)應(yīng)該落在同一條水平直線上，但是觀測到的數(shù)據(jù)并非如此。這就意味著預(yù)報變量（體重）的值受解析變量（身高）或隨機(jī)誤差的影響。假設(shè)身高和隨機(jī)誤差的不同不會對體重產(chǎn)生任何影響，125943616454505748體重/kg170155165175170157165165身高/cm87654321編號

例如，編號為6的女大學(xué)生的體重并沒有落在水平直線上，她的體重為61kg。解析變量（身高）和隨機(jī)誤差共同把這名學(xué)生的體重從54.5kg“推”到了61kg，相差6.5kg，所以6.5kg是解析變量和隨機(jī)誤差的組合效應(yīng)。編號為3的女大學(xué)生的體重并也沒有落在水平直線上，她的體重為50kg。解析變量（身高）和隨機(jī)誤差共同把這名學(xué)生的體重從50kg“推”到了54.5kg，相差-4.5kg，這時解析變量和隨機(jī)誤差的組合效應(yīng)為-4.5kg。用這種方法可以對所有預(yù)報變量計算組合效應(yīng)。數(shù)學(xué)上，把每個效應(yīng)（觀測值減去總的平均值）的平方加起來，即用表示總的效應(yīng)，稱為總偏差平方和。在例1中，總偏差平方和為354。5943616454505748體重/k/p>

那么，在這個總的效應(yīng)（總偏差平方和）中，有多少來自于解析變量（身高）？有多少來自于隨機(jī)誤差？

假設(shè)隨機(jī)誤差對體重沒有影響，也就是說，體重僅受身高的影響，那么散點(diǎn)圖中所有的點(diǎn)將完全落在回歸直線上。但是，在圖中，數(shù)據(jù)點(diǎn)并沒有完全落在回歸直線上。這些點(diǎn)散布在回歸直線附近，所以一定是隨機(jī)誤差把這些點(diǎn)從回歸直線上“推”開了。因此，數(shù)據(jù)點(diǎn)和它在回歸直線上相應(yīng)位置的差異是隨機(jī)誤差的效應(yīng)，稱為殘差。那么，在這個總的效應(yīng)（總偏差平方和）中，有多少來自14在例1中，殘差平方和約為128.361。例如，編號為6的女大學(xué)生，計算隨機(jī)誤差的效應(yīng)（殘差）為：對每名女大學(xué)生計算這個差異，然后分別將所得的值平方后加起來，用數(shù)學(xué)符號表示為：它代表了隨機(jī)誤差的效應(yīng)。稱為殘差平方和，在例1中，殘差平方和約為128.361。例如，編號為6的女大15

由于解析變量和隨機(jī)誤差的總效應(yīng)（總偏差平方和）為354，而隨機(jī)誤差的效應(yīng)為128.361，所以解析變量的效應(yīng)為解析變量和隨機(jī)誤差的總效應(yīng)（總偏差平方和）=解析變量的效應(yīng)（回歸平方和）+隨機(jī)誤差的效應(yīng)（殘差平方和）354-128.361=225.639這個值稱為回歸平方和。我們可以用相關(guān)指數(shù)R2來刻畫回歸的效果，其計算公式是由于解析變量和隨機(jī)誤差的總效應(yīng)（總偏差平方和）為316顯然，R2的值越大，說明殘差平方和越小，也就是說模型擬合效果越好。在線性回歸模型中，R2表示解析變量對預(yù)報變量變化的貢獻(xiàn)率。R2越接近1，表示回歸的效果越好（因?yàn)镽2越接近1，表示解析變量和預(yù)報變量的線性相關(guān)性越強(qiáng)）。

如果某組數(shù)據(jù)可能采取幾種不同回歸方程進(jìn)行回歸分析，則可以通過比較R2的值來做出選擇，即選取R2較大的模型作為這組數(shù)據(jù)的模型。總的來說：相關(guān)指數(shù)R2是度量模型擬合效果的一種指標(biāo)。在線性模型中，它代表自變量刻畫預(yù)報變量的能力。顯然，R2的值越大，說明殘差平方和越小，也就是說模型擬合效果171354總計0.36128.361殘差變量0.64225.639解析變量比例平方和來源

從上表中可以看出，解析變量對總效應(yīng)約貢獻(xiàn)了64%，即R20.64，可以敘述為“身高解析了64%的體重變化”，而隨機(jī)誤差貢獻(xiàn)了剩余的36%。所以，身高對體重的效應(yīng)比隨機(jī)誤差的效應(yīng)大得多。我們可以用相關(guān)指數(shù)R2來刻畫回歸的效果，其計算公式是1354總計0.36128.361殘差變量0.64225.618用身高預(yù)報體重時，需要注意下列問題：1、回歸方程只適用于我們所研究的樣本的總體；2、我們所建立的回歸方程一般都有時間性；3、樣本采集的范圍會影響回歸方程的適用范圍；4、不能期望回歸方程得到的預(yù)報值就是預(yù)報變量的精確值。事實(shí)上，它是預(yù)報變量的可能取值的平均值。——這些問題也使用于其他問題。涉及到統(tǒng)計的一些思想：模型適用的總體；模型的時間性；樣本的取值范圍對模型的影響；模型預(yù)報結(jié)果的正確理解。用身高預(yù)報體重時，需要注意下列問題：1、回歸方程只適用于我們19一般地，建立回歸模型的基本步驟為：（1）確定研究對象，明確哪個變量是解析變量，哪個變量是預(yù)報變量。（2）畫出確定好的解析變量和預(yù)報變量的散點(diǎn)圖，觀察它們之間的關(guān)系（如是否存在線性關(guān)系等）。（3）由經(jīng)驗(yàn)確定回歸方程的類型（如我們觀察到數(shù)據(jù)呈線性關(guān)系，則選用線性回歸方程y=bx+a）.（4）按一定規(guī)則估計回歸方程中的參數(shù)（如最小二乘法）。（5）得出結(jié)果后分析殘差圖是否有異常（個別數(shù)據(jù)對應(yīng)殘差過大，或殘差呈現(xiàn)不隨機(jī)的規(guī)律性，等等），若存在異常，則檢查數(shù)據(jù)是否有誤，或模型是否合適等。一般地，建立回歸模型的基本步驟為：（1）確定研究對象，明確哪20學(xué)科ABCDE

數(shù)學(xué)成績x/分8876736663物理成績y/分7865716461學(xué)科ABCDE數(shù)學(xué)成績x/分8876736663物理成績y21根據(jù)表中數(shù)據(jù)可以求得根據(jù)表中數(shù)據(jù)可以求得22小結(jié)：2.正確認(rèn)識回歸模型預(yù)報結(jié)果3.殘差分析和相關(guān)指數(shù)R2的作用1.如何求回歸直線方程？小結(jié)：2.正確認(rèn)識回歸模型預(yù)報結(jié)果3.殘差分析和相關(guān)指數(shù)R23謝謝謝謝243.1

回歸分析的基本思想及其初步應(yīng)用3.1

回歸分析的基本思想及其初步應(yīng)用25一、相關(guān)知識的回顧回歸分析是對具有相關(guān)關(guān)系的兩個變量進(jìn)行統(tǒng)計分析的一種方法。2、線性回歸分析的步驟是什么？（1）畫出兩個變量的散點(diǎn)圖。（2）求回歸直線方程。（3）用回歸直線方程進(jìn)行預(yù)報。1、什么叫回歸分析？3.求回歸直線方程的截距和斜率是根據(jù)

估算得最小二乘法一、相關(guān)知識的回顧回歸分析是對具有相關(guān)關(guān)系的兩個變量進(jìn)行統(tǒng)26二、新課（一）最小二乘法二、新課（一）最小二乘法27例從某大學(xué)中隨機(jī)選取8名女大學(xué)生，其身高和體重數(shù)據(jù)如下表所示：

求根據(jù)一名女大學(xué)生的身高預(yù)報她的體重的回歸方程，并預(yù)報一名身高為172cm的女大學(xué)生的體重。5943616454505748體重/kg170155165175170157165165身高/cm87654321編號例從某大學(xué)中隨機(jī)選取8名女大學(xué)生，其身高和體重數(shù)據(jù)如下表28解：1、選取身高為自變量x，體重為因變量y，作散點(diǎn)圖：2、由散點(diǎn)圖知道身高和體重有比較好的線性相關(guān)關(guān)系，因此可以用線性回歸方程刻畫它們之間的關(guān)系。解：1、選取身高為自變量x，體重為因變量y，作散點(diǎn)2、由散點(diǎn)29于是有根據(jù)最小二乘法估計和就是未知參數(shù)a和b的最好估計，所以回歸方程是所以，對于身高為172cm的女大學(xué)生，由回歸方程可以預(yù)報其體重為于是有根據(jù)最小二乘法估計和就是未知參數(shù)a和b的30從散點(diǎn)圖可以看到，樣本點(diǎn)散布在某一條直線的附近，而不是在一條直線上，所以不能用一次函數(shù)y=bx+a描述它們關(guān)系。

我們可以用下面的線性回歸模型來表示：y=bx+a+e，其中a和b為模型的未知參數(shù)，e稱為隨機(jī)誤差。思考產(chǎn)生隨機(jī)誤差項e的原因是什么？探究：身高為172cm的女大學(xué)生的體重一定是60.316kg嗎？如果不是，你能解析一下原因嗎？從散點(diǎn)圖可以看到，樣本點(diǎn)散布在某一條直線的附近，而不是在一條31思考：產(chǎn)生隨機(jī)誤差項e的原因是什么？隨機(jī)誤差e的來源：1、其它因素的影響：影響體重y的因素不只是身高x，可能還包括遺傳基因、飲食習(xí)慣、是否喜歡運(yùn)動、生長環(huán)境等因素；2、用線性回歸模型近似真實(shí)模型所引起的誤差；3、體重y的觀測誤差。（三）、隨機(jī)誤差、殘差以及相關(guān)指數(shù)思考：產(chǎn)生隨機(jī)誤差項e的原因是什么？隨機(jī)誤差e的來源：（三）32線性回歸模型y=bx+a+e增加了隨機(jī)誤差項e，因變量y的值由自變量x和隨機(jī)誤差項e共同確定，即自變量x只能解析部分y的變化。在統(tǒng)計中，我們也把自變量x稱為解析變量，因變量y稱為預(yù)報變量。思考：我們?nèi)绾窝芯侩S機(jī)誤差？（閱讀教材P84）線性回歸模型y=bx+a+e增加了隨機(jī)誤差項e，因變量y的值33下表列出了女大學(xué)生身高和體重的原始數(shù)據(jù)以及相應(yīng)的殘差數(shù)據(jù)。

在研究兩個變量間的關(guān)系時，首先要根據(jù)散點(diǎn)圖來粗略判斷它們是否線性相關(guān)，是否可以用回歸模型來擬合數(shù)據(jù)。殘差分析與殘差圖的定義：編號12345678身高/cm165165157170175165155170體重/kg4857505464614359殘差-6.3732.6272.419-4.6181.1376.627-2.8830.382

我們可以利用圖形來分析殘差特性，作圖時縱坐標(biāo)為殘差，橫坐標(biāo)可以選為樣本編號，或身高數(shù)據(jù)，或體重估計值等，這樣作出的圖形稱為殘差圖。然后，我們可以通過殘差

，來判斷模型擬合的效果，判斷原始數(shù)據(jù)中是否存在可疑數(shù)據(jù)，這方面的分析工作稱為殘差分析下表列出了女大學(xué)生身高和體重的原始數(shù)據(jù)以及相應(yīng)的殘差數(shù)據(jù)。34殘差圖的制作及作用。坐標(biāo)縱軸為殘差變量，橫軸可以有不同的選擇；若模型選擇的正確，殘差圖中的點(diǎn)應(yīng)該分布在以橫軸為心的帶形區(qū)域；對于遠(yuǎn)離橫軸的點(diǎn)，要特別注意。身高與體重殘差圖異常點(diǎn)

錯誤數(shù)據(jù)模型問題

幾點(diǎn)說明：第一個樣本點(diǎn)和第6個樣本點(diǎn)的殘差比較大，需要確認(rèn)在采集過程中是否有人為的錯誤。如果數(shù)據(jù)采集有錯誤，就予以糾正，然后再重新利用線性回歸模型擬合數(shù)據(jù)；如果數(shù)據(jù)采集沒有錯誤，則需要尋找其他的原因。另外，殘差點(diǎn)比較均勻地落在水平的帶狀區(qū)域中，說明選用的模型計較合適，這樣的帶狀區(qū)域的寬度越窄，說明模型擬合精度越高，回歸方程的預(yù)報精度越高。殘差圖的制作及作用。身高與體重殘差圖異常點(diǎn)錯誤數(shù)據(jù)35

假設(shè)身高和隨機(jī)誤差的不同不會對體重產(chǎn)生任何影響，那么所有人的體重將相同。在體重不受任何變量影響的假設(shè)下，設(shè)8名女大學(xué)生的體重都是她們的平均值，即8個人的體重都為54.5kg。54.554.554.554.554.554.554.554.5體重/kg170155165175170157165165身高/cm87654321編號54.5kg在散點(diǎn)圖中，所有的點(diǎn)應(yīng)該落在同一條水平直線上，但是觀測到的數(shù)據(jù)并非如此。這就意味著預(yù)報變量（體重）的值受解析變量（身高）或隨機(jī)誤差的影響。假設(shè)身高和隨機(jī)誤差的不同不會對體重產(chǎn)生任何影響，365943616454505748體重/kg170155165175170157165165身高/cm87654321編號

例如，編號為6的女大學(xué)生的體重并沒有落在水平直線上，她的體重為61kg。解析變量（身高）和隨機(jī)誤差共同把這名學(xué)生的體重從54.5kg“推”到了61kg，相差6.5kg，所以6.5kg是解析變量和隨機(jī)誤差的組合效應(yīng)。編號為3的女大學(xué)生的體重并也沒有落在水平直線上，她的體重為50kg。解析變量（身高）和隨機(jī)誤差共同把這名學(xué)生的體重從50kg“推”到了54.5kg，相差-4.5kg，這時解析變量和隨機(jī)誤差的組合效應(yīng)為-4.5kg。用這種方法可以對所有預(yù)報變量計算組合效應(yīng)。數(shù)學(xué)上，把每個效應(yīng)（觀測值減去總的平均值）的平方加起來，即用表示總的效應(yīng)，稱為總偏差平方和。在例1中，總偏差平方和為354。5943616454505748體重/k/p>

那么，在這個總的效應(yīng)（總偏差平方和）中，有多少來自于解析變量（身高）？有多少來自于隨機(jī)誤差？

假設(shè)隨機(jī)誤差對體重沒有影響，也就是說，體重僅受身高的影響，那么散點(diǎn)圖中所有的點(diǎn)將完全落在回歸直線上。但是，在圖中，數(shù)據(jù)點(diǎn)并沒有完全落在回歸直線上。這些點(diǎn)散布在回歸直線附近，所以一定是隨機(jī)誤差把這些點(diǎn)從回歸直線上“推”開了。因此，數(shù)據(jù)點(diǎn)和它在回歸直線上相應(yīng)位置的差異是隨機(jī)誤差的效應(yīng)，稱為殘差。那么，在這個總的效應(yīng)（總偏差平方和）中，有多少來自38在例1中，殘差平方和約為128.361。例如，編號為6的女大學(xué)生，計算隨機(jī)誤差的效應(yīng)（殘差）為：對每名女大學(xué)生計算這個差異，然后分別將所得的值平方后加起來，用數(shù)學(xué)符號表示為：它代表了隨機(jī)誤差的效應(yīng)。稱為殘差平方和，在例1中，殘差平方和約為128.361。例如，編號為6的女大39

由于解析變量和隨機(jī)誤差的總效應(yīng)（總偏差平方和）為354，而隨機(jī)誤差的效應(yīng)為128.361，所以解析變量的效應(yīng)為解析變量和隨機(jī)誤差的總效應(yīng)（總偏差平方和）=解析變量的效應(yīng)（回歸平方和）+隨機(jī)誤差的效應(yīng)（殘差平方和）354-128.361=225.639這個值稱為回歸平方和。我們可以用相關(guān)指數(shù)R2來刻畫回歸的效果，其計算公式是由于解析變量和隨機(jī)誤差的總效應(yīng)（總偏差平方和）為340顯然，R2的值越大，說明殘差平方和越小，也就是說模型擬合效果越好。在線性回歸模型中，R2表示解析變量對預(yù)報變量變化的貢獻(xiàn)率。R2越接近1，表示回歸的效果越好（因?yàn)镽2越接近1，表示解析變量和預(yù)報變量的線性相關(guān)性越強(qiáng)）。

如果某組數(shù)據(jù)可能采取幾種不同回歸方程進(jìn)行回歸分析，則可以通過比較R2的值來做出選擇，即選取R2較大的模型作為這組數(shù)據(jù)的模型?？偟膩碚f：相關(guān)指數(shù)R2是度量模型擬合效果的一種指標(biāo)。在線性模型中，它代表自變量刻畫預(yù)報變量的能力。顯然，R2的值越大，說明殘差平方和越小，也就是說模型擬合效果411354總計0.36128.361殘差變量0.64225.6