第九章 簡(jiǎn)單相關(guān)與簡(jiǎn)單回歸 本章主要介紹簡(jiǎn)單相關(guān)和簡(jiǎn)單回歸的基本概念；相關(guān)系數(shù)、回歸方程的推導(dǎo)和相應(yīng)的計(jì)算公式；相關(guān)系數(shù)和回歸系數(shù)的顯著性檢驗(yàn)；等級(jí)相關(guān)；回歸分析的用途和注意事項(xiàng) 第一節(jié) 概念 復(fù)習(xí)：數(shù)學(xué)中的函數(shù)關(guān)系 自然界中：現(xiàn)象之間的關(guān)系 性狀之間的關(guān)系 依變量和因變量之間的關(guān)系： 人的身高與年齡的關(guān)系 疫病的發(fā)生與消毒的關(guān)系 等等 這些關(guān)系在取得數(shù)據(jù)后可以進(jìn)行量化、也可以用某一個(gè)關(guān)系式來(lái)表示，這就是 相關(guān) 和 回歸 y f x 2 2 12A a b變量之間的關(guān)系有以下幾種： 兩個(gè)變量的關(guān)系： 與 簡(jiǎn)單相關(guān)（線性關(guān)系） 曲線相關(guān)（非線性關(guān)系） +多項(xiàng)式 多個(gè)變量的關(guān)系： 多元相關(guān)（線性關(guān)系） 與 （非線性關(guān)系） 典范相關(guān) 與 y 2.、12.、 12.、 第二節(jié) 相關(guān)關(guān)系 一、相關(guān)系數(shù)的確定 對(duì)某一個(gè)樣品，同時(shí)測(cè)量其兩個(gè)指標(biāo)（或性狀），得到兩個(gè)變量，一個(gè)記為 x，另一個(gè)記為 y 每一樣品就有一對(duì) x和 y，共觀測(cè)了 而記錄了 x， y） 將這 x， y）在一個(gè)直角坐標(biāo)系內(nèi)描點(diǎn)，并觀察這些點(diǎn)的位置、排列和趨向 這些點(diǎn)排列得越整齊，表明這兩個(gè)變量的關(guān)系越緊密，即這兩個(gè)指標(biāo)的關(guān)系越密切 反之，則表示這兩個(gè)指標(biāo)的關(guān)系越松散 （A ） 無(wú)相關(guān)（r = 0 ）0510152025300 5 10 15B ) 正相關(guān)（r 0 ）024681012140 5 10 15C ) 負(fù)相關(guān)（r 0 時(shí)， x 增大， y 也增大，即兩變量為正相關(guān) b 2 = 1 = 3 = = = 1 = 3 = 1 = 2 = 3 = 如果輸入一個(gè) x，希望得到一個(gè) y 的估計(jì)值： x 如果輸入一個(gè) y，希望得到一個(gè) x 的估計(jì)值： y 2 = 1 = 四、回歸系數(shù)與相關(guān)系數(shù)的關(guān)系 即相關(guān)系數(shù)是標(biāo)準(zhǔn)化了的回歸系數(shù) 同理，可得 兩者相乘， 即 即為前面討論過(guò)的決定系數(shù) 即相關(guān)系數(shù)是兩個(gè)方向相反的回歸系數(shù)的幾何平均值 yy y xy x y xx x yx y xx x S S S S s S Pb r r s S S S S S S S y x x yr b b y x x yr b b2 相關(guān)系數(shù)是一個(gè)純量，沒(méi)有單位， 回歸系數(shù)是有單位的： 相關(guān)系數(shù)沒(méi)有方向， 回歸系數(shù)是有方向的： 為 y 對(duì) x 的回歸， 為 x 對(duì) y 的回歸 相關(guān)系數(shù)的分布范圍為： 回歸系數(shù)的分布范圍為： 兩者的關(guān)系： 1, 1 , 2y x x yr b by x x yr b b、直線回歸的估計(jì)標(biāo)準(zhǔn)誤 （一）總平方和的剖分 的建立，表示了 x 與 y 的關(guān)系及其變化規(guī)律 每一個(gè) y 都存在著變異，這一變異的大小可用 y 的離均差平方和 表示 又稱(chēng)為總平方和，即 y a b x 2 22 2 y y y n 2結(jié)合每一個(gè) ， 可分為兩部分： 其中： 2 2222222y y y y y yy y y y y y y yy y y y 0y y y y y 稱(chēng)為回歸平方和，它是由 x 的變化所引起的 y 的變化 它反映了總變異中由于 x 與 y 的線性關(guān)系所引起的 y 的變化部分，可用 U 表示 2 2U y y 稱(chēng)為離回歸平方和，用 Q 表示，這是建立直線回歸方程的依據(jù)： 它是實(shí)際觀測(cè)值與預(yù)測(cè)值之間的離差，是 x 對(duì) y 線性關(guān)系以外的一切因素對(duì) y 變異的作用 因此， 22 2 y y b S S b S P 222y y y S S b S P S U S S b S S 2 2y y Q U 2Q y y回歸平方和 U 和離回歸平方和 Q 的大小可用來(lái)檢驗(yàn)回歸效果的好壞 U 在總平方和中的比例（就是決定系數(shù) ）越大，說(shuō)明由 x 預(yù)測(cè) y 的準(zhǔn)確性就越高 即 即總平方和可以剖分成兩部分：相關(guān)平方和 ，和非相關(guān)平方和 2 222221yy y x yy y y yU b S P S r S S S S S S S U S S r S S r S S 22 1y y r S S r S S 2二）直線回歸方程的估計(jì)標(biāo)準(zhǔn)誤 表示了 x 對(duì) y 線性影響之外的一切因素對(duì) y 變異的作用 因此， Q 越大，方程的預(yù)測(cè)效果就越差，即觀測(cè)值離回歸直線愈遠(yuǎn)，因此可以用 Q 來(lái)估計(jì)直線回歸的標(biāo)準(zhǔn)誤： 2Q y y 2 212 2 2 n n 在上例中： 2 22 6095 3 4 2 7 4 4 47 0 4 3b 220 . 9 5 9 7 0 . 9 2 0 9r 2 22 3151 4 8 7 5 7 0 07 3 1 5 6 0 92 7 9 4 0 5 3 57 x 225354 0 8 . 8 9 2 9700 4 4 4 4 0 8 . 8 9 2 9 3 5 . 1 0 7 1 S U 因此，該例的回歸直線估計(jì)標(biāo)準(zhǔn)誤為： 3 5 . 1 0 7 12 . 6 4 9 872 六、直線回歸的假設(shè)檢驗(yàn) （一）直線回歸關(guān)系或回歸系數(shù)的 本 是對(duì)總體 的估計(jì) 因此，應(yīng)對(duì) 進(jìn)行檢驗(yàn)，檢驗(yàn)該樣本直線回歸來(lái)自無(wú)直線回歸關(guān)系的總體的概率 當(dāng)這一概率 p，才能認(rèn)為樣本回歸方程所代表的總體的確存在著直線回歸關(guān)系 這就是回歸關(guān)系的假設(shè)檢驗(yàn) 設(shè)立無(wú)效假設(shè) 回歸系數(shù) b 的標(biāo)準(zhǔn)誤 y a b x 0 :0H 0 y a b x進(jìn)行 上例中： 即我們有 99% 的把握認(rèn)為這一總體回歸是存在的 2d f n2 . 6 4 9 8 7002 . 6 4 9 8 0 . 1 0 0 27000 . 0 1 , 50 . 7 6 4 3 7 . 6 2 8 4 . 0 3 20 . 1 0 0 2 0 p顯然，我們可以看出，對(duì)相關(guān)系數(shù)的檢驗(yàn)和對(duì)回歸系數(shù)的檢驗(yàn)兩者是同步的 因此， r 顯著， b 必顯著；反之 b 顯著， r 亦必顯著 由于對(duì) r 的檢驗(yàn)只需查表即可，比較容易，因此只需對(duì) r 檢驗(yàn)即完成檢驗(yàn)工作 相關(guān)分析和回歸分析的一般程序是： 首先作相關(guān)分析；對(duì)相關(guān)系數(shù)進(jìn)行顯著性檢驗(yàn)；若相關(guān)系數(shù)顯著，進(jìn)行回歸分析 （二）回歸關(guān)系的方差分析 可分解成回歸平方和 U 和離回歸平方和 Q 也可分解成回歸自由度 和離回歸自由度 因此，可用方差分析來(lái)檢驗(yàn)線性回歸關(guān)系的顯著性 方差分析的公式是： 我們也可以寫(xiě)出相應(yīng)的方差分析表 2Qd f n 22 S Sd f d f上例中， 由于對(duì)回歸方程的方差分析其 F 值等于對(duì)回歸系數(shù)進(jìn)行 t 的平方 因此，對(duì)回歸關(guān)系的方差分析等同于對(duì)回歸系數(shù)的 對(duì)回歸系數(shù)的 等同于對(duì)相關(guān)系數(shù)的 此在實(shí)際操作中，只需對(duì)相關(guān)系數(shù) r 進(jìn)行顯著性檢驗(yàn)就可以了 2 2 27 2 5 3 55 8 . 2 3 5 1 7 . 6 33 5 . 1 0 7 1 7 0 0 （ 三）回歸系數(shù)的置信區(qū)間 遵循 的 此，總體 的95%置信區(qū)間為： 上例中： 同理： 回歸系數(shù)也可以寫(xiě)成 的形式 上例： 2d f n1 0 . 0 5 bL b t s2 0 . 0 5 bL b t s1 0 . 7 6 4 3 2 . 5 7 1 0 . 1 0 0 2 0 . 5 0 6 7L 2 0 . 7 6 4 3 2 . 5 7 1 0 . 1 0 0 2 1 . 0 2 1 9L 95%0 . 5 0 6 7 , 1 . 0 2 1 9 99%0 . 3 6 0 3 , 1 . 1 6 8 3 . 7 6 4 3 0 . 1 0 0 2 第四節(jié) 直線相關(guān)與直線回歸分析的應(yīng)用和注意點(diǎn) 一、相關(guān)分析和回歸分析的應(yīng)用 1、應(yīng)用相關(guān)系數(shù)和回歸分析能更全面地分析問(wèn)題 2、進(jìn)行預(yù)測(cè)預(yù)報(bào) 3、進(jìn)行間接估測(cè) 4、校正 5、回歸分析與方差分析相結(jié)合進(jìn)行協(xié)方差分析 二、應(yīng)用相關(guān)系數(shù)和回歸分析的注意事項(xiàng) 1、變量間是否存在相關(guān)，必須結(jié)合專(zhuān)業(yè)知識(shí)和實(shí)踐經(jīng)驗(yàn)加以判斷 2、兩變量間的相關(guān)系數(shù)如不顯著，不等于兩變量間無(wú)相關(guān)，僅說(shuō)明線性關(guān)系不顯著，因此必要時(shí)應(yīng)尋找其他類(lèi)型的相關(guān)和回歸，如非線性相關(guān) 3、相關(guān)系數(shù)顯著，且同時(shí)存在 時(shí)才能將回歸方程用于預(yù)測(cè)預(yù)報(bào) 4、估計(jì)兩變量間的相關(guān)時(shí)，必須將其余可能對(duì)這一相關(guān)產(chǎn)生影響的變量嚴(yán)格地控制起來(lái) 2 0 r 5、樣本量應(yīng)盡可能大一些，簡(jiǎn)