第4講 線性回歸分析,2012年9月,城市規(guī)劃數(shù)據(jù)分析方法,有趣的發(fā)現(xiàn),英國著名的統(tǒng)計學(xué)家F.Galton及其弟子K.Pearson, 研究了1078對夫婦及其一個成年兒子的身高關(guān)系。他們以兒子身高作為縱坐標(biāo)、夫婦平均身高為橫坐標(biāo)作散點圖，結(jié)果發(fā)現(xiàn)二者的關(guān)系近似于一條直線。 經(jīng)計算得到了如下方程：,由此方程可以看到 ：夫婦平均身高增加或減少一個單位，兒子的身高只增加或減少 0.516個單位。也就是說，子代的身高就不像父輩身高那樣分化 ，而是逐漸向平均身高回歸 。Galton引進“回歸”（regression)一詞來表達(dá)這種變化關(guān)系。不過后來人們研究其它變量間的關(guān)系時，并沒有發(fā)現(xiàn)如上所述的回歸現(xiàn)象，但仍沿用 “回歸” 的概念以紀(jì)念統(tǒng)計學(xué)家F.Galton。,“回歸”，指在依據(jù)大樣本數(shù)據(jù)作出的變量間關(guān)系的散點圖中，可以找到一條特定的直線或曲線，這樣就可以把這條直線或曲線叫做其它測量變量與被預(yù)測變量之間關(guān)系的回歸線，它能夠最理想的反映變量間的預(yù)測關(guān)系。,3.1 回歸分析的目的,相關(guān)分析揭示了要素之間的相關(guān)程度。然而，諸要素之間關(guān)系的進一步具體化，譬如某一要素與其它要素之間的關(guān)系若能用一定的函數(shù)形式予以近似地表達(dá)，那么其實用意義將會更大。 回歸分析方法，就是研究要素之間具體數(shù)量關(guān)系的一種強有力的工具，運用這種方法能夠建立反映要素之間具體數(shù)量關(guān)系的數(shù)學(xué)模型，即回歸模型。,3.2 一元線性回歸,定義：假設(shè)有兩個要素（變量）x和y，x為自變量，y為因變量。 一元線性回歸模型的基本結(jié)構(gòu)形式為 上式代表x與y之間相關(guān)關(guān)系的擬合直線，稱為回歸直線； 是y 的估計值，亦稱回歸值。 擬合的好壞程度用擬合優(yōu)度（R2）度量,7,參數(shù)估計: 普通最小二乘法（ordinary least squares,OLS）: 最小二乘法的基本原則是：最優(yōu)擬合直線應(yīng)該使各點到直線的距離的和最小，也可表述為距離的平方和最小。 假定根據(jù)這一原理得到的、估計值為 、 ，則直線可表示為 : 參數(shù)檢驗,一元線性回歸的步驟,利用散點圖或相關(guān)分析確定兩變量是否存在線性關(guān)系； 利用Excel、SPSS、Eview等軟件計算回歸方程的回歸常數(shù)和回歸系數(shù)，得到回歸方程；,進行擬合優(yōu)度檢驗。 判斷回歸方程對樣本數(shù)據(jù)的代表程度。檢驗的方法是使用判定系數(shù)R2，取值范圍在0R2 1。當(dāng)其等于0時，x與y 沒有任何關(guān)系；當(dāng)其為1 時，回歸線是完全擬合的，即所有散點均落在回歸線上；其越接近于1，回歸線擬合得越好。,GDP與人口,3.3 多元線性回歸,一個事件往往存在兩個或多個要素，它們之間也存在著相互影響、相互關(guān)聯(lián)的關(guān)系。因此，多元線性回歸模型更帶有普遍性的意義。,為常數(shù),稱為回歸系數(shù),F檢驗回歸方程擬合效果,GDP與人口,3.4 多項式回歸（二次多項式回歸）,假設(shè)有兩個要素（變量）x和y，x為自變量，y為因變量。 一元線性回歸模型的基本結(jié)構(gòu)形式為。,例：太陽光的紫外線隨一日中時間的變化而變化，今測得某地 56 月份晴天一日內(nèi)不同時間的紫外線強度如下，試作回歸分析。 畫散點圖，可以看出，紫外線強度與一日內(nèi)的時間大致呈拋物線關(guān)系，便可得到擬合方程。,3.5多項式回歸（三次多項式回歸）,假設(shè)有兩個要素（變量）x和y，x為自變量，y為因變量。 一元線性回歸模型的基本結(jié)構(gòu)形式為。,研究飼料的含磷量與飼料系數(shù)的關(guān)系，得如下數(shù)據(jù)，試進行回歸分析 含磷量x% 0.35 0.77 1.04 1.36 1.70 飼料系數(shù)y 2.65 2.01 1.77 2.25 4.27 配置拋物線方程，得方程1： 增加高次方項，并進行優(yōu)化篩選，得方程2： 顯然，方程 2 要好于方程 1，兩者的預(yù)測值也表明方程 2 要更接近于實測值：,多項式回歸（二次多項式回歸）,假設(shè)有兩個要素（變量）x和y，x為自變量，y為因變量。 一元線性回歸模型的基本結(jié)構(gòu)形式為。,3.5 非線性回歸模型,非線性關(guān)系線性化的幾種情況: 對于指數(shù)曲線 ，令 , 可以將其轉(zhuǎn)化為直線形式： ，其中， ； 對于對數(shù)曲線 ，令 ， ，可以將其轉(zhuǎn)化為直線形式： ； 對于冪函數(shù)曲線 ，令 ， ，可以將其轉(zhuǎn)化為直線形式： 其中， ；, 對于雙曲線 ，令 ，轉(zhuǎn)化為直線形式： 對于S型曲線 ，可 轉(zhuǎn)化為直線形式： 對于冪乘積： ，只要令 ，就可以將其轉(zhuǎn)化為線性形式： 其中， ；, 對于對數(shù)函數(shù)和 只要令 ，就可以將其化為線性形式： 例:下表給出了某地區(qū)林地景觀斑塊面積（Area）與周長（Perimeter）的數(shù)據(jù)。下面我們建立林地景觀斑塊面積A與周長P之間的非線性回歸模型 。,（1）作變量替換，令： ， ，將上表中的原始數(shù)據(jù)進行對數(shù)變換，變換后得到的各新變量對應(yīng)的觀測數(shù)據(jù)如下表所示。,（2） 以x為橫坐標(biāo)、y為縱坐標(biāo)，在平面直角坐標(biāo)系中作出散點圖。很明顯，y與x呈線性關(guān)系。,（3）根據(jù)所得表中的數(shù)據(jù)，運用建立線性回歸模型的方法，建立y與x之間的線性回歸模型，得到： x與y的相關(guān)系數(shù) 高達(dá)0.9665。 （4）將上式還原成雙對數(shù)曲線，即,事實上，有關(guān)研究表明（Li，2000；徐建華等，2001），景觀形態(tài)具有分形特征，景觀斑塊的面積（Area）與周長（Perimeter）之間的數(shù)量關(guān)系都可以用雙對數(shù)關(guān)