1、第二章 一元線性回歸模型1.1 模型的建立及其假定條件例如：研究某市可支配收入X對人均消費支出Y 的影響。建立如下理論回歸模型： Yi = 0 + 1 Xi + i其中： Yi被解釋變量； Xi解釋變量； I 隨機(jī)誤差項； 0，1回歸系數(shù)隨機(jī)變量 i包含： 回歸模型中省略的變量; 確定數(shù)學(xué)模型的誤差； 測量誤差 一、一元線性回歸模型二、隨機(jī)誤差項i的假定條件為了估計總體回歸模型中的參數(shù)，需對隨機(jī)誤差項作出如下假定：假定1：零期望假定：E(i) = 0。假定2：同方差性假定：Var(i) = 2。假定4： X非隨機(jī)變量： Cov(i,Xi) =0假定5： i 服從正態(tài)分布，即i N (0, 2

2、)。假定3：無序列相關(guān)假定：Cov(i, j) = 0, (i j )。前三個條件稱為G-M條件1.2 最小二乘估計及其性質(zhì)普通最小二乘法（Ordinary Least Squares）OLS回歸直線的性質(zhì)OLSE的性質(zhì)一、普通最小二乘法對于所研究的問題，通常真實的回歸直線 E(Yi|Xi) = 0 + 1Xi 是觀測不到的。可以通過收集樣本來對真實的回歸直線做出估計。 樣本回歸模型： 其中： 為Yi的估計值（擬合值）；為 0 , 1 的估計值；如果觀測值到這條直線的縱向距離（真實值與估計值的偏差）用ei表示（稱為殘差），則樣本回歸方程為： （ei為i的估計值）注意：分清4個式子的關(guān)系 （4）

3、經(jīng)驗（估計的）回歸直線：（1）理論（真實的）回歸模型： （3）經(jīng)驗（估計的）回歸模型： （2）理論（真實的）回歸直線： 對于參數(shù)的估計采用最小二乘估計法、最小二乘法的原則是以“殘差平方和最小” 確定直線位置（即估計參數(shù)）。（Q為殘差平方和）Q =min =則通過Q最小確定這條直線，即確定 ，以 為變量，把它們看作是Q的函數(shù)，就變成了一個求極值的問題，可以通過求導(dǎo)數(shù)得到。求Q對 兩個待估參數(shù) 的偏導(dǎo)數(shù)：= = 0= = 0正規(guī)方程組即根據(jù)以上兩個偏導(dǎo)方程得以下正規(guī)方程（Normal equation） ：若記則 二、OLS回歸直線的性質(zhì)（4）估計的回歸直線 過點 . （3） Yi 的擬合值的平均

4、數(shù)等于其樣本觀測值的平均數(shù) . = = = （1）（2）殘差和均值等于0統(tǒng)計性質(zhì) 線性 無偏性 有效性2 的估計三、OLSE回歸直線的性質(zhì)1、線性這里指 都是Yi的線性函數(shù)。證明：= = 令代入上式，得：同理可證：0也具有線性特性 。= 2、無偏性 證明： = = =類似可證3、有效性0 ，1 的OLS估計量的方差比其他線性無偏估計量的方差都小。最小二乘估計量的方差最小二乘估計量的方差（續(xù)）最小二乘估計量的方差（續(xù)）（最小方差性的證明略）最大似然估計法（ML）取代最小二乘法的另一方法是最大似然法（ML）。為了使用ML法，必須對隨機(jī)擾動項u的概率分布作一假定。在回歸分析中，最常作的假定就是u服從

5、正態(tài)分布。在正態(tài)性假定下，自變量參數(shù)的ML估計量和OLS估計量是完全相同的。但是，u的方差的OLS和ML估計量卻有差別。然而，在大樣本中，這兩個估計量趨于一致。因此,通常稱ML法為大樣本方法。ML法有更為廣泛的應(yīng)用。意思是，它可以用于對參數(shù)為非線性的回歸模型。對于非線性情形，一般都不用OLS。總平方和（SST）是實測的Y值圍繞其均值的總變異。解釋平方和（SST）是估計的Y值圍繞其均值的變異。殘差平方和（SSR）是未被解釋的圍繞回歸線的Y的變異。1.3模型的檢驗與評價一、 用樣本可決系數(shù)檢驗回歸方程的擬合優(yōu)度 平方和公式的幾何表示來自殘差來自回歸總離差SRF可決系數(shù)：R2公式性質(zhì)：0R21 問：

6、 R2 =0 意味著什么？ R2 =1 意味著什么？R2 = R2=0時 表明解釋變量X與被解釋變量Y之間不存在線性關(guān)系；R2=1時 表明樣本回歸線與樣本值重合，這種情況極少發(fā)生；一般情況下，R2越接近1表示擬合程度越好，X對Y的解釋能力越強(qiáng)。R2與相關(guān)系數(shù)r 的區(qū)別二、回歸參數(shù)的顯著性檢驗（t 檢驗） 首先，提出原假設(shè)和備擇假設(shè)： H0： H1： 其次，確定并計算統(tǒng)計量： 如果 不能拒絕H0： ，認(rèn)為X對Y沒有顯著影響。 如果 拒絕H0 ： ，認(rèn)為X對Y有顯著影響。 同理,可對 進(jìn)行顯著性檢驗。 三、回歸方程的顯著性檢驗（F檢驗） 總離差平方和 回歸平方和 殘差平方和SST = SSR + SSEH0： H1： 拒絕域F F (1,n-2)1. 5 一元線性回歸方程的預(yù)測和控制 點預(yù)測Yi區(qū)間預(yù)測 （1）單個值Yi的區(qū)間預(yù)測 （2）均值E(Yi)的區(qū)間預(yù)測控制如果經(jīng)過檢驗，樣本回歸方程的擬合優(yōu)度好，且回歸系數(shù)的估計值顯著不為0，則可以用回歸方程進(jìn)行預(yù)測和控制。1、點預(yù)測 假設(shè)X0為解釋變量的一個已知點，則帶入樣本回歸方程即可得到Y(jié)0的估計值:2、區(qū)間預(yù)測 估計值 是一個點預(yù)測值，它可以是（1）總體真值Y0的預(yù)測值；也可以是（2）總體回歸線E(Y 0 ）的預(yù)測值。現(xiàn)在根據(jù) 來對（1）（2）進(jìn)行區(qū)間預(yù)測。 二、個值預(yù)測（點估計）二、個值預(yù)測（區(qū)