相關與回歸分析第1頁/共55頁研究問題：變量間關系函數(shù)關系是一一對應的確定關系特殊相關關系相關關系一個變量的取值不能由另一個變量唯一確定xyxy第2頁/共55頁變量間關系類別不相關負線性相關正線性相關非線性相關完全負線性相關完全正線性相關第3頁/共55頁相關分析要解決的問題【例】一家大型商業(yè)銀行在多個地區(qū)設有分行，該銀行的貸款額平穩(wěn)增長，但不良貸款額也有較大比例的提高，這給銀行業(yè)務的發(fā)展帶來較大壓力。為弄清楚不良貸款形成的原因，希望利用銀行業(yè)務的有關數(shù)據做些定量分析，以便找出控制不良貸款的辦法。下面是該銀行所屬的25家分行2002年的有關業(yè)務數(shù)據第4頁/共55頁例題數(shù)據第5頁/共55頁第6頁/共55頁相關關系測度：相關系數(shù)相關系數(shù)對變量之間關系密切程度的度量也稱線性相關系數(shù)，或皮爾遜相關系數(shù)總體相關系數(shù)根據總體全部數(shù)據計算樣本相關系數(shù)r根據樣本數(shù)據計算r作為的估計值，需要顯著性檢驗第7頁/共55頁計算公式

樣本相關系數(shù)的計算公式或化簡為第8頁/共55頁r的性質取值在-1和1之間根據經驗r≥0.8時，高度相關0.5≤r

＜0.8時，中度相關0.3≤r

＜0.5時，低度相關

r

＜0.3時，不相關具有對稱性不能用于描述非線性關系不一定因果關系第9頁/共55頁步驟一：相關系數(shù)計算EXCEL計算演示第10頁/共55頁步驟二：相關關系的顯著性檢驗一般總體相關系數(shù)未知r作為的近似估計計算檢驗的統(tǒng)計量：確定顯著性水平，并作出決策若t>t，存在顯著線性關系

第11頁/共55頁例題分析

對不良貸款與貸款余額之間的相關系數(shù)進行顯著性檢(0.05)計算檢驗的統(tǒng)計量顯著性水平＝0.05，t(n-2)=2.0687t=7.5344>t(25-2)=2.0687不良貸款與貸款余額間存在著顯著的正線性相關關系

第12頁/共55頁第二部分一元線性回歸第13頁/共55頁一元線性回歸回歸分析：數(shù)學表達式相關分析：變量之間的關系強度一元線性回歸模型y=b0+b1x+ey依賴于自變量x和誤差項e假定e的期望值為0一元線性回歸方程E(y)=0+1x估計的回歸方程：根據樣本數(shù)據求出xy第14頁/共55頁步驟一：參數(shù)的最小二乘估計xy(xn,yn)(x1,y1)(x2,y2)(xi,yi)｝ei=yi-yi＾第15頁/共55頁公式使因變量的觀察值與估計值之間的離差平方和達到最小來求得和的方法。即第16頁/共55頁例題分析【例】求不良貸款對貸款余額的回歸方程回歸方程：y=-0.8295+0.037895x結果解釋回歸系數(shù)0.037895表示，貸款余額每增加1億元，不良貸款平均增加0.037895億元截距通常不能賦予任何意義用EXCEL計算第17頁/共55頁回歸方程的圖示第18頁/共55頁步驟二：回歸直線的擬合優(yōu)度擬合優(yōu)度：觀察值與回歸直線的接近程度一、判定系數(shù)二、估計量的標準差第19頁/共55頁一、判定系數(shù)R2計算A：變差分解y取值不同，這種波動稱為變差變差的大小可以用來表示由于x的取值不同造成除x以外的其他因素的影響第20頁/共55頁變差分解圖示xyy{}}第21頁/共55頁B：離差平方和的分解

SST=SSR+SSE總平方和(SST){回歸平方和(SSR)殘差平方和(SSE){{第22頁/共55頁C：計算判定系數(shù)R2

回歸平方和占總離差平方和的比例取值范圍在[0,1]之間R2

1，回歸方程擬合的越好R20，回歸方程擬合的越差可以證明R2＝r2第23頁/共55頁例題分析【例】計算不良貸款對貸款余額回歸的判定系數(shù)，并解釋其意義實際意義在不良貸款取值的變差中，71.16%可由不良貸款與貸款余額間的線性關系來解釋或不良貸款取值變動中，有71.16%是由貸款余額所決定也即不良貸款取值的差異有2/3以上是由貸款余額決定的第24頁/共55頁二、估計量的標準差計算公式為均方殘差MSE的平方根用估計的回歸方程預測y時預測誤差的大小排除x對y影響后，y隨機波動大小的估計量注：例題的計算結果為1.9799用貸款余額估計不良貸款，平均估計誤差為1.9799第25頁/共55頁步驟三：顯著性檢驗A線性關系檢驗關系是否可用y=b0+b1x+e來表示B回歸系數(shù)檢驗

檢驗自變量x對因變量y的影響是否顯著第26頁/共55頁A線性關系檢驗的步驟提出假設H0：1=0線性關系不顯著2.計算檢驗統(tǒng)計量F

回歸均方：回歸平方和SSR除以相應的自由度(自變量的個數(shù)p)

殘差均方：殘差平方和SSE除以相應的自由度(n-p-1)確定顯著性水平，找出臨界值F作出決策：若F>F,拒絕H0若F<F,不拒絕H0第27頁/共55頁例題分析提出假設H0：1=0不良貸款與貸款余額之間的線性關系不顯著計算檢驗統(tǒng)計量F確定顯著性水平=0.05，并根據分子自由度1和分母自由度25-2找出臨界值F=4.28作出決策：若F>F,拒絕H0，線性關系顯著第28頁/共55頁方差分析表第29頁/共55頁B回歸系數(shù)的檢驗提出假設H0:b1=0(沒有線性關系)H1:b1

0(有線性關系)計算檢驗的統(tǒng)計量

確定顯著性水平，并進行決策t>t，拒絕H0；t<t，不拒絕H0在一元線性回歸中，等價于線性關系的顯著性檢驗第30頁/共55頁例題分析對例題的回歸系數(shù)進行顯著性檢驗(＝0.05)提出假設H0：b1=0H1：b1

0計算檢驗的統(tǒng)計量

t=7.533515>t=2.201，拒絕H0，表明不良貸款與貸款余額之間有線性關系第31頁/共55頁步驟四：估計和預測根據x

的取值估計或預測y的取值估計或預測的類型點估計y的平均值的點估計y的個別值的點估計區(qū)間估計y的平均值的置信區(qū)間估計y的個別值的預測區(qū)間估計第32頁/共55頁

點估計例：在前面的例子中，假如我們要估計貸款余額為100億元時，所有分行不良貸款的平均值，就是平均值的點估計。如果我們只是想知道貸款余額為72.8億元的那個分行(這里是編號為10的那個分行)的不良貸款是多少，則屬于個別值的點估計。平均值的點估計和個別值的的點估計是一樣的第33頁/共55頁置信區(qū)間估計利用估計的回歸方程，對于自變量x的一個給定值x0

，求出因變量y

的平均值的估計區(qū)間，這一估計區(qū)間稱為置信區(qū)間

E(y0)

在1-置信水平下的置信區(qū)間為式中：se為估計標準誤差第34頁/共55頁例題分析

【例】求出貸款余額為100億元時，不良貸款95%的置信區(qū)間解：根據前面的計算結果，已知n=25，

se=1.9799，t(25-2)=2.0687

置信區(qū)間為當貸款余額為100億元時，不良貸款的平均值在2.1141億元到3.8059億元之間

第35頁/共55頁預測區(qū)間估計利用估計的回歸方程，對于自變量x的一個給定值x0

，求出因變量y

的一個個別值的估計區(qū)間，這一區(qū)間稱為預測區(qū)間)

y0在1-置信水平下的預測區(qū)間為注意！第36頁/共55頁例題分析【例】求出貸款余額為72.8億元時，不良貸款95%的預測區(qū)間解：根據前面的計算結果，已知n=25，

se=1.9799，t(25-2)=2.0687

置信區(qū)間為貸款余額為72.8億元的那個分行，其不良貸款的預測區(qū)間在-2.2766億元到6.1366億元之間

第37頁/共55頁置信區(qū)間、預測區(qū)間、回歸方程xpyxx預測上限置信上限預測下限置信下限第38頁/共55頁第三部分多元線性回歸第39頁/共55頁多元回歸多元回歸模型圖示多元回歸方程E(y)=0+1x1

+2x2

+…+

pxp估計的多元回歸的方程模型參數(shù)與偏回歸系數(shù)第40頁/共55頁二元回歸方程的直觀解釋二元線性回歸模型(觀察到的y)回歸面0ix1yx2(x1,x2)}第41頁/共55頁步驟一:參數(shù)估計：最小二乘法求解各回歸參數(shù)的標準方程如下使因變量的觀察值與估計值之間的離差平方和達到最小來求得

。即第42頁/共55頁例題分析【例】一家大型商業(yè)銀行在多個地區(qū)設有分行，為弄清楚不良貸款形成的原因，抽取了該銀行所屬的25家分行2002年的有關業(yè)務數(shù)據。試建立不良貸款(y)與貸款余額(x1)、累計應收貸款(x2)、貸款項目個數(shù)(x3)和固定資產投資額(x4)的線性回歸方程，并解釋各回歸系數(shù)的含義

用Excel進行回歸

第43頁/共55頁步驟二：回歸方程的擬合優(yōu)度多重判定系數(shù)估計標準誤差第44頁/共55頁多重判定系數(shù)回歸平方和占總平方和的比例計算公式為因變量取值的變差中，能被估計的多元回歸方程所解釋的比例第45頁/共55頁修正的多重判定系數(shù)用樣本容量n和自變量的個數(shù)p去修正R2得到計算公式為避免增加自變量而高估R2意義與R2類似數(shù)值小于R2Excel輸出結果的分析第46頁/共55頁估計標準誤差Se對誤差項的標準差的一個估計值衡量多元回歸方的程擬合優(yōu)度計算公式為Excel輸出結果的分析第47頁/共55頁顯著性檢驗線性關系檢驗回歸系數(shù)檢驗第48頁/共55頁線性關系檢驗提出假設H0：12p=0線性關系不顯著H1：1，2，，p至少有一個不等于02.計算檢驗統(tǒng)計量F3.確定顯著性水平和分子自由度p、分母自由度n-p-1找出臨界值F