4.2多元線性回歸模型被解釋變量y與多個(gè)解釋變量x有關(guān)的線性回歸問(wèn)題，即多元線性回歸模型。本節(jié)主要內(nèi)容包括多元線性回歸模型及其基本假設(shè)，回歸模型未知參數(shù)的估計(jì)及其性質(zhì)，回歸方程及回歸系數(shù)的顯著性檢驗(yàn)等。Page:1

2026/1/7授課內(nèi)容1

授課內(nèi)容

第四章：線性回歸分析4.2

多元線性回歸1、回歸模型的數(shù)學(xué)形式設(shè)隨機(jī)變量y與一般變量x?,x?,…,xm

的線性回歸模型為y=β?+βx+β?x?+…+βmxm+8(4.2-1)式中，Po,

P?…

βm是m+1個(gè)未知參數(shù)，β1

….

βm稱(chēng)為回歸系數(shù)。

y

稱(chēng)為被解釋變量(因

變

量

)

,

而x?,x?,…,xm

是m

個(gè)可以精確測(cè)量并可控制的一般變量，稱(chēng)為解釋變量(自變量)。m=1時(shí)，式(4.2-1)即為一元線性回歸模型，

m≥2時(shí)，就稱(chēng)式(4.2-1)為多元線性回歸模型，ε是隨機(jī)誤差。授課內(nèi)容1

授課內(nèi)

容

第四章：線性回歸分析Page:2

2026/1/74

.2多元線性回歸1、回歸模型的數(shù)學(xué)形式設(shè)隨機(jī)變量y與一般變量x?,x?,…,xm

的線性回歸模型為y=β?+βx?+β?x?+…+βmxm+8

(4.2-1)式中，β?

,…,

βm稱(chēng)為回歸系數(shù)，ε是隨機(jī)誤差，與一元線性回歸一樣，對(duì)隨機(jī)誤差項(xiàng)常假定(4.2-2)在式(4.2-1)和式(4.2-2)基礎(chǔ)上，理論回歸方程可以寫(xiě)成式(4.2-3)的形式：E(y)=β?+βx?+β?x?+…+βmxm(4.2-3)Page:3

2026/1/7授課內(nèi)容1

授課內(nèi)容

第四章：線性回歸分析4.2

多元線性回歸1、回歸模型的數(shù)學(xué)形式對(duì)一個(gè)實(shí)際問(wèn)題，如果獲得n組觀測(cè)數(shù)據(jù)

(x;1,xi?

·…,Xim;y;),i=1,2,…,n,

則線性回歸模型可表示為(4.2-4)式(4.2-4)寫(xiě)成矩陣形式為

y=Xβ+ε

(4.2-5)授課內(nèi)容1

授課內(nèi)

容

第四章：線性回歸分析4.2

多元線性回歸2、基本假定為了便于進(jìn)行模型的參數(shù)估計(jì)，對(duì)回歸方程(4.2-4)做如下一些基本假定：(1)

解釋變量x?,x?…,xm是確定性變量，不是隨機(jī)變量，且要求rank(X)=m+1<n。這里的rank(X)=m+1<n,表明設(shè)計(jì)矩陣X中的自變量列之間不相關(guān)，樣本容量的個(gè)數(shù)應(yīng)大于解釋變量的個(gè)數(shù)，X是滿秩矩陣。(2)隨機(jī)誤差項(xiàng)具有0均值和等方差，即(3)正態(tài)分布的假定條件為授課內(nèi)容1

授課內(nèi)容

第四章：線性回歸分析Page:52026/1/74.2

多元線性回歸3、回歸參數(shù)的估計(jì)多元線性回歸方程未知參數(shù)β?、β

?、β

?

、…、βm的估計(jì)與一元線性回歸方程的參數(shù)估計(jì)原理一樣，仍然采用最小二乘法估計(jì)。對(duì)于式(4.2-5)矩陣形式表示的回歸模型授課內(nèi)容1

授課內(nèi)容

第四章：線性回歸分析依照式(4.2-12)求出的戶

、B

、β?、…

、P就稱(chēng)為回歸參數(shù)

βo

、β

、B?

·

…

、βm的

最小二乘估計(jì)。y=Xβ+ε,就是尋找參數(shù)βo

、β?

、β?

、.

…

、βm的

估

計(jì)

值β(β

尖

)

、差平方和達(dá)極小值，即尋找β、、

…

.

、

滿足：(4.2-12)4.2

多元線性回歸3、回歸參數(shù)的估計(jì)根據(jù)微積分中求極值的原理，β、、β

、

…

、

應(yīng)滿足下列方程組：授課內(nèi)容1

授課內(nèi)容

第四章：線性回歸分析

(4.2-13)2026/1/74.2

多元線性回歸3、回歸參數(shù)的估計(jì)以上方程組經(jīng)整理后，得出用矩陣形式表示的方程組XT(y-Xβ=0

(4.2-14)移項(xiàng)得XTXβ=Xy,

當(dāng)

(XTX)-1

存在時(shí)，即得回歸參數(shù)的最小二乘估計(jì)為β=(XTX)?1xTy

(4.2-15)式(4.2-16)稱(chēng)為經(jīng)驗(yàn)回歸方程。多元回歸的計(jì)算量要比一元回歸大得多，手工計(jì)算難度非常大，費(fèi)時(shí)費(fèi)力，難以保證結(jié)果的準(zhǔn)確性，建議用SPSS或MATLAB軟件完成計(jì)算。授課內(nèi)容1

授課內(nèi)容

第四章：線性回歸分析(4.2-16)編號(hào)庫(kù)

水

位

(

m沉

陷

量(

mm

)編

號(hào))

庫(kù)

水

位

(

m沉

陷

量

(

m

m)1102.714-1.967135.046-5.46295.154-1.888140.373-5.693114.364-3.969144.958-3.944120.170-3.3110141.011-5.825126.630-4.9411130.308-4.186129.393-5.6912121.234-2.90授課內(nèi)容1

授課內(nèi)容

第四章：線性回歸分析表4.3-1為我國(guó)某水壩的庫(kù)水位與大壩沉降量的觀測(cè)數(shù)據(jù)，試采用回歸分析方法對(duì)大壩的變形值進(jìn)行預(yù)測(cè)。4

.3土木工程中的應(yīng)用案例表4.3-1大壩的水位與沉降量數(shù)據(jù)由于提取的數(shù)據(jù)包含有其它各方面的影響因素，綜合考慮其它因素的影響，由圖1可知,

沉

陷

量y和水庫(kù)水位x成線性相關(guān)關(guān)系，因此

,

可

以

設(shè)x與y為一元回歸線性模型，其具體表達(dá)式為：y=?+βx+8

,

式中

βo

、ε為常數(shù)項(xiàng)，β?為變量的系數(shù)。4.3土木工程中的應(yīng)用案例設(shè)水庫(kù)水位為x,沉陷量y,將以上數(shù)據(jù)輸入MATLAB中進(jìn)行分析，利用matlab軟件可以得到y(tǒng)關(guān)于x的散點(diǎn)圖如圖3.3-1所示。沉

降

量

/

m

m-2.0-2.5-3.0-3.5-4.0--4.5-5.0-5.5--6.0+90100

110120

130水庫(kù)水位/m140

150授課內(nèi)容1

授課內(nèi)容

第四章：線性回歸分析圖4.3-1水壩沉降量與水庫(kù)水位的散點(diǎn)圖-1.5┐4.3土木工程中的應(yīng)用案例在matlab中輸入編碼如下：x=[102.71495.154114.364120.170126.630129.393

135.046140.373

144.958141.011];y=[-1.96-1.88-3.96-3.31-4.94-5.69-5.46-5.69-3.94-5.82];X=sum(x)/10;Y=sum(y)/10;A=ones(1,10)*X;B=ones(1,10)*Y;授課內(nèi)容1

授課內(nèi)容

第四章：線性回歸分析Sx=x-A;Sy=y-B;Sxx=sum(Sx.*Sx);Sxy=sum(Sx.*Sy);P1=-0.0749PO=Y-X*P1PO=5.0967Pl=Sxy/Sxx;PO=Y-X*P1;結(jié)果輸出：P1=Sxy/Sxxy=5.0967-0.0749x故回歸模型為4

.

3土木工程中的應(yīng)用案例模型參數(shù)的顯著性檢驗(yàn)在matlab中輸入以下的編碼：X=[ones(10,1),x'];[b,bint,r,rint,s]=regress(y',X);上式中，b表示回歸方程系數(shù)估計(jì)值；

bint返回系數(shù)估計(jì)值的95%置信區(qū)間矩陣；r表

示由殘差組成的向量；rint

表示返回矩陣rint,

其中包含可用于診斷離群值的區(qū)間；

s也是返回值，包含R2統(tǒng)計(jì)量、F(檢驗(yàn))統(tǒng)計(jì)量及其p值及誤差方差S2(S2=sum(r2)/8

)的估計(jì)值。有必要指出，

p值(相關(guān)參考資料可以查算法)去匹配顯著性水平α(一般小于等于0.05)。p如果小于選定的a,那么就是顯著的有意義的。授課內(nèi)容1

授課內(nèi)容

第四章：線性回歸分析b=5.0967-0.0749bint=0.0046

10.1887-0.1153-0.0345參數(shù)b1=5.0967、b2=-0.0749均在其置信區(qū)間[0.0046,10.1887],

[-0.1153,-0.0345]內(nèi)

,所以模型參數(shù)滿足要求。S=0.6954

18.2659

0.00270.7795由這些數(shù)據(jù)可知：R2=0.6954,F=18.2659,p=0.0027,S2=0.7795;此處p=0.0027<0.05,

基本符合要求，說(shuō)明模型有效；授課內(nèi)容在matlab中輸入以下的編碼：X=[ones(10,1),x'];[b,bint,r,rint,s]=regress(y',X);4.3土木工程中的應(yīng)用案例結(jié)果輸出：1

授課內(nèi)容

第四章：

將圖4.3-2中的第9組數(shù)據(jù)剔除，取1到8組和10、11組數(shù)據(jù)重新計(jì)算得到以下模型和數(shù)據(jù)：y=7.0218-0.0916x?bint

=3.6458

10.3979-0.1187

-0.0644模型參數(shù)滿足要求；S

=0.8833

60.5277

0.0001

0.2973R2=0.8833,F=60.5277,p=0.0001,S2=0.2973;此處，p=0.0001<0.05,

滿足要求，模型有效；4.3土木工程中的應(yīng)用案例模型參數(shù)的顯著性檢驗(yàn)同時(shí)，在matlab中輸入編碼rcoplot(r,rint)

得到模型的殘差分布如圖3.3-2所示，由

圖3.3-2知第九組數(shù)據(jù)存在問(wèn)題。授課內(nèi)容1

授課內(nèi)容

第四章：線性回歸分析圖4.3-2初始?xì)埐罘植紙DCase

NumberResidual4.3土木工程中的應(yīng)用案例模型參數(shù)的顯著性檢驗(yàn)去除異常點(diǎn)的殘差分布如圖4.3-3所示，由圖4.3-3可知，此時(shí)殘差圖顯示所有數(shù)

據(jù)都滿足要求，模型比剔除異常點(diǎn)前的模型更好；由于將最后一組數(shù)據(jù)帶入發(fā)現(xiàn)結(jié)

果差別較大，因此最后一組數(shù)據(jù)應(yīng)該也屬于異常點(diǎn)。授課內(nèi)容水庫(kù)水位/m圖4.3-3去除異常點(diǎn)的殘差分布圖

圖4.3-4無(wú)異常點(diǎn)的沉降量與水庫(kù)水位的關(guān)系圖1

授課內(nèi)容

第四章：線性回歸分析-2.0

-2.5

-3.0

-3.5-

-4.0

-4.5

-5.0

-5.5

-6.0

-6.590沉

降

量

/m

mCaseNumberResidual140100-2.0

O