第五節(jié)特征函數(shù)與母函數(shù)隨機(jī)變量的特征函數(shù)

隨機(jī)變量X的特征函數(shù)定義為式中fX(x)是X的概率密度。

定義:設(shè)

X

是一隨機(jī)變量，稱(t)=E(eitX)

為X的特征函數(shù).(必定存在)注意：是虛數(shù)單位.(1)當(dāng)X為離散隨機(jī)變量時(shí)，(2)當(dāng)X為連續(xù)隨機(jī)變量時(shí)，特征函數(shù)是概率密度函數(shù)p(x)的傅里葉變換1

|(t)|(0)=12

3

隨機(jī)變量X的n階矩存在，則X的特征函數(shù)可以微分n次，滿足：4若CX(t)是隨機(jī)變量X的特征函數(shù)，則Y=CX（C為常數(shù)）的特征函數(shù)為CY(t)=CX(Ct)5若Y=aX+b

（a,b均為常數(shù)），則

CY(t)=ejbt

CX(at)特征函數(shù)性質(zhì)(4)是非負(fù)定函數(shù)，對(duì)任意正整數(shù)n及任意實(shí)數(shù)t1，t2和任意復(fù)數(shù)z1，z2，….zn滿足：(5)若X1，X2，…Xn是相互獨(dú)立的隨機(jī)變量，則X=X1+X2+…+Xn的特征函數(shù)滿足：(6)隨機(jī)變量的特征函數(shù)由其特征函數(shù)唯一確定常見分布函數(shù)的特征函數(shù)

由傅立葉變換的定義可知，隨機(jī)變量X的特征函數(shù)(t)是概率密度函數(shù)f(x)的傅立葉變換對(duì)偶。因此，當(dāng)已知特征函數(shù)時(shí)，可運(yùn)用傅立葉反變換求概率密度，即這樣，先確定特征函數(shù)，再通過傅立葉反變換求概率密度往往比直接求概率密度來得較簡(jiǎn)便。

同樣，二維隨機(jī)變量(X1,X2)的特征函數(shù)定義為二維聯(lián)合概率密度由反變換求得，即特征函數(shù)與矩的關(guān)系

將特征函數(shù)(t)對(duì)t進(jìn)行一次微分，則有令t=0，則有同樣將特征函數(shù)

X(t)對(duì)t進(jìn)行k次微分，則有由此得如果將

X(t)展成泰勒級(jí)數(shù)，可得

母函數(shù)定義設(shè)X是非負(fù)整數(shù)值的隨機(jī)變量，分布滿足：稱為X的母函數(shù)母函數(shù)性質(zhì)(1)是非負(fù)整數(shù)值的隨機(jī)變量的分布列由母函數(shù)唯一確定(2)P(s)是X的母函數(shù)，若EX存在，則EX=P’(1)

若DX存在，則DX=P’’(1)+P’(1)-[P’(1)]26條件期望1.離散型隨機(jī)變量的條件數(shù)學(xué)期望對(duì)于條件分布函數(shù)，若：

則稱：為X=x條件下Y的條件數(shù)學(xué)期望。同理稱：為Y=y條件下X的條件數(shù)學(xué)期望。2.連續(xù)型隨機(jī)變量的條件數(shù)學(xué)期望例1：隨機(jī)變量X、Y的取值為1,2，…，n，其概率分布為：求E(Y|i)，E(X|j)。解：首先求出條件分布律為：

那么：例2：設(shè)二維正態(tài)分布服從N(0,1;0,1;r),試求f(y|x),f(x|y),

E(Y|x),E(X|y)。解：已知同理可得：而：同理可得：從此例可以看出，E(Y|x)，E(X|y)分別是x和y的函數(shù)。練習(xí)四、小結(jié)

在這一節(jié)中我們學(xué)習(xí)了隨機(jī)變量的原點(diǎn)矩和中心矩以及協(xié)方差矩陣.

一般地,維隨機(jī)變量的分布是不知道的,或者太復(fù)雜,以至于在數(shù)學(xué)上不易處理,因此在實(shí)際中協(xié)方差矩陣就顯得重要了.7中心極限定理

中心極限定理的客觀背景

在實(shí)際問題中許多隨機(jī)變量是由相互獨(dú)立隨機(jī)因素的綜合（或和)影響所形成的.例如：炮彈射擊的落點(diǎn)與目標(biāo)的偏差，就受著許多隨機(jī)因素（如瞄準(zhǔn)，空氣阻力，炮彈或炮身結(jié)構(gòu)等）綜合影響的.每個(gè)隨機(jī)因素的對(duì)彈著點(diǎn)（隨機(jī)變量和）所起的作用都是很小的.那么彈著點(diǎn)服從怎樣分布哪？

如果一個(gè)隨機(jī)變量是由大量相互獨(dú)立的隨機(jī)因素的綜合影響所造成，而每一個(gè)別因素對(duì)這種綜合影響中所起的作用不大.則這種隨機(jī)變量一般都服從或近似服從正態(tài)分布.

自從高斯指出測(cè)量誤差服從正態(tài)分布之后，人們發(fā)現(xiàn)，正態(tài)分布在自然界中極為常見.

現(xiàn)在我們就來研究獨(dú)立隨機(jī)變量之和所特有的規(guī)律性問題.

由于無窮個(gè)隨機(jī)變量之和可能趨于∞，故我們不研究n個(gè)隨機(jī)變量之和本身而考慮它的標(biāo)準(zhǔn)化的隨機(jī)變量.

在概率論中，習(xí)慣于把和的分布收斂于正態(tài)分布這一類定理都叫做中心極限定理.一、中心極限定理定理1（獨(dú)立同分布下的中心極限定理）注3、雖然在一般情況下，我們很難求出

的分布的確切形式，但當(dāng)n很大時(shí)，可以求出近似分布.例1根據(jù)以往經(jīng)驗(yàn)，某種電器元件的壽命服從均值為100小時(shí)的指數(shù)分布.現(xiàn)隨機(jī)地取16只，設(shè)它們的壽命是相互獨(dú)立的.求這16只元件的壽命的總和大于1920小時(shí)的概率.由題給條件知，諸Xi獨(dú)立，16只元件的壽命的總和為且E(Xi)=100,D(Xi)=10000依題意，所求為P(Y>1920)設(shè)第i只元件的壽命為Xi,i=1,2,…,16例1解答：E(Y)=1600,D(Y)=160000由中心極限定理,近似N(0,1)P(Y>1920)=1-P(Y1920)=1-(0.8)1-=1-0.7881=0.2119第6章

隨機(jī)過程1、隨機(jī)過程的概念2、隨機(jī)過程的數(shù)字特征3、復(fù)隨機(jī)過程4、重要的隨機(jī)過程理解隨機(jī)過程的基本概念，知道樣本函數(shù)、狀態(tài)空間的定義；了解隨機(jī)過程一維分布函數(shù)、分布密度的定義，知道推廣到n維的情形；掌握隨機(jī)過程的數(shù)字特征：均值函數(shù)、方差函數(shù)、自相關(guān)函數(shù)、自協(xié)方差函數(shù)、互相關(guān)函數(shù)、互協(xié)方差函數(shù)。熟練掌握均值函數(shù)和相關(guān)函數(shù)的求法；了解二階矩過程、正交增量過程、馬爾可夫過程、獨(dú)立增量過程、平穩(wěn)增量過程、正態(tài)隨機(jī)過程、泊松過程、維納過程、平穩(wěn)過程的定義及性質(zhì)；知道兩隨機(jī)過程互不相關(guān)和相互正交的概念。1概率空間首先，回顧初等概率論的一些基本概念：

在相同條件下可重復(fù)進(jìn)行；一次試驗(yàn)結(jié)果的隨機(jī)性——不可預(yù)知性；全體可能結(jié)果的可知性。

隨機(jī)試驗(yàn)，滿足如下條件：樣本空間——隨機(jī)試驗(yàn)所有可能出現(xiàn)的結(jié)果組成的集合。樣本點(diǎn)——中的元素。隨機(jī)事件——樣本空間的子集合，稱為事件?；臼录忻總€(gè)樣本點(diǎn)所構(gòu)成的單點(diǎn)集。必然事件——本身。不可能事件——不包含任何元素的空集合。一、集合代數(shù)和-代數(shù)定義1設(shè)是任一非空集合，F(xiàn)是由的一些子集組成的非空集合類，若F滿足：

∈

F；若A，B∈F

，有A∪B∈F

（有限并運(yùn)算封閉）；則稱F是上的一個(gè)集合代數(shù)，簡(jiǎn)稱集代數(shù)。若A∈F

，有A∈F

（余運(yùn)算封閉）；定義2

設(shè)是任一非空集合，F(xiàn)是由的一些子集組成的非空集合類，若F滿足：

A若A∈F

，有A∈F

（余運(yùn)算封閉）；則稱A是上的一個(gè)-代數(shù)。定理3

設(shè)A是-代數(shù)，則：-代數(shù)A一定是集代數(shù)；若A

，有A（可列交運(yùn)算封閉）若A

，有A（可列并運(yùn)算封閉）（歸一性）概率的定義——若對(duì)的每一個(gè)事件A，有一個(gè)實(shí)數(shù)與之對(duì)應(yīng)，記為P(A)，且滿足：（非負(fù)性）（可列可加性）

稱P是(

,F)上的概率，(

,F，P

)是概率空間，P(A)是事件A的概率。隨機(jī)過程的定義例1考察進(jìn)入某商店的顧客數(shù)。用ξ表示單位時(shí)間內(nèi)（如每天）進(jìn)入商店的顧客數(shù)，則ξ~П(λ),

λ表示顧客的到達(dá)率。研究n個(gè)時(shí)間段進(jìn)入商店的顧客數(shù)，則需要用一個(gè)n維的隨機(jī)向量來刻畫。

研究隨著t的不斷變化，在(0，t]內(nèi)進(jìn)入商店的顧客數(shù)，則需要用一族隨機(jī)變量ξ(t)來研究。對(duì)每一個(gè)固定的t,ξ(t)是一個(gè)隨機(jī)變量。

假設(shè)目標(biāo)是活動(dòng)的，則某一時(shí)刻測(cè)量到該目標(biāo)的距離是隨機(jī)變化的，可以用一個(gè)隨機(jī)變量ξ來研究，一次測(cè)量的結(jié)果是一個(gè)非負(fù)實(shí)數(shù)。在指定的n個(gè)時(shí)刻測(cè)量到該目標(biāo)的距離可以用一個(gè)n維隨機(jī)變量

來刻畫，一次測(cè)量的結(jié)果是一個(gè)分量為非負(fù)實(shí)數(shù)的n維向量(x1,x2,...,xn)。如果對(duì)該目標(biāo)在整個(gè)運(yùn)動(dòng)過程進(jìn)行跟蹤測(cè)量，測(cè)量的結(jié)果就需要用一族隨機(jī)變量ξ(t)來研究,一次測(cè)量的結(jié)果是自變量為t的取非負(fù)實(shí)數(shù)的函數(shù)x(t)。例2考察測(cè)量到某一目標(biāo)的距離。隨機(jī)過程的基本概念

定義7.1.設(shè)(,F,P)為一概率空間，TR(1)，如果對(duì)任一tT，有一定義在(,F

,P)上的隨機(jī)變量(,t)與之對(duì)應(yīng)，則稱{(,t),tT}為一隨機(jī)過程，簡(jiǎn)記為{(t),tT}。狀態(tài)空間：定義中的T是時(shí)間、長(zhǎng)度、重量等物理量的集合，以后我們不妨將它看作時(shí)間區(qū)間。固定tT，把隨機(jī)過程所取的值稱為在時(shí)刻t的狀態(tài)，并將所有可能的狀態(tài)構(gòu)成的集合稱為狀態(tài)空間，用E來表示。樣本函數(shù)：(,t)是一個(gè)二元函數(shù)，當(dāng)取定時(shí)，它是自變量為t，且定義域?yàn)門的函數(shù)，稱為該隨機(jī)過程的樣本函數(shù)。例3

隨機(jī)相位正弦過程

,tR,θ服從上的均勻分布，A和ω是常數(shù)。則它的狀態(tài)空間是[-A,A]；對(duì)任意θi，

是樣本函數(shù)。例4設(shè)g(t)是周期為T，幅度為A的矩形波,η是服從兩點(diǎn)分布的隨機(jī)變量，則ξ=g(t)η

,t>0是一隨機(jī)過程，g(t)和-g(t)均是它的樣本函數(shù)。例5拋擲一枚硬幣的試驗(yàn)，樣本空間是S={H,T},出現(xiàn)H和T的概率均為0.5，定義：-101234-2-10123tx(t)

當(dāng)t固定時(shí)，X(t)是一個(gè)隨機(jī)變量，當(dāng)樣本點(diǎn)固定時(shí)，得到兩個(gè)樣本函數(shù){cosπt,t}。狀態(tài)空間為R.注意：隨機(jī)過程的有限維分布函數(shù)族

對(duì)于一維和多維隨機(jī)變量，利用它們的分布函數(shù)可以完全刻畫它們的統(tǒng)計(jì)特性，對(duì)于隨機(jī)過程，同樣借助于分布函數(shù)來研究其統(tǒng)計(jì)規(guī)律。設(shè){(,t),tT}為一隨機(jī)過程，取定t

T和x

R,定義為隨機(jī)過程(t)的一維分布函數(shù)，稱{F(t;x),tT}為隨機(jī)過程(t)的一維分布函數(shù)族。定義7.2:設(shè){(t),tT}為一隨機(jī)過程，對(duì)任意正整數(shù)n及任意ti∈T，xi∈R(i=1,2,...,n)，稱分布函數(shù)

的全體為隨機(jī)過程(t)的有限維分布函數(shù)族。

概率密度：隨機(jī)過程的有限維分布函數(shù)族具有下列性質(zhì)：（1）對(duì)稱性（2）相容性對(duì)n>m，有：Kolmogorov存在定理

設(shè)已給參數(shù)集T及滿足對(duì)稱性和相容性條件的分布函數(shù)族F，則必存在概率空間(,F,P)及定義在其上的隨機(jī)過程{X(t),t

T},它的有限維分布函數(shù)族是F.二維隨機(jī)過程

定義7.3

設(shè)(,F,P)為一概率空間，T為一參數(shù)集,TR(1)

，若{(,t),tT}和{η(,t),tT}是定義在(,F,P)上的隨機(jī)過程，則稱{(,t),η(,t),tT}為定義在(,F,P)上的二維隨機(jī)過程。二維隨機(jī)過程的有限維分布函數(shù)3隨機(jī)過程的數(shù)字特征定義7.4:設(shè)隨機(jī)過程的一維分布函數(shù)為，我們稱

分別為隨機(jī)過程的均值函數(shù)和方差函數(shù)。對(duì)離散型的隨機(jī)過程，其均值函數(shù)和方差函數(shù)分別為：

其中：對(duì)連續(xù)型的隨機(jī)過程，其均值函數(shù)和方差函數(shù)分別為：均值函數(shù)和方差函數(shù)刻畫了隨機(jī)過程在不同時(shí)刻的統(tǒng)計(jì)特性，均值函數(shù)表示{}在各個(gè)不同時(shí)刻取值的擺動(dòng)中心。方差函數(shù)表示{}在各個(gè)不同時(shí)刻取值的關(guān)于的平均偏離程度。但不能描述在不同時(shí)刻之間的相互關(guān)系，因此我們必須引入自相關(guān)函數(shù)和自協(xié)方差函數(shù)概念。定義7.5設(shè)隨機(jī)過程的二維分布函數(shù)為，我們稱其自相關(guān)函數(shù)和自協(xié)方差函數(shù)分別為：

其中：若令：由此可以看出：均值函數(shù)和相關(guān)函數(shù)是最基本的數(shù)字特征，協(xié)方差函數(shù)和方差函數(shù)可以由它們確定。在隨機(jī)過程理論中，僅研究均值函數(shù)和相關(guān)函數(shù)的理論稱為相關(guān)理論。

一般地，相關(guān)函數(shù)和協(xié)方差函數(shù)均與時(shí)間有關(guān)。若令以上兩式說明不僅與時(shí)間間隔有關(guān)，且與起點(diǎn)有關(guān),當(dāng)和僅與有關(guān)而與無關(guān)時(shí)，且稱這類隨機(jī)過程為寬平穩(wěn)過程，簡(jiǎn)稱為平穩(wěn)過程。例1設(shè)是周期為的矩形波，隨機(jī)變量服從兩點(diǎn)分布

令，，則：是具有隨機(jī)振幅，周期為的矩形波過程，求的數(shù)字特征。

解：

例2

已知隨機(jī)相位正弦波，其中，為在上服從均勻分布的隨機(jī)變量。求隨機(jī)過程的、。解：

由在上服從均勻分布得：則：

在實(shí)際問題中，除考慮一個(gè)隨機(jī)過程在不同時(shí)刻的性質(zhì)外，還須考慮兩個(gè)不同的隨機(jī)過程之間的關(guān)系。例如，通信系統(tǒng)中信號(hào)過程與干擾過程之間的關(guān)系，此時(shí)，我們必須引入互協(xié)方差函數(shù)和互相關(guān)函數(shù)來描述它們之間的關(guān)系。定義7.6設(shè)隨機(jī)過程，是兩個(gè)隨機(jī)過程，則稱其互相關(guān)函數(shù)和互協(xié)方差函數(shù)分別為：，

且

相互正交特別地，對(duì)任意的，有，則稱隨機(jī)過程互不相關(guān)；若，則稱隨機(jī)過程例3設(shè)有兩個(gè)隨機(jī)過程和，其中和都是周期為L(zhǎng)的周期方波，ε是在上服從均勻分布的隨機(jī)變量，求互相關(guān)函數(shù)的表達(dá)式。

令，利用和的周期性，則：

例2:考慮隨機(jī)過程X(t)=acos(ωt+Θ),t(-∞,+∞)

其中a和ω是常數(shù)，Θ是在（0，2π）上服從均勻分布的

隨機(jī)變量，通常稱此隨機(jī)過程為隨機(jī)相位正弦波，求隨機(jī)

相位正弦波的均值函數(shù)，方差函數(shù)和自相關(guān)函數(shù).

解:Θ的概率密度為于是例3:設(shè)隨機(jī)過程X(t)=Y+Zt,tT=(-∞,+∞),其中Y，Z是相互獨(dú)立的服從N(0,1)的隨機(jī)變量，求{X(t),-∞<t<+∞}的一，二維概率密度。解:tT，由正態(tài)分布的性質(zhì)知X(t)服從正態(tài)分布:

E[X(t)]=E(Y)+tE(Z)=0,

D[X(t)]=D(Y)+t2

=1+t2

所以一維概率密度為

又由正態(tài)分布的性質(zhì)知，對(duì)于任意

s,t∈T，

(X(s),X(t))服從二維正態(tài)分布而

E[X(s)]=E[X(t)]=0；D[X(s)]=1+s2,D[X(t)]=1+t2

所以二維概率密度為

其中=x(t1,t2).4復(fù)隨機(jī)過程定義:設(shè)隨機(jī)過程，是取實(shí)數(shù)值的兩個(gè)隨機(jī)過程，若對(duì)，則稱為復(fù)隨機(jī)過程。定義:當(dāng)和為實(shí)隨機(jī)過程時(shí)，則的均值函數(shù)、方差函數(shù)、相關(guān)函數(shù)和協(xié)方差函數(shù)的定義如下：定理1:復(fù)隨機(jī)過程的協(xié)方差函數(shù)具有如下性質(zhì)：(1)對(duì)稱性：

(2)非負(fù)定性：對(duì)任意的及復(fù)數(shù)，有：證明(1)

證明(2)

4.1二階矩過程定義1:設(shè)隨機(jī)過程，若對(duì)，的均值和方差均存在，則稱為一個(gè)二階矩過程。

定理4.1:二階矩過程的協(xié)方差函數(shù)存在。證明：由條件知：存在。由Schvarz不等式：

即：存在。則：存在。定理4.2設(shè)是二階矩過程的相關(guān)函數(shù)，則對(duì)，

。證明：

若是實(shí)二階矩過程，則：。定理7.3二階矩過程的相關(guān)函數(shù)具有非負(fù)定性，即，復(fù)數(shù)，為任意正整數(shù)，有。證明：

注意：相關(guān)函數(shù)的非負(fù)定性才是二階矩過程的本質(zhì)特性。

4.2正交增量過程定義2:設(shè)是二階矩過程，若對(duì)有：，則稱為正交增量過程。對(duì)于零均值正交增量過程，假設(shè)，且，下面考慮的協(xié)方差函數(shù)。取，，則：，即。則：

，，（同理，取

有：

則：

4.3獨(dú)立增量過程定義1:若對(duì)任意的正整數(shù)n和，隨機(jī)變量，，…

，是相互獨(dú)立的，則稱為獨(dú)立增量過程。后面要介紹的泊松過程是獨(dú)立增量過程。

零均值條件下獨(dú)立增量過程與正交增量過程的關(guān)系

由獨(dú)立增量過程的定義知：獨(dú)立，

，，

于是：

由于還是零均值的，則

則為正交增量過程。即零均值的獨(dú)立增量過程為正交增量過程。4.4平穩(wěn)增量過程

定義1:若對(duì)任意的，，隨機(jī)變量，服從相同的概率分布，則稱是具有平穩(wěn)增量的隨機(jī)過程。的分布僅與有關(guān)，與起點(diǎn)無關(guān)，這種性質(zhì)稱為時(shí)齊性，或齊次性。，

4.5維納過程[布朗運(yùn)動(dòng)]維納過程是布朗運(yùn)動(dòng)的數(shù)學(xué)模型.英國(guó)植物學(xué)家布朗在顯微鏡下,觀察漂浮在平靜的液面上的微小粒子,發(fā)現(xiàn)它們不斷地進(jìn)行著雜亂無章的運(yùn)動(dòng),這種現(xiàn)象后來稱為布朗運(yùn)動(dòng).以W(t)表示運(yùn)動(dòng)中一微粒從時(shí)刻t=0到時(shí)刻t>0的位移的橫坐標(biāo)(同樣也可以討論縱坐標(biāo))且設(shè)W(0)=0.根據(jù)愛因斯坦1905年提出的理論,微粒的這種運(yùn)動(dòng)是由于受到大量隨機(jī)的,相互獨(dú)立的分子碰撞的結(jié)果.于是,粒子在時(shí)段(s,t](與相繼兩次碰撞的時(shí)間間隔相比是很大的量)上的