腦電信號的同步分析中排序互信息方法概述目錄TOC\o"1-3"\h\u25843腦電信號的同步分析中排序互信息方法概述 1113321.1排序熵 141171.1.1排序熵原理 1176031.1.2排序熵算法流程圖 376831.2排序遞歸圖 495591.3互信息 7110881.4排序互信息 10學(xué)者Bandt和Pompe提出了一種新方法[8]，那就是基于排序模式進行時間序列的分析，將m維相空間等分為m!個排序區(qū)域，然后對時間序列狀態(tài)變量的分布進行統(tǒng)計分析。排序熵排序熵原理排序熵（PE）是由學(xué)者Bandt和Pompe在美國《Physical

Review

Letters》上提出了的分析方法，用于分析時間序列的不確定性測度，且同時適合一種量化信號的復(fù)雜度特征的方法，能夠有效地反映隱含在信號中的非線性動力學(xué)信息[9]。與其他衡量復(fù)雜度的算法相比，它是針對時間序列本身所具有的空間特性而提出的。該方法有著以下幾點優(yōu)點：一是計算簡單，且有較強的抗噪聲能力；二是算對時間的敏感性強，分辨性強；三是算法輸出結(jié)果直觀，計算速度快[10]。以下為排序熵計算算法原理：對給定的離散時間序列長度為N的一組時間序列X進行相空間重構(gòu)[11]，可以得到矩陣Y為 (2-1)其中，m為嵌入維數(shù)，t為延遲時間，K=N-(m-1)t。矩陣Y中每一行都是一個重構(gòu)分量，一共有K個重構(gòu)分量。將每個重構(gòu)分量按升序重新排列，并將向量中每個元素位置的列索引構(gòu)成一組符號序列(2-2)則m維相空間映射總共有m!種不同的符號序列。計算每一種符號序列出現(xiàn)的次數(shù)，將其除以m!種不同的符號序列出現(xiàn)的總次數(shù)，即為該重構(gòu)分量的概率。(2-3)針對所構(gòu)建的K行m列矩陣，如果取出某一行進行排序，可以獲得排序后的序列。因為矩陣中的任一行的列數(shù)為m，m個數(shù)進行全排列，排列后的種類應(yīng)為m！種。針對矩陣的第一行，對其進行排序，這個序列肯定是m！種的1種。如果矩陣的所有行之間排序的索引均不相同，按上述總次數(shù)的理解，每行的概率應(yīng)均為1/(m!)。但是事實并不是這樣的，那是因為分母不是m！，而是“出現(xiàn)的總次數(shù)”，未出現(xiàn)的種類不計算在內(nèi)。假設(shè)矩陣的所有行之間排序的索引均不相同，K行矩陣就會出現(xiàn)K種排序。總的次數(shù)就是K個1相加。由于索引均不相同，其頻數(shù)均為1，則每行的概率應(yīng)均為1/K。那么若存在矩陣的所有行之間排序的索引相同的情況下內(nèi)，我們只需要統(tǒng)計種類。比如K行中的第1和第2行排序后，索引序列相同，那么我們將該索引序列的頻數(shù)記為2，后續(xù)第3行至第K行均不同，則頻數(shù)均分別為1。此時總的次數(shù)依然為K，但是第1種和第2種一共占有2/K。第3行至第K行均占有1/K。由于占的比重不同，最后利用比重進行求和時則有公式pe=-sum(p.*log(p))該公式中p為比重。時間序列X的排列熵的計算公式為：(2-4)排列熵的最大值為ln(d!)，將排列熵值進行歸一化處理，即：(2-5)排列熵值的大小體現(xiàn)了時間序列的隨機程度。排列熵的值越小，時間序列越規(guī)則；排列熵值越大，則時間序列越接近隨機。排列熵的變化反映并放大了時間序列的微小變化。排序熵算法流程圖排序熵算法主要分為輸入時間序列，進行重構(gòu)矩陣，分析時間序列，輸出排序熵這四個步驟，具體算法流程圖由下圖所示開始輸入t,m開始輸入t,m結(jié)束將向量生成m!*m的矩陣生成1*m！的均為零的向量歸一化處理統(tǒng)計向量中所有數(shù)所占比重利用比重進行求和所有非零項組成向量c找出相同索引值，并在向量中加1排列矩陣，獲得索引值輸出pe圖2-1排序熵算法流程圖排序遞歸圖相空間重構(gòu)是一種由時間序列恢復(fù)原來系統(tǒng)的方法。下面介紹C-C方法。(2-6)其中，N是數(shù)據(jù)集合的長度，是延遲時間，是m維嵌入后的點數(shù)。C方法研究和函數(shù)(2-7)有關(guān)。為了找到合適的延遲時間，給定一個時間序列(2-8)N為時間序列長度。t=1時，有(2-9)t=2時，將時間序列劃分為兩個子序列(2-10)更普遍時將整個序列分為t個子序列(2-11)(2-12)當(dāng)時(2-13)假設(shè)是獨立同分布，對固定m，t，當(dāng)N趨近于無窮的時候，則有對于所有r，。但是一般為有限序列，所以一般。因此可以取的零點或者最小時間t，選擇對應(yīng)值最大和最小半徑r，定義差量為：(2-14)可以得到半徑r的最大偏差?？梢哉f局部最大時間t為的零點和。但是的零點和對所有m都幾乎相等，因此延遲時間對應(yīng)了局部最大時間t中的一個。取m=2,3,4,5，，i=1,2,3,4計算(2-15)根據(jù)上面的3個公式，來選擇合適的延遲時間，再計算對應(yīng)的嵌入維數(shù)。這種方法，可以同時確定相空間重構(gòu)中的嵌入維數(shù)m和延遲時間。遞歸狀態(tài)的意思是某些狀態(tài)在特定時間會具有相似的特性，這是一個動力學(xué)系統(tǒng)中的最基本的特性。排序遞歸圖是Eckmann

等人提出的一種可以可視化相空間中遞歸狀態(tài)的工具，通過把相空間中的遞歸狀態(tài)畫在二維平面來研究任意維數(shù)的相空間系統(tǒng)。

給定一個非線性時間序列

x(i)

，重構(gòu)后的相空間中任意一點可表示為(2-16)將二維狀態(tài)空間排序模式定義為π，可得(2-17)可以得到維數(shù)m=2時，有上升和下降兩種模式。由下圖可知，當(dāng)嵌入維數(shù)為3時，共有3！=6種排序模式。πi=πi=2πi=0πi=3πi=1πi=5πi=4由下圖可知，當(dāng)嵌入維數(shù)為3時，共有3！=6種排序模式。當(dāng)i時刻和j時刻的狀態(tài)向量排序模式相同時，有，被稱為排序遞歸狀態(tài)，如下定義(2-18)可以使用2

維方陣中的黑點和白點來描述第

i

與第

j

時刻的遞歸狀態(tài)，然后可以構(gòu)成一幅排序遞歸圖，

Ri,j

=

1

時為遞歸狀態(tài)，以黑點在圖中表示。排序分類之后，m維相空間可以被等分為

m!

個區(qū)域，同理，如果將相空間中不同時刻的狀態(tài)向量都劃分到同一個排序區(qū)域里面，這些狀態(tài)向量就可以叫做排序遞歸狀態(tài)。遞歸圖可以用于觀察高維相空間中的狀態(tài)軌跡，通過觀察遞歸圖就能夠發(fā)現(xiàn)軌跡的運行狀態(tài)，它有著可以處理不平穩(wěn)的數(shù)據(jù)或數(shù)據(jù)量較少的數(shù)據(jù)的優(yōu)點，并且具有更強的抗噪聲能力?；バ畔⑿畔㈧?，又可以稱為自信息，可以用來描述時間序列隨機性的程度以及量化兩個概率分布的差異，而且信息熵可以分析信號間的相互關(guān)系。兩個隨機變量的交互信息量可以衡量一個變量攜帶另一個變量的測度，稱作互信息。以信息論理論為基礎(chǔ)，以信息的不確定性和概率密度函數(shù)給出了信息度量的方法，也就是信息熵的方法[12]。設(shè)兩個隨機變量分別為X,Y他們的概率密度函數(shù)分別為p(x)，p(y)，可以定義以下公式：(2-19)其中，H(X)為隨機變量X的熵，H(Y)為隨機變量Y的熵。如果兩個隨機變量X和Y的聯(lián)合概率密度函數(shù)為p(x,y),則可以定義以下公式：(2-20)其中，H(X,Y)為隨機變量X，Y的聯(lián)合熵。如果在Y=y的情況下，隨機變量X的的概率密度可以表示為p(x|y)，則可以定義以下公式：(2-21)其中，H(X|Y)是基于Y的X的信息熵，可以叫做條件熵，他可以表示已經(jīng)知道第二個隨機變量Y的情況下，可以定義以下公式：(2-22)相對的可以定義以下公式：(2-23)對于離散隨機變量X，有很多概率密度函數(shù)估計的方法，最簡單也最經(jīng)典的方法就是直方圖法。直方圖法將離散空間序列等分為n個區(qū)域，x1，x2,...xn，然后計算每個區(qū)域的分布密度，就可以得出變量X在各個區(qū)域的分布概率，也就是事件{X=xi}的概率：(2-24)就可以得出離散隨機變量X的概率密度函數(shù)px,然后定義離散序列的信息熵公式為：(2-25)其中，H(X)的最小值為0，對應(yīng)的是完全確定的離散序列，也就是變量X完全出現(xiàn)在一個區(qū)域里面：而H(X)的最大值是log(n),對應(yīng)的是完全隨機的離散序列，也就是變量X完全平均的分布在各個分割區(qū)域。與之類似的可以定義離散隨機變量X和Y位于n*n個區(qū)域的概率，也就是事件{X=xi,Y=yi}的概率：(2-26)

離散隨機變量X，Y的聯(lián)合概率分布密度是pxy，就可以定義離散序列的聯(lián)合熵為：(2-27)基于上述的信息熵，可以定義互信息：(2-28)互信息和熵的關(guān)系如圖2-3所示，且互信息具有以下特點：;;;當(dāng)X，Y獨立時，；當(dāng)X，Y知道一個可以推斷另一個時，。H(X|Y)H(X|Y)H(Y|X)H(X,Y)H(X)I(X,Y)H(Y)圖2-3互信息與熵的關(guān)系說明了兩個完全相互依賴的變量之間的互信息并不是一個常量,而是取決于他們的熵。當(dāng)X，Y相互獨立時，互信息值為零，反之，互信息值隨著X，Y的相關(guān)程度增長而增加。排序互信息為了解決傳統(tǒng)互信息方法對數(shù)據(jù)長度要求高，計算速度慢等缺點，研究者們開始探尋新的方法。學(xué)者Bandt和Pomoe提出了基于排序模式的時間序列分析的新方法。給定了腦電序列X與Y，將其嵌入進m維的空間當(dāng)中，可以得到兩個向量(2-29)表達式中，m是嵌入維數(shù)，是延遲時間。然后分別按照升序?qū)蓚€向量Xi和Yi進行重新排序，如果序列中有兩個有某兩個值相等，則按照對應(yīng)的j的大小進行排列。所以，在m維空間中的每一個向量都能有唯一映射到m!種排序模式的πi。下圖為腦電信號X和Y的排序模式分析圖例，如果取嵌入維數(shù)的m=3,延遲時間=1，在三維狀態(tài)向量空間一共有6種排序模式π。首先分析單通道腦電信號X的排序模式，把所有排序模式相同的向量都?xì)w為一組，然后統(tǒng)計出每一種排序模式出現(xiàn)了的次數(shù)C1,C2,...,Cm!，然后得到每一種模式出現(xiàn)的概率P(X=π1),P(X=π2),...,P(X=πm!)，可以計算如下[12]：(2-30)腦電信號X的分類概率分布定義為px，同樣，腦電信號Y的分類概率分布定義為py。在分析雙通道腦電信號時，要首先分析在向量Xk與Yk的同一時刻的排序模式πi與πj，就會有m!*m!種聯(lián)合排序模式，然后統(tǒng)計出來每一種聯(lián)合排序模式的出現(xiàn)次數(shù)Cij，得到每種聯(lián)合排序模式出現(xiàn)概率的公式：(2-31)同理可以將腦電信號X與Y的排序模式聯(lián)合概率分布定義為pxy。在信息論理論的基礎(chǔ)上，可以計算出腦電信號X，Y的排序熵以及聯(lián)合排序熵，如下表達式