第 8章 波形信道 第 8章 波形信道 本章主要內(nèi)容： 1. 離散時間連續(xù)信道 2. 加性噪聲信道與容量 3. 4. 有色高斯噪聲信道 5. 數(shù)字調(diào)制系統(tǒng)的信道容量 6. 小結(jié)和思考題 本節(jié)主要內(nèi)容： 離散時間連續(xù)信道 離散時間連續(xù)信道 時間離散連續(xù)信道 如果一個信道的輸入與輸出只定義在離散時間上，但取值是連續(xù)的，這樣的信道稱為時間離散連續(xù)信道，有時簡稱為連續(xù)信道。 這種信道可以通過對時間連續(xù)信道在離散時間進(jìn)行抽樣或者對連續(xù)信道進(jìn)行某種變換得到。 這種連續(xù)信道的輸入與輸出分別為隨機(jī)序列，而序列中符號的取值是連續(xù)的。 離散時間連續(xù)信道 （續(xù)） 如果信道是平穩(wěn)無記憶的 ， 即信道的轉(zhuǎn)移概率不隨時間而變 ， 且信道的輸出僅依賴于當(dāng)前的輸入 ， 那么離散時間信道的研究可以歸結(jié)于單符號離散時間信道研究 。 所以 ， 我們首先研究單符號信道 ， 然后研究多維矢量信道 。 時間離散連續(xù)信道模型 一般的時間離散連續(xù)信道輸入與輸出均為隨機(jī)矢量 , 設(shè)信道的輸入和輸出分別是長為的序列，輸入矢量集合為 ,集合中的矢量為 ,其中 為連續(xù)或離散隨機(jī)變量，概率密度或概率用 表示 ;輸出矢量集合為 ，集合中的矢量為 ，其中 為連續(xù)隨機(jī)變量，概率密度用 表示。信道模型表示為： 其中 為信道的轉(zhuǎn)移概率密度 。 12, , . . . ,N XX 12, , . . . , Nx x xx N, . . . ,N Y, . . . , Ny y yy N, ( | ) , y x Y)(| ) ( , , | , , )p y y x x平穩(wěn)無記憶連續(xù)信道 一般若信道的轉(zhuǎn)移概率密度滿足 (則稱為此信道為離散時間無記憶連續(xù)信道，簡稱為無記憶連續(xù)信道，其數(shù)學(xué)模型為： 如果對于任意正整數(shù) m、 n，離散無記憶信道的轉(zhuǎn)移概率密度滿足： (則稱為平穩(wěn)或恒參無記憶信道?？梢?,對于平穩(wěn)信道， 不隨時間變化。這樣，平穩(wěn)無記憶信道的模型就是 對于平穩(wěn)無記憶信道，可以用一維條件概率密度來描述，其中，信道的輸入 都是一維隨機(jī)變量集合。 1( | ) ( | )N p y x ,|(, | ) ( | )n n m mp y x p y x)|( nn , ( | ) , X p y x 時間離散連續(xù)信道模型 一般的如前所述，一般的時間離散連續(xù)信道輸入與輸出均為隨機(jī)矢量，稱為多維矢量連續(xù)信道。這種信道的輸入與輸出平均互信息也有與離散情況類似的結(jié)果。 對于 入與輸出平均互信息為 (通過與離散信道類似的推導(dǎo)，可以得到如下結(jié)論： ( ; ) ( ) ( | )N N N N NI h hX Y X X Y( ) ( | )N N Y Y X( , )( , ) l o g( ) ( )pp d y x 定理 對于離散時間無記憶連續(xù)信道，有 (僅當(dāng)信源無記憶時等式成立。 定理 對于離散時間無記憶連續(xù)信源，有 (僅當(dāng)信源無記憶時等式成立。 1( ; ) ( ; ) X Y ; ) ( ; ) X Y 離散時間連續(xù)信道的容量 一般的與離散信道一樣，信道容量是研究的主要內(nèi)容。在求離散信道容量的過程中，除輸入概率歸一化的限制之外，可以不做其他限制。 但對連續(xù)信道，若不對輸入進(jìn)行附加限制，輸入與輸出之間的平均互信息的最大值就可能會無限增大。通常這種限制就是輸入功率或峰值的限制。 因此，連續(xù)信道容量定義為，在信道輸入滿足某些約束條件下，輸入與輸出平均互信息的最大值。 1. 單符號連續(xù)信道的容量熵 在計算單符號離散時間連續(xù)信道的容量時，首先定義一個與輸入有關(guān)的非負(fù)代價函數(shù)和一個約束量，信道容量定義為： (即容量就是在滿足約束 的條件下， 的最大值。 實際上，這個有約束最大值隨的增加而增加，即約束不等式在取等號時最大值達(dá)到最大，所以在求有約束的 最大值時，將約束中的不等式取等號，即 ()(:);(m a x)( )()( )()( ;( ( (m a x)( )(),( 上式可分為兩種情況來處理： （ 1）對于 可以變動的情況，則應(yīng)改變 ，求在滿足約束條件下的極值； （ 2）對于 已經(jīng)固定的情況，則僅利用約束條件求極值，即 ()(m a x)( )( 2. 平穩(wěn)無記憶連續(xù)信道的容量 根據(jù)式 (當(dāng)信源無記憶時，有 (因此，平穩(wěn)離散時間無記憶連續(xù)信道的容量的計算可以歸結(jié)為式 ( 令 表示信號能量，則約束變?yōu)?，它表示輸入平均能量約束。 今后我們主要研究在這種約束條件下的信道容量。所以，平均能量約束離散時間平穩(wěn)無記憶信道的容量為 (除非特殊聲明，后面所研究的連續(xù)信道都認(rèn)為是平穩(wěn)的。 , ( ) ( )1m a x ( ; ) m a x ( ; )p X ,)( 2 2);(m a x 2),(本節(jié)主要內(nèi)容： 加性噪聲信道與容量 加性噪聲信道的容量 如果信道輸入和獨立于輸入的噪聲均為隨機(jī)變量，而信道的輸出是輸入與噪聲的和，那么這種信道稱為加性噪聲信道。對于這種信道，我們始終假設(shè)信道輸入 率或概率密度密度為 ，噪聲 的連續(xù)隨機(jī)變量集，概率密度為 ，信道的輸出為 Y=X+Z ，條件概率密度為 。這種信道的模型下圖所示。 ()| )p y x x 定理 設(shè)信道的輸入與輸出分別為 ，加性噪聲信道的噪聲 ，那么 (1)信道的轉(zhuǎn)移概率密度為 (2)條件熵 (3) 信道輸入與輸出的平均互信息 (4) 信道容量 (其中 為信道輸出的熵。 ()|( ( | ) ( )h Y X h Z( ; ) ( ) ( )I X Y h Y h Z()m a x ( ) ( )h Y h Z() 因為 以 ，有 其中 ， )=1。從而有 , ，得 ( 根據(jù)變換的熵定理，有 ，又 因為 獨立 ,有 ,從而得 ( 由 和 (到 (； 因 依賴于輸入 X，而 獨立于輸入 X，所以求 相當(dāng)于求 的最大值，因此得 ( 1101A )()( )()()|()()|()()(|d e t|l o g)()( )()()|()( ( ; ) ( ) ( | )I X Y h Y h Y X();( 例 一個信道的噪聲 區(qū)間均勻分布，輸入信號 內(nèi)，輸出 Y=X+Z，求輸入與輸出平均互信息 的最大值 解 由于 y=x+z，所以 內(nèi)。根據(jù)限峰值最大熵定理， 達(dá)到最大值。所以， 比特 /自由度 11z 11x I X Y（ ； ）22y ()1l )22l );(m a x )( 加性高斯噪聲信道的容量 如果信道的加性噪聲為高斯分布，則信道稱為加性高斯噪聲信道。給定信道輸入 ,噪聲為零均值、方差為 的高斯分布，即 Z ，那么 據(jù)限功率最大熵定理，當(dāng) 達(dá)到最大。 又根據(jù) (知，此時 達(dá)到最大 可知， X ，且 X、以 Y 2x2z 2( 0 , )()( 2( 0 , )22( 0 , ) 由上有 (注： (1)對于加性高斯噪聲信道，當(dāng) 達(dá)到最大值時，輸入與輸出均為高斯分布，而且這個最大值僅與輸入信噪比 有關(guān)； (2)當(dāng)時 ， ； (3)必須對 進(jìn)行限制才能得到有限的 的最大值。 )221)( 2)(221)( 22 )11);(m a x 22)( );( 22 );(m a x)( );( 定理 設(shè)一個離散時間平穩(wěn)無記憶加性高斯噪聲信道，噪聲方差為 ，輸入限制為 ，則信道容量為 比特（或奈特） /自由度 因為隨機(jī)變量是一維的，一維的變量具有一個自由度，多維變量則有多個自由度。由 (知，對功率受限平穩(wěn)無記憶加性高斯信道，其容量僅與輸入信噪比有關(guān)。 2z 2)1lo g (21 2一般加性噪聲信道容量界 對于一般的加性噪聲信道，難以求出精確的容量表達(dá)式，但可以估計容量的界限。 定理 設(shè)一離散時間無記憶連續(xù)信道的加性噪聲的方差為 ，熵功率為 ，輸入功率約束為 ，則噪聲信道的容量 (在證明該定理之前，先介紹一個引理。 2z 2 22)l o g (21)1l o g (21 22222 引 理 設(shè) 為高斯概率密度， 為同一空間與其方差相同的概率密度，那么 (其中， 為高斯信源的熵。（證明略）。 注意：此結(jié)果對于多維情況和條件概率密度情況都成立，要求對應(yīng)的自協(xié)方差矩陣相同。 )()(x)()( l o g)( l o g )()( N )( 根據(jù)給定條件，有 右邊：由于是加性噪聲，根據(jù)定理 上面的不等式利用了限功率最大熵定理，當(dāng)噪聲為高斯分布時，等號成立。 左邊：設(shè)信道輸入和輸出的概率密度分別為 和 ，信道的轉(zhuǎn)移概率密度為 )2lo g (21)( 2 )()(m a x )( 2l o g 21)(2l o g 21 222 ee )lo g (21 222 ()| )p y x（續(xù)）因為是加性噪聲 ，分布的方差為 ；當(dāng)噪聲為方差 的高斯分布時，信道的轉(zhuǎn)移概率密度為 ，達(dá)到容量時的輸出也為高斯分布，密度為 ，且方差為 ，與 的方差同 ,并且 為均值是 x，方差為 的高斯分布密度。 ( | ) ( )zp y x p y x 2Z2Z( | )Np y x()2 () | )Np y )( | )( ; ) l o g ()p x yp y Y ()( | ) ( | ) ( ) l o g ( ) ( ) ( | )x y y x p y x q y q y p y x( ) ( )( | ) ( | ) ( ) l o g l o g ( ) ( ) ( | )x y p x yp y x p y x q y q y p y x( ) ( ) ( | ) ( | ) ( )( | ) l o g l o g ( | ) l o g ( ) ()x y p x p y x p x y p y E p y x E E q 2 2 2( ) ( | ) ( 1 / 2 ) l o g ( 2 ) ( 1 / 2 ) l o g 2 ( ) aZ x zp x p x yE e E e )1122（續(xù)）計算 其中， a：利用了引理 即左邊不等式成立，僅當(dāng) （此時也有 ）時，等號成立。 (表明，在高斯噪聲條件下，等式成立，達(dá)到容量下界 。 # ( ) ( ) ( | ) ( | ) ( )( | ) l o g l o g ( | ) l o g ( ) ()x y p x p y x p x y p y E p y x E E q 2 2 2( ) ( | ) ( 1 / 2 ) l o g ( 2 ) ( 1 / 2 ) l o g 2 ( ) aZ x zp x p x yE e E e )1122()( | ) ( ) ( ) ( | ) l o g l o g ( ) ( ) ( | ) ( | ) ( )x y y x q y q y p y xE p x y d x d yq y p y x p y x q y l o g ( ) ( ( | ) ) 0Nq y p x y d x d y ( | ) ( | )Np y x p y x( ) ( )Nq y q y)1lo g(21 22 從前兩節(jié)研究的內(nèi)容，可得如下結(jié)論： (1)在功率相同的加性噪聲中，高斯噪聲使信道容量最小，也就是說，高斯噪聲是最難抵抗的噪聲； (2)在干擾存在的條件下，通信系統(tǒng)通過在發(fā)送和接收端的信號處理，可以使性能不劣于等功率高斯噪聲造成的影響； (3)對通信系統(tǒng)干擾的最佳策略是，產(chǎn)生高斯噪聲干擾； (4)通信系統(tǒng)抵抗最佳干擾的最佳策略是，讓信源輸出的統(tǒng)計特性為高斯分布 聯(lián)加性高斯噪聲信道的容量 設(shè)信道的輸入與輸出分別為維矢量集合 和 ,加性噪聲 ，即有 ，其中 ,當(dāng) 為 的獨立噪聲時，便構(gòu)成包含 下圖所示。 1( . . . )N 1( . . . )N 1( . . . )N i i iy x z , ,0( 2 2定理 設(shè)由 子信道噪聲的方差分別為 ,輸入滿足約束 (那么 ,當(dāng)輸入是統(tǒng)計獨立、零均值的高斯隨機(jī)矢量時達(dá)到容量 ,并滿足： 對于 ( 對于 (其中 道容量為 (2 , 1 , ,i 112BE 2 202, Bi lo )1lo g (112Ni 如果并聯(lián)信道的各子信道的加性噪聲相互獨立，那么各子信道的輸出就僅與該子信道的輸入有關(guān)，而與其他子信道的輸入輸出無關(guān)（為什么？）。此時，連續(xù)并聯(lián)信道容量與離散并聯(lián)信道容量的計算公式相同，即信 道容量 ，其中為各子信道的容量。 根據(jù) (有 (當(dāng)相互獨立，且為高斯分布時，達(dá)到 (的容量。但各子信道輸入能量應(yīng)滿足 (約束，所以 (應(yīng)在滿足 (的條件下求極大值。 lo g (2112Ni 設(shè) 令 ，得 （常數(shù)），由于 非負(fù)，就得 到 (能量分配原則和 (量公式。 特別是 ,當(dāng)各 時，能量平均分配，即 所以 (1l o g (21 0E 2 n n )1lo g(2 2N 在一般情況下，各子信道的能量分配原則可以用蓄水池注水來解釋。如下圖所示，利用垂直的縱截面將蓄水池分成寬度相同的 個并聯(lián)子信道，各部分底面的高度對應(yīng)信道噪聲方差 ，總注水量等于總輸入能量 ，水完全注滿后水面高度為 B。可以看出，底面高度低的部分注水多，高度高的部分注水少，而高度特別高的部分根本沒有水。 21222iE 例 設(shè)有一個 2維獨立并聯(lián)高斯信道，兩子信道的噪聲的方差分別為 ，輸入信號的總能量為 ，求信道容量 。 解 : 如果 (a) 成立，就有 很明顯，上面方程組無非負(fù)數(shù)解。所以，應(yīng)有方差大的子信道分配的能量為零。所以 比特 /自由度 10,1 2221 6E6101212101121 1l o g ( 1 ) l o g 7 1 . 4 0 42 1 2C 例 ）兩子信道的噪聲的方差不變，輸入信號的總能量變?yōu)?，求信道容量 解 : 有正數(shù)解 比特 /自由度 15E 12,1592121,12 21 3 1 1 3l o g ( 1 1 2 ) l o g ( 1 ) l o g 2 . 0 4 02 2 1 0 2 1 0C 下面總結(jié)關(guān)于能量（或功率）分配的算法： 設(shè) 為 中 的集合，那么 (其中， 中元素的個數(shù)。 (i) 的分配： (始令 ， 對所有 n，若 ，則第 中 刪除，重新計算 (，直到所有 大于或等于零 時，將能量 分配給信道 n，而被刪除信道分配能量 為 0。 N 22 22 )( N022 N 上例中， ，假定兩信道全用，則 ， 第 1信道用； 第 2信道不用； 所以第 1信道用， ， 。 總之，為達(dá)到容量，應(yīng)給噪聲小的信道分配能量多， 給噪聲大的信道分配能量少。應(yīng)注意，當(dāng)發(fā)送端按注水原 理給各子信道分配能量時，應(yīng)該知道關(guān)于信道的信息。這 就需要反饋信道從接收端將信道信息傳送給發(fā)送端，增加 了通信的成本。如果發(fā)送端不知道關(guān)于信道的信息，就只 能給各子信道分配相等的能量。 6,10,1,2 2221 016 8 0 8 . 5 1 0 061 E 02 加性高斯噪聲波形信道 根據(jù)噪聲功率譜的特點，加性高斯噪聲信道分為加性高斯 白噪聲信道和加性高斯有色噪聲信道，一般模型如下所示。這 里，假定信道是平穩(wěn)的，實信號 為信道的輸入，信道的沖擊 響應(yīng) 可看成一個線性時不變?yōu)V波器，其傅氏變換為 ，加 性高斯噪聲 的譜密度為 ，輸入信號平均功率限制為 P， 接收信號為 ，則 (輸入信號平均功率的約束表示為 ()( )(*)()( 2/2/2 )(1G ( f )z ( t )y ( t )x ( t )( - T / 2 , T / 2 ) ( - T / 2 , T / 2 ) 設(shè) 為信號傳輸?shù)念l帶范圍。這個頻帶未必是連續(xù)的頻率間隔，也可能是若干不相鄰的頻段。若在頻段 B 內(nèi) 為常數(shù)，則稱信道為限帶加性高斯白噪聲信道，否則稱有色高斯噪聲信道。特別是，若 在頻段 稱信道為理想限帶加性高斯白噪聲信道（簡稱 為運算方便，設(shè) ，則對于 (其中， 為具有單邊譜密度 的加性高斯白噪聲。系統(tǒng)的帶寬 (信噪比為 (B)( 1)( )()()( )(N( )S N R P N W波形信道的互信息與容量 1. 波形信道的時間離散化 波形信道的容量研究要通過等價離散時間信道容量的 研究來實現(xiàn)，即把連續(xù)時間信道變換成離散時間信道。這種 信道實際上是一種獨立并聯(lián)信道，信道的輸入與輸出分別是 原始波形信道輸入與輸出離散化抽樣。波形信道輸入在被抽 樣后，通過這個獨立并聯(lián)信道傳輸，通過信道輸出可以恢復(fù) 原始波形信道的輸出。 等價離散時間信道最一般的方法就是正交展開的方法，由于篇幅所限，我們不介紹這種方法。實際上，對信道輸入 與輸出 的限時限頻信號進(jìn)行和進(jìn)行富氏級數(shù)展開和時域抽樣都是常用的正交展開形式。 設(shè)信道輸入與輸出限時在時間 T、限頻為 么根據(jù)抽樣定理，在時域的抽樣間隔應(yīng)為 1/（ 2W），所形成的并聯(lián)信道實子信道的個數(shù)為 N=2富氏級數(shù)展開時，展開式系數(shù)的頻率間隔為 1/T，形成的并聯(lián)信道的子信道的個數(shù)為 N=2這里考慮了正負(fù)頻率）。所以，無論是富氏級數(shù)展開還是時域抽樣，都得到 N=2可以說，信道具有 N=2 )(波形信道的容量 設(shè)與波形信道等價的并聯(lián)信道的輸入與輸出兩個 ， ，它們構(gòu)成的矢量集合分別為 和 ，其中 。 定義在時間 T 內(nèi)， x(t)與 y(t)的互信息 為： (對于平均功率約束，轉(zhuǎn)換成等價并聯(lián)信道后，考慮到原波形信號的能量在時間離散化后應(yīng)該不變，所以 (當(dāng)信號是限時限頻時， 在平均功率約束下的容量定義為： (),( 1 x ),( 1 y),.,( 21 ),.,( 21 ,i i i y Y)();( );(l i m)();( 2);(m ( 限帶 帶是指通信系統(tǒng)或傳輸?shù)男盘柋幌拗圃谀硞€頻帶范圍，噪聲在這一頻帶范圍的譜密度為常數(shù) 邊 )，至于噪聲在頻帶外的情況我們并不關(guān)心。 設(shè)信道的最高頻率為 W，時間限制在間隔 內(nèi)，對信道的輸入、噪聲與輸出分別進(jìn)行時域抽樣。根據(jù)抽樣定理，抽樣率至少為 2W。為使得到的離散時間子信道獨立，取抽樣率為 2W，總抽樣點數(shù)為 N=2樣就構(gòu)成一個由 ( / 2 , / 2 ) （續(xù)）該等價離散時間并聯(lián)信道輸入、噪聲與輸出序列分別為： ， ， ， i=1， ， N，并且 (如果 是帶寬為 面證明抽樣后的 是相互獨立的。求 的自相關(guān)函數(shù)為 (上式中，當(dāng) 時（ ，即對 按 的抽樣間隔所得到的抽樣值不相關(guān)。而這些抽樣值正是 的值。由于是高斯噪聲，所以 也是獨立的。這樣，通過時域抽樣，原來的限帶波形信道就變成一個等價的由 中每個子信道 ，并可以證明，每個子信道噪聲方差為 。 ix iz .,2,1, () )2s i n ()2c o s (2)( 00020 )2/( 0)( R ()(1 W N 根據(jù) ( (有 (輸入約束為 ，僅當(dāng) 獨立時取等號。 這是一個與定理 于各子信道噪聲方差相同（都為 ） ,所以各子信道的信號 的能量均勻分配，即取 可使 達(dá)到最大 (利用 N=2 ，有下面的定理： (m (m 2)2121 12 2 );( 1l o g (2);(m a T 定理 一個加性高斯白噪聲（ 道的噪聲的功率譜密度為 ，輸入信號平均功率限制為 P，信道的帶寬為 W，那么信道每單位時間的容量為 ()1lo g (0 (就是著名的仙農(nóng)限帶高斯白噪聲信道的容量公式。當(dāng)輸入為高斯分布時達(dá)到信道容量，此時平均功率約束為 P。信道容量曲線下圖所示。 0l o o g 2仙農(nóng)公式的幾點注釋： (1)(是最常用的，它表明每單位時間的信道容量，根據(jù)對數(shù)的底不同，可以為比特 /秒或奈特 /秒。信道容量還可以采用其它單位來描述。將 (成： (表明每自由度的容量，單位為比特 /自由度（或奈特 /自由度）。 將 (變?yōu)椋?(表明每單位帶寬的容量，也是含兩個自由度的信道容量，單位為 z，常用來描述系統(tǒng)可能達(dá)到的最大的頻譜利用率，也可描述二維調(diào)制系統(tǒng)每符號容量。 )1lo g (2120)1lo g (0仙農(nóng)公式的幾點注釋 (續(xù) ) ( )(中帶寬 包括負(fù)頻率范圍。 ( )達(dá)到容量時，信道的輸入也應(yīng)該是高斯過程，因此如果事先已經(jīng)限制了輸入的概率分布，那么就未必能達(dá)到信道容量。 ( )當(dāng)噪聲為非高斯時， (不適用，利用此式可使計算的容量比實際容量低。 ( )當(dāng)噪聲不是加性或噪聲不獨立于信號時，此式不適用。 仙農(nóng)公式的幾點注釋 (續(xù) ) ( )此公式是在功率為唯一受約束的量的條件下得到的，如果是別的量（例如峰值功率）受到限制，或峰值功率和平均功率都受限制的情況下，該公式不適用。 ( )以允許有若干不相鄰的頻段組成。（詳細(xì)論證見 (8)只要求噪聲譜密度在信號帶寬內(nèi)為常數(shù)，不考慮信號頻帶外的噪聲特性。 關(guān)于仙農(nóng)公式的討論： (1)信道容量與信號功率的關(guān)系 由公式可知，當(dāng) 量 當(dāng) 為： (當(dāng) 時， 。 (2)信道容量與帶寬的關(guān)系 000l o o gP 0 由公式可知，當(dāng)帶寬 當(dāng) 無關(guān)。因為： （ （ 3）帶寬與信噪比的互換關(guān)系 設(shè)兩個通信系統(tǒng)，其容量表達(dá)式分別為 當(dāng) 時有 : 00l i m l i m l o g 1 . 4 4 N 2,1),1l o g (0 C )1l o g ()1l o g (20221011 12)1(1202101 或 （ (說明在信道容量不變條件下信噪比和帶寬的互換系。如果 ， 那么，應(yīng)有 ，以保證 (成立。因此，如果系統(tǒng)帶寬較小，那么可以通過增加信噪比來提高容量，例如窄帶通信系統(tǒng)；如果系統(tǒng)帶寬很大，那么降低信噪比，也能保證需要的容量，例如擴(kuò)頻通信系統(tǒng)。 例 一限帶加性高斯白噪聲信道，帶寬為 1號功率為 10W，噪聲功率譜為 ，求信道容量。 解 根據(jù)仙農(nóng)公式，信道容量為： 1)21( 1202101 0 2 N W 2190 / 2 1 0 /N W H z962602 o (l o g ）（斯噪聲信道編碼定理 與離散情況類似，波形信道的容量也是可靠傳輸時信息速率的上界。由于波形信道可以等價為離散時間信道，所以我們只研究離散時間高斯信道即可。對于定理 n=2均功率約束變成 (其中， E = PT/n。各獨立并聯(lián)子信道噪聲方差為 ，根據(jù) (等價離散時間信道每自由度的容量為 。設(shè)發(fā)送消息數(shù)為 M，則信息傳輸速率 。 21 T n E20 /2N 21 l o g ( 1 )2( l o g ) /R M n高斯噪聲信道編碼定理敘述如下 ： 定理 對于輸入平均功率受限的加性高斯噪聲信道，當(dāng)傳輸速率時，總可找到一種編碼方式，使得差錯率任意小；反之當(dāng)時，找不到使錯誤概率任意小的編碼。 可采用類似于離散有噪編碼定理的證明：采用隨機(jī)編碼和典型序列譯碼，其中主要的差別是，這里附加了輸入平均功率的約束。下面是證明的思路： 設(shè)發(fā)送消息為 m，對應(yīng)的碼字為 ，接收為 。 隨機(jī)編碼：設(shè)碼字?jǐn)?shù)為 M，碼長為 n。獨立地選取碼字 ，的每一個符號 ，使 滿足方差不大于 典型序列譯碼：在離散情況譯碼原則的基礎(chǔ)上，附加對 mx 功率約束條件的判定。當(dāng) 違反功率約束，就表示譯碼 出錯。 錯誤概率的計算：如果 不滿足功率約束或 和 不構(gòu)成聯(lián)合典型序列或 和 構(gòu)成聯(lián)合典型序列，都表示譯碼錯誤。 當(dāng) 不滿足功率約束的概率趨近于 0，其他兩類譯碼錯誤事件的概率當(dāng) R（證明過程與離散情況相同）。 定理的后半部分的證明也與離散情況類似。 為加深對編碼定理的理解，我們利用多維信號空間的概念做如下解釋： 在 (約束下，信道輸入和噪聲都可看成 N=2y()m mmx 功率分別為 和 。由于受到噪聲干擾，信道的輸出矢量 是以發(fā)送碼字為均值，方差為 的 高斯分布，但它以很高的概率位于以均值 為中心半徑為 的維球內(nèi)。在譯碼時如果 處于這個多維球內(nèi)，我們就將球的中心 譯為發(fā)送的碼字。稱這個多維球為該碼字 的譯碼球。由于信道輸出功率限制在內(nèi) ， 因此所有的信道輸出矢量以很高的概率位于以 0中心半徑為 的多維球內(nèi)。如果在編碼時合理地選擇碼字的距離使得 的譯碼球不相交，就可以得到錯誤率很低的譯碼結(jié)果。這時在接收矢量的多維球中包含的不相交譯碼球的個數(shù)為： （ ny 2nmx n2()( 1 , , )m mM 2 / 22 / 2 2 ( ) ( 1 )()n E 其中， 表示半徑為 是不依賴于半徑的 數(shù)。如果 RC ，那么 （ 這樣，通過適當(dāng)編碼可以保證各譯碼球不相交，從而實現(xiàn)在 錯率任意小的譯碼。 ) l o g ( 1 ) 2 2 2 n 率利用率和頻譜利用率的關(guān)系 在評估一個通信系統(tǒng)性能時，系統(tǒng)的功率利用率和頻譜利用率是兩個最重要的指標(biāo)。 功率利用率用在給定誤比特率條件下能量信噪比 （即每比特能量 與白噪聲的單邊功率譜密度 之比）的值來衡量，此值越小說明系統(tǒng)的功率利用率越高，因此它表明了一個系統(tǒng)利用所發(fā)送信號功率的能力。例如，在二進(jìn)制數(shù)字載波調(diào)制系統(tǒng)中， 0N 頻譜利用率定義為系統(tǒng)所傳輸?shù)男畔⑺俾?的比，即 R/W（單位為 z），此值越高，說明系統(tǒng)的頻譜利用率越大，因此它表明了一個系統(tǒng)在單位頻帶上傳輸信息的效率。例如，在相同帶寬條件下，多進(jìn)制調(diào)制要比二進(jìn)制調(diào)制具有更高的頻譜利用率。 一個好的通信系統(tǒng)應(yīng)該是具有高的功率利用率和頻譜利用率。但是從下面的研究可以看到這兩個指標(biāo)往往是矛盾的。即高的功率利用率要導(dǎo)致低的頻譜利用率，或者是相反。因此，在設(shè)計通信系統(tǒng)時要對兩個指標(biāo)進(jìn)行權(quán)衡考慮。 根據(jù)編碼定理，在限帶高斯白噪聲信道條件下，欲達(dá)到可靠的信息傳輸，必須使傳輸?shù)男畔⑺俾?R（比特 /秒）不大于 C。因此，有： 而 ，因此得： 或 (由于 和 均不為負(fù)值，故在以 和 為坐標(biāo)軸的第一象限，畫出曲線， ()1lo g (0 )1lo g (0 b20020b 如圖 曲線將第一象限的區(qū)域劃分成兩部分，即可靠通信可能區(qū)域與可靠通信不可能區(qū)域。當(dāng) 和 的關(guān)系處于可靠通信可能區(qū)域中時，總會找到一種編碼和調(diào)制方式使得傳輸差錯率任意小 圖 與 的關(guān)系 0( )/ ( / )R W b p s H z/021/ W可靠通信不可能區(qū)域可靠通信可能區(qū)域0R 通常為了使系統(tǒng)效率達(dá)到最大，我們總希望 與 的關(guān)系盡量靠近曲線 ( 圖中，可以看到，當(dāng) 一定時，為達(dá)到可靠通信， 不能超過曲線 (所規(guī)定的值。同樣，當(dāng) 一定時， 不會低于曲線 (所規(guī)定 系統(tǒng)的 和 的關(guān)系沿曲線 (變化時，若 降低，則 也降低。反之，若 增大， 則 也增大。因此，為達(dá)到可靠的通信，一個系統(tǒng)不可能同時是有最大的功率利用率和頻譜利用率。這兩個量必須滿足不等式 (最好能滿足 ( 0R 時，求不等式 (右邊的極限，這個極限值是 的最小值： (這就是加性高斯白噪聲（ 道實現(xiàn)可靠通信的信噪比的下界，這個下界稱作仙農(nóng)限 (這個界對應(yīng)著系統(tǒng)的帶寬是無限大。 0/ 例 給定信噪比 ，信道帶寬分別為 100能否可靠地傳輸速率為 1 解 根據(jù)式 (算所需的最小值。 當(dāng)信道帶寬為 100 通過適當(dāng)?shù)木幋a方式可實現(xiàn)無差錯傳輸。 當(dāng)信道帶寬為 10 此時，無論采用何種編碼