1、(一)、） ;） ;） 、2、一階馬爾可夫信源得狀態(tài)轉(zhuǎn)移圖如右圖所示, 小題 、1、 ,、( );、基 底 或 生 成 矩 陣 有 可 能 生 成 同 一 碼 集()、 、;3,、( )、碼,、信( )、(二)( )6、 連續(xù)信源與離散信源得熵都具有非負(fù)性一、填空題(共15分,每空1分)( )、是。,一就是 ,、8 、漢 明 碼 就 是 一 種 線 性 分 組 碼是。( )。9 、率 失 真 函 數(shù) 得 最 小 值 就 是4、無失真信源編碼得平均碼長最小理論極限制( )為。、必然事件與不可能事件得自信息量都就是( )6、根據(jù)信道特性就是否隨時間變化,信道可以分為 6 小題 與。7、根據(jù)就是否允

2、許失真,信源編碼可分為1 、 碼 得 檢 、 糾 錯 能 力 取 決、于與。值時, ,、。3、把信息組原封不動地搬到碼字前位得碼就叫、做當(dāng) X 與 Y 相互獨立時4 、 香 農(nóng) 信 息 論 中 得 三 大 極 限 定 理 就、是、XY 成立得條件、6-,、三、=4 , 01分、2 3 ,2Hr ) ) ) )X與YXY1 2XY1 21 2設(shè)Y0 或1 ;八、 分),x1y1 短x2y1 42 ; ;11112 H X 4 882 ;1231 8 2 ;21 2 222信息論基礎(chǔ)2參考答案 2 2 12R t 4 6 s。 ) ) ) );13Z01SS 121有得11 1 1 2 2 2 H

3、 H X H Z|X H H , 對 : 2 22H P S P S |S logP S |Sijijii1 j13 22 3 113 log log4 33 4 311八、 分),通過干擾信道, 0.578 1.599240.681bit 0.472nat 0.205hart xy11:3 3 1 14 4 4 4 2 P x P x itiix2y11 42 ;H H 0.205hart0.472nat 0.681bit 符號2 ; ; ;(10): XY H X H 0.8,0.20.722bit符號0.5nat符號0.217符號1 2:xy121 21 2:1 2xy 111設(shè)Y0 或

4、 1 HY HatC 得 長 度 K 應(yīng) 滿 足 不 等式 H|Y HXYHYit符號符號t 號ii HY|X HXYHX itatt 號。3、設(shè)有一個信道 ,其信道矩陣為 ,則它就是信道(填對稱,準(zhǔn)對稱),其信道容量就是比特/信道符號。 I YHXHXYitt 號三、(20 分)通過一個干擾信道,接受符號集為,信道,轉(zhuǎn)移矩陣為(三)試求(1)H(X),H(Y),H(XY);(7分)(2) H(Y|X),H(X|Y);(5分)(3) I(Y;X)。(3分)一、 選擇題(共10分,每小題2分)X,其概率空間為,則其無記憶二次擴展信源得熵H(X)=( )(4)該信道得容量C(3分)(5)當(dāng)平均互信

5、息量達(dá)到信道容量時,接收端 Y得熵H(Y)。(2分)2A、1、75比特/符號;號;B、3、5比特/符C、9比特/符號;D、18比特/符號。計算結(jié)果保留小數(shù)點后 2 位,單位為比特/符號。2、信道轉(zhuǎn)移矩陣為0(y /x) (y /x)000四、(9 分)簡述平均互信息量得物理意義,并寫出應(yīng)112100(y /x) (y /x)0032402 000( / ) ( / 公式。P y x P y x5363其中兩兩不相等,則該信道為3、A、一一對應(yīng)得無噪信道六、(10分)設(shè)有離散無記憶信源,其概率分布如下:B、具有并歸性能得無噪信道C、對稱信道D、具有擴展性能得無噪信道對其進(jìn)行費諾編碼,寫出編碼過程

6、,求出信源熵、平均碼長與編碼效率。3、設(shè)信道容量為C,下列說法正確得就是:( )A、互信息量一定不大于CB、交互熵一定不小于CC、有效信息量一定不大于C七、信道編碼(21分)現(xiàn)有生成矩陣D、條件熵一定不大于C4、在串聯(lián)系統(tǒng)中,有效信息量得值( )1. 求對應(yīng)得系統(tǒng)校驗矩陣H 。(2分)sA、趨于變大2 求該碼字集合得最小碼字距離d、最大檢錯能B、趨于變小C、不變力 、最大糾錯能力t。(3分)max2. 填寫下面得es表 (8分)D、不確定5、若 BSC 信道得差錯率為 P,則其信道容量es為:( )A、B、C、D、二、填空題(20分,每空2 分)1、(7,4)線性分組碼中,接受端收到分組R 得

7、位數(shù)為_ ,伴隨式S 可能得值有_ 種,差4. 現(xiàn)有接收序列為,求糾錯譯碼輸出。(4分)5、 畫出該碼得編碼電路 (4分)(四)錯圖案e 得長度為,系統(tǒng)生成矩陣G 為_行得矩陣,系統(tǒng)校驗矩陣H 為ss_是行得矩陣,G 與H 滿足得關(guān)系式就。ss共 分2、香農(nóng)編碼中,概率為得信源符號x 對應(yīng)得碼字i ） 概 率 大 得 事 件 自 信 息 量 大 。( ） 互 信 息 量 可 正 、 可 負(fù) 亦 可 為 零 。()共 ) , (0)=0、(1)=0、） ,求D D 與RD 大說明信源符號間得依賴關(guān)系較小。有一穩(wěn)態(tài)信源,已知轉(zhuǎn)移為 S / S ( ） ,( ） , ()11S /S :12 )(五

8、)） (碼 霍夫曼編碼方法構(gòu)造得就是最佳碼。一、(11填空題(D( )） ） 0） X 得N XN倍)。五、),。:） 。 X;） , 。3),） 3, _2_ ,） n ） ,由二、判斷題） 信 息 就 就 是 一 種 消 息 。()） ()八;3。)所有碼字為2分)該碼字在第5位發(fā)生錯誤,()糾正為(六)5與答案m一、概念簡答題(每題5分,共401、答:平均自信息為表示信源得平均不確定度,也表示平均每個信源消息所提供得信息量。平均互信息表示從Y獲得得關(guān)于每個X得平均信息量,也表示發(fā)X前后Y得平均不確定性減少得量,還表示通信前后整個系統(tǒng)不確定性減少得量。2、答:最大離散熵定理為:離散無記憶信源,等概率分布時熵最大。最大熵值為。平均互信息就是信源概率分布得型凸函數(shù),就是信道傳遞概率得U型凸函數(shù)。量,其值取決于信噪比與帶寬。由得,則6、答:只要,當(dāng)N足夠長時,一定存在一種無失真編碼。X時,只要碼長足夠長,一定能找到一種編碼方法與譯碼規(guī)則,使譯碼錯誤概率無窮小。8、答:1)保真度準(zhǔn)則為:平均失真度不大于允許得失真度。2)