《信息論與編碼》試卷第1頁（共3頁）專業(yè)班級：專業(yè)班級：姓名：學(xué)號：…………密………………封………………線…………專業(yè)班級：姓名：學(xué)號：專業(yè)班級：姓名：學(xué)號：…………密………………封………………線…………考試方式本試卷考試分數(shù)占學(xué)生總評成績比例總得分閉卷60%分數(shù)40得分一、簡答題（本大題共5小題，每小題8分，共40分）1.簡述信道容量的定義。2.一離散平穩(wěn)信源輸出符號序列為,請問（1）信源的平穩(wěn)性的定義是什么？（2）如果該信源為無限記憶離散平穩(wěn)信源，它的極限熵如何計算？（3）如果該信源是4階馬爾可夫信源，其極限熵該如何計算？3.簡述信息率失真函數(shù)的定義4.信源冗余度的定義是什么？信源符號的相關(guān)性和冗余度之間有什么關(guān)系？5.闡述最大后驗概率譯碼準則和極大似然譯碼準則的內(nèi)容？兩者在什么情況下等價？分數(shù)60得分二、計算及證明題（本大題共5小題，每小題12分，共60分）1.求以下四個信道的信道容量：2.設(shè)信源（1）計算信源熵。（2）編二進制霍夫曼碼和等長碼，寫出編碼結(jié)果。（3）求以上編碼的平均碼長和編碼效率。3.某離散無記憶信道的轉(zhuǎn)移概率矩陣、輸入該信道的信源符號概率分布分別如式所示，信道輸出的符號記為,試求。4.設(shè)線性分組碼的生成矩陣為，求：

（1）此（n，k）碼的n=？k=？，寫出此（n，k）碼的所有碼字。

（2）求其對應(yīng)的一致校驗矩陣H。

（3）確定最小碼距，問此碼能糾幾位錯？列出其能糾錯的所有錯誤圖樣和對應(yīng)的伴隨式。

（4）若接收碼字為000110，用伴隨式法求譯碼結(jié)果。

5.關(guān)于線性分組碼，試證明下列結(jié)論：（1）線性分組碼任意兩碼字的和仍然是一個碼字；（2）線性分組碼的最小漢明距離等于該碼中最小非零碼字的漢明重量?！缎畔⑴c編碼理論》試卷（二）參考答案與評分標準一、簡答題（本大題共5小題，每小題8分，共40分）1，傳輸信息不失真的條件下的最大平均信息量或最大信息速率Rmax，,信道上傳輸?shù)淖畲笃骄畔⒘浚篊=I(X;Y)maxbit/符號。2答：(1)各維聯(lián)合概率分布均與時間起點無關(guān)的信源稱為離散平穩(wěn)信源。(2)信源為無限記憶離散平穩(wěn)信源，它的極限熵(3)3.4.信源的相關(guān)性越大，冗余度越大。5、令，，而應(yīng)滿足條件稱滿足上述條件的譯碼函數(shù)對應(yīng)的譯碼規(guī)則為最大后驗概率譯碼規(guī)則。極大似然譯碼準則當(dāng)輸入符號等概分布時，采用極大似然譯碼準則等價于最大后驗概率準則。二、計算題（本大題共5小題，每小題12分，共60分）6、答：1）P1為一一對應(yīng)確定信道，因此有。分）

（2）P2為具有歸并性能的信道，因此有。

（3）P3為具有發(fā)散性能的信道，因此有。（4）7.答：（1）（1分）（2）等長碼：000，001，010，011，100，101，110，111（2分）哈夫曼編碼：0，10，110，1110，11110，111110，1111110，1111111（3分）（3）（4分）8.由先驗概率和信道轉(zhuǎn)移矩陣可得輸出符號Y的概率分布。 由聯(lián)合概率分布和Y的概率分布可得后驗概率為8、（1）n=6，k=3，（1分）由C=mG可得所有碼字為：

000000，001011，010110，011101，100101，101110，110011，111000（1分）

（2）此碼是系統(tǒng)碼，由知，，則（2分）

（3）由H可知，其任意2列線性無關(guān)，而有3列線性相關(guān)，故有，能糾一位錯。（2分）

錯誤圖樣E伴隨式

100000101

010000110

001000011

000100100

000010010

000001001（2分）

（4）由查表知e＝01