概率論編碼理論應(yīng)用測(cè)試試題及真題考試時(shí)長(zhǎng)：120分鐘滿分：100分試卷名稱：概率論編碼理論應(yīng)用測(cè)試試題及真題考核對(duì)象：計(jì)算機(jī)科學(xué)與技術(shù)專業(yè)本科三年級(jí)學(xué)生、數(shù)據(jù)科學(xué)領(lǐng)域從業(yè)者題型分值分布：-判斷題（10題，每題2分）總分20分-單選題（10題，每題2分）總分20分-多選題（10題，每題2分）總分20分-案例分析（3題，每題6分）總分18分-論述題（2題，每題11分）總分22分總分：100分---一、判斷題（每題2分，共20分）1.信息熵是衡量信息不確定性的絕對(duì)指標(biāo)，其值隨信息源概率分布的均勻性單調(diào)遞增。2.熵編碼中，哈夫曼編碼算法能夠保證所有編碼符號(hào)的最短平均碼長(zhǎng)，且無(wú)前綴特性。3.資源分配率（RAR）是信道編碼中衡量編碼效率的關(guān)鍵參數(shù)，其值等于信道容量除以碼率。4.線性分組碼的生成矩陣G和校驗(yàn)矩陣H的行向量線性無(wú)關(guān)，且二者互為轉(zhuǎn)置關(guān)系。5.二進(jìn)制對(duì)稱信道（BSC）的信道轉(zhuǎn)移概率p=0.1時(shí)，其互信息量達(dá)到最大值1比特/符號(hào)。6.矢量量化（VQ）中，碼本設(shè)計(jì)的目標(biāo)是在給定碼本大小下最小化均方誤差（MSE）。7.硬判決譯碼（HD）和軟判決譯碼（SD）在低信噪比條件下，SD的譯碼性能通常優(yōu)于HD。8.線性反饋移位寄存器（LFSR）生成的偽隨機(jī)序列具有良好自相關(guān)特性，其周期等于寄存器長(zhǎng)度。9.熵編碼定理表明，任何無(wú)失真壓縮算法的壓縮率下限等于信息源的熵值。10.卷積碼的維特比譯碼算法基于最大似然準(zhǔn)則，適用于連續(xù)輸入序列的解碼。二、單選題（每題2分，共20分）1.以下哪種編碼方法屬于前綴編碼？（）A.脈沖編碼調(diào)制（PCM）B.資源分配率（RAR）C.哈夫曼編碼D.線性反饋移位寄存器（LFSR）2.在BSC信道中，當(dāng)發(fā)送符號(hào)為0時(shí)，接收端正確判為1的概率為0.9，則該信道的錯(cuò)誤概率為？（）A.0.1B.0.2C.0.8D.0.053.線性分組碼的生成多項(xiàng)式g(x)的階數(shù)等于碼長(zhǎng)n減去校驗(yàn)位數(shù)k，該性質(zhì)適用于？（）A.系統(tǒng)碼B.非系統(tǒng)碼C.遞歸碼D.卷積碼4.若信息源的概率分布為P={0.4,0.3,0.2,0.1}，則其熵值最接近？（）A.1.5比特/符號(hào)B.2.0比特/符號(hào)C.1.8比特/符號(hào)D.2.5比特/符號(hào)5.在VQ中，碼本單元的量化誤差與碼本距離成反比，該性質(zhì)適用于？（）A.線性量化B.聚類量化C.矢量量化D.熵編碼6.卷積碼的約束長(zhǎng)度K=5時(shí)，其生成多項(xiàng)式G(x)的階數(shù)至少為？（）A.5B.10C.15D.207.若信息熵H(X)=1.2比特/符號(hào)，則該信息源的最優(yōu)無(wú)損壓縮率至少為？（）A.1.2倍B.0.83倍C.0.8倍D.1.5倍8.在LFSR中，若反饋多項(xiàng)式為x^3+x+1，則其最大周期為？（）A.3B.7C.8D.159.硬判決譯碼（HD）通常適用于哪種信道環(huán)境？（）A.高斯白噪聲（AWGN）B.二進(jìn)制對(duì)稱信道（BSC）C.瑞利衰落信道D.協(xié)方差信道10.若碼率為1/2的卷積碼在AWGN信道中傳輸，其最小漢明距離dmin=3，則其自由距離為？（）A.3B.6C.9D.12三、多選題（每題2分，共20分）1.以下哪些編碼方法屬于熵編碼？（）A.哈夫曼編碼B.線性分組碼C.脈沖編碼調(diào)制（PCM）D.矢量量化（VQ）2.在BSC信道中，以下哪些參數(shù)會(huì)影響互信息量？（）A.信道轉(zhuǎn)移概率pB.碼率RC.信道容量CD.糾錯(cuò)能力3.線性分組碼的校驗(yàn)矩陣H的行向量滿足以下哪些性質(zhì)？（）A.線性無(wú)關(guān)B.構(gòu)成GF(2)上的基C.與生成矩陣G的行向量正交D.階數(shù)等于校驗(yàn)位數(shù)k4.矢量量化（VQ）中，以下哪些因素會(huì)影響量化誤差？（）A.碼本大小B.輸入分布特性C.量化器結(jié)構(gòu)D.信道噪聲5.卷積碼的維特比譯碼算法適用于以下哪些場(chǎng)景？（）A.連續(xù)輸入序列B.離散輸入序列C.高斯信道D.硬判決輸入6.熵編碼定理的推論包括以下哪些？（）A.無(wú)損壓縮率下限等于熵值B.有損壓縮率下限等于均方誤差C.熵編碼不可實(shí)現(xiàn)比熵值更低的壓縮率D.熵編碼適用于所有數(shù)據(jù)類型7.線性反饋移位寄存器（LFSR）的周期與以下哪些因素相關(guān)？（）A.反饋多項(xiàng)式B.寄存器長(zhǎng)度C.輸入序列D.初始狀態(tài)8.在LFSR中，以下哪些反饋多項(xiàng)式能生成最大周期序列？（）A.本原多項(xiàng)式B.非本原多項(xiàng)式C.線性無(wú)關(guān)多項(xiàng)式D.不可約多項(xiàng)式9.硬判決譯碼（HD）和軟判決譯碼（SD）的優(yōu)缺點(diǎn)包括？（）A.HD計(jì)算復(fù)雜度低B.SD譯碼性能更優(yōu)C.HD適用于BSC信道D.SD適用于AWGN信道10.卷積碼的自由距離與以下哪些參數(shù)相關(guān)？（）A.約束長(zhǎng)度KB.生成多項(xiàng)式C.漢明距離dminD.信道編碼增益四、案例分析（每題6分，共18分）1.場(chǎng)景：某信息源的概率分布為P={0.5,0.25,0.25}，現(xiàn)采用哈夫曼編碼對(duì)其進(jìn)行無(wú)損壓縮。問(wèn)題：（1）計(jì)算該信息源的熵值；（2）設(shè)計(jì)哈夫曼編碼樹，并給出各符號(hào)的編碼；（3）計(jì)算編碼后的平均碼長(zhǎng)及編碼效率。2.場(chǎng)景：在BSC信道中，發(fā)送符號(hào)為0和1的概率均為0.5，信道轉(zhuǎn)移概率p=0.1?，F(xiàn)發(fā)送信息“0110”，接收端觀察到“0111”。問(wèn)題：（1）計(jì)算接收序列的似然函數(shù)；（2）若采用最大似然譯碼，發(fā)送序列最可能是哪個(gè)？（3）若采用硬判決譯碼，誤碼率是多少？3.場(chǎng)景：某線性分組碼的生成多項(xiàng)式為g(x)=x^3+x+1，碼長(zhǎng)n=7，校驗(yàn)位數(shù)k=4。問(wèn)題：（1）寫出該碼的生成矩陣G和校驗(yàn)矩陣H；（2）若接收序列為1101011，計(jì)算校驗(yàn)子并判斷是否出錯(cuò)；（3）若出錯(cuò)，給出糾正方法。五、論述題（每題11分，共22分）1.論述題：比較哈夫曼編碼與算術(shù)編碼在無(wú)損壓縮方面的優(yōu)缺點(diǎn)，并說(shuō)明在何種場(chǎng)景下選擇哪種編碼更合適。2.論述題：闡述卷積碼的自由距離、約束長(zhǎng)度和生成多項(xiàng)式之間的關(guān)系，并說(shuō)明這些參數(shù)如何影響譯碼性能。---標(biāo)準(zhǔn)答案及解析一、判斷題1.√2.×（哈夫曼編碼有前綴特性）3.√4.√5.×（最大互信息量與信道容量相關(guān)）6.√7.√8.√9.√10.×（維特比譯碼適用于離散輸入）二、單選題1.C2.A3.A4.A5.C6.B7.C8.B9.B10.B三、多選題1.A2.A,B,C3.A,B,C4.A,B,C5.A,D6.A,C7.A,B8.A,D9.A,B,C10.A,B,C四、案例分析1.解析：（1）熵值H(X)=-0.5log2(0.5)-0.25log2(0.25)-0.25log2(0.25)=1.5比特/符號(hào)；（2）哈夫曼樹：0→0，1→10，0.25→110；（3）平均碼長(zhǎng)=0.5×1+0.25×3+0.25×3=1.5比特/符號(hào)，編碼效率=1.5/1.5=100%。2.解析：（1）似然函數(shù)L(0110)=0.9^3×0.1^1=0.00729；（2）最大似然譯碼選擇0110；（3）誤碼率P_e=0.1×0.5+0.9×0.5=0.5。3.解析：（1）G=【1001｜1101｜1011｜0111】，H=【1101｜1011｜0111｜1110】；（2）校驗(yàn)子S=(1101011)modH=(0010)，出錯(cuò)；（3）錯(cuò)誤位置為2和4，糾正后為1101111。五、論述題1