信息論習題一、二答案參考

　　1.一個隨即變量x的概率密度函數P(x)= x /2，0≤x≤2V，則信源的相對熵為（ ）。

　　A. 1.44bit/符號

　　B. 1bit/符號 正確

　　C. 0.5bit/符號

　　D. 0.72bit/符號

　　2.下列不屬于消息的是（ ）

　　A. 文字

　　B. 圖像

　　C. 語言

　　D. 信號

　　3.下列哪一項不屬于最簡單的通信系統模型（ ）

　　A. 信宿

　　B. 加密

　　C. 信道

　　D. 信源

　　4.下列離散信源，熵最大的是（ ）。

　　A. H（1/2,1/2）

　　B. H（1/2,1/4,1/8,1/8)

　　C. H（1/3,1/3,1/3）

　　D. H（0.9,0.1）

　　5.下面哪一項不屬于熵的性質（ ）

　　A. 對稱性

　　B. 確定性

　　C. 完備性

　　D. 非負性

　　6.同時扔兩個正常的骰子，即各面呈現的概率都是1/6，若點數之和為12，則得到的自信息為（ ）。

　　A. －log36bit

　　B. log36bit

　　C. －log (11/36)bit

　　D. log (11/36)bit

　　7.對連續(xù)信源的熵的描述不正確的是（ ）。

　　A. 連續(xù)信源的熵和離散集的熵形式一致，只是用概率密度代替概率，用積分代替求和

　　B. 連續(xù)信源的熵由相對熵和無窮大項構成

　　C. 連續(xù)信源的熵值無限大

　　D. 連續(xù)信源的熵可以是任意整數

　　9.相對熵（）。

　　A. 總非負

　　B. 總為正

　　C. 總為負

　　D. 都不對

　　9.英文字母有26個，加上空格共27個符號，由此H0（X）=4.76bit/符號，根據有關研究H∞（X）=1.4 bit/符號，則冗余度為（） 。

　　A. 0.71

　　B. 0.51

　　C. 0.11

　　D. 0.31

　　10.設信源S，若P（s1）=1/2、P（s2）=1/4、P（s3）=1/4，則其信源剩余度為 （ ）。

　　A. 3/4

　　B. 0

　　C. 1/4

　　D. 1/2

　　11.設有一個無記憶信源發(fā)出符號A和B，已知p（A）＝1/4，p（B）=3/4，發(fā)出二重符號序列消息的信源，則二次擴展信源熵 為（ ）。

　　A. 0.81bit/二重符號

　　B. 1.86 bit/二重符號

　　C. 0.93 bit/二重符號

　　D. 1.62bit/二重符號

　　12.H（X/X）=0。(對)

　　13.一維高斯信源的熵只與其均值和方差有關；(錯)

　　14.一維高斯信源的相對熵只與其方差有關；（對）

　　15.互信息量可正、可負亦可為零。（對）

　　16.信息就是一種消息。（錯）

　　17.信源符號的概率越大，不確定性就越小，接受者獲得的信息量就越大。（錯）

　　18.冗余度是表征信源信息率多余程度的物理量，它描述的是信源的剩余。（錯）

　　19.在信息處理過程中熵不會增加。（對）

　　20.在信息處理過程中，處理的次數越多得到的信息量也就越大。（錯）

　　21.對平穩(wěn)離散有記憶信源有：H0（X）≥H1（X）≥H2（X）……≥H∞（X）。（對）

　　22.平均互信息I(X;Y)與信息熵H(Y)的關系為：I(X;Y)≤H(Y)。（對）

　　23.平穩(wěn)信源發(fā)出的符號序列的概率分布與時間起點無關。（對）

　　24.當隨機變量X和Y是確定的一一對應關系時，I（X；Y）=0。（錯）

　　25．相對熵為零的連續(xù)信源的平均不確定性為零（錯）

　　26.確定性信源的信源熵為零。（對）

　　27.離散平穩(wěn)有記憶信源符號序列的平均符號熵隨著序列長度L的增大而增大。（錯）

　　28.離散無記憶信源的N 次擴展源的熵是原信源熵的N 倍；（對）

　　29.符號出現的概率與信息量是單調遞減關系。（對）

　　30.若某符號出現的概率為1，則該符號的自信息量為∞。（錯）

　　31.運用概率論和隨機過程的理論來研究信息是香農信息論的基本點。（對）

　　32.連續(xù)信源的平均不確定性為零；（錯）

　　33.連續(xù)信源的相對熵非負；（錯）