信息论及编码.docx

信息论及编码 信息论及编码 PAGE / NUMPAGES 信息论及编码 桂林工学院 2009-2010 学年第二学期 课程名称：《信息论与编码》 一、填空（每题 2 分，共 20 分） 1、信息是对事物状态（或它的存在方式）的不确定性的一种描述，其中自信息 I（ x）= ；事件发生前，它表示 ，事件发生后，它 表示 。 2、 已知一个单符号失散无记忆信源， X x1 x2 x3 ，则其四次扩展信源的序列 P(X ) 1/ 2 1/4 1/4 熵的大小为＿＿＿＿＿＿。 3、 关于单符号失散无记忆信源 X，若输出符号取值于会集 x1 , x2 , x3 , x4, x5, x6 , x7 , x8 , 则其最 大信源熵为＿＿＿＿＿＿， 且达到此最大熵时各符号的概率分布为＿＿＿＿＿＿＿＿＿＿＿ ＿＿＿＿＿＿＿。 4、 信源编码的目的是为了提高通信系统的 ____________________ ，而信道编码的最后目的是为 了＿＿＿＿＿＿＿＿＿＿＿＿＿＿＿＿＿＿＿＿＿＿＿＿＿＿＿＿＿＿。 5、 一失散信道的信道矩阵以下所示，则其信道容量为＿＿＿＿＿＿比特 / 信道符号。 0 0 0 0 0 0 P 0 0 0 0 0 0 0 0 0 0 0 0 0 0 6、 有一个信源，它产生 0， 1 序列的信息，它在任意时间而且无论以前发生什么符号，均按 P （ 0），P（ 1）=0.7 的概率发出符号，则 H（ X 2）= ， X 2 信源中可能有的符号 H（X 3/X 1X2）= 。 7、 在对单符号失散信源进行费诺编码时， 其中一个步骤是按编码进制数将概率分组， 分组的原 则是使每组概率之和＿＿＿＿＿＿＿＿＿＿＿＿＿＿＿＿＿＿＿＿＿＿。 8、设某二元码为 C={11100 ， 01001， 10010， 00111}若码字等概率分布，则此码的码率为 ，若采用最小距离译码准则，则接收序列 10011， 01100，应译成的码字分别为 、 9、 （ 7， 4）汉明码的许用码组有＿＿个；若一码组为 0100111 ，则其码重为＿＿＿。 1 10、某（ 7，4）循环码，生成多项式为 g(x)=x 3 +x+1 （对应码字为 0001011 ），则码字 1010011______ 此循环码的码字， 码字 1100100______ 此循环码的码字（本题填“是”或“不是” ）。 二、选择 , 将正确答案代号填写在题后的括号内（ 20 分） X x1 0 x2 1 x3 2 x4 3 1、设有失散无记忆信源 1/21/4 1/ 8 , 其发出的信息为 P(X) 1/ 8 ，则此信息中平均每个符号携带的信息量是 答 :( ) （A）2 比特 / 符号 （ B） 1.75 比特 / 符号 （C） 比特/ 符号 （ D） 比特/ 符号 2、若三个失散随机变量，有以下关系： X+Y=Z，其中 X 和 Y 相互独立。则以下各组关系式中哪一组 是正确的 答 :( ) A） I(X;Z)=H(Z)-H(Y); I(X;YZ)=H(X);I(Y:Z/X)=H(Y);I(X;Y/Z)=H(X/Z); B） I(X;Z)=H(Z)-H(Y); I(X;YZ)=H(Y);I(Y:Z/X)=H(Z);I(X;Y/Z)=H(X/Z); C） I(X;Y)=0; I(X;YZ)=H(X);I(Y:Z/X)=H(X);I(X;Y/Z)=H(Z/X); D） I(X;Y)=0; I(X;YZ)=H(X);I(Y:Z/X)=H(Y);I(X;Y/Z)=H(X/Z); 3、八进制脉冲所含信息量是二进制脉冲的几倍。 答:( ) A）2 （B）3（C）1/2 （D）1/3 4、发送端发送纠检错码， 接收端依照纠检错码判断接收的信息可否有错， 若是在纠错范围内， 则自 动纠错，否则反响给发送端，发送端重新发送信息，这种纠错方式为何种纠错方式。 （ A）前向纠错 （ B）混杂纠错 （ C）反响重传纠错 （ D）自动纠错 答 :( ) 5、设加性高斯白噪声信道中，信道带宽为 4KHZ，又设 { （信号功率 +噪声功率） / 噪声功率 =16} 则该 信道的最大信息传输速率为多少？ 答:( ) (A)15Kbit/s （ B） 16Kbit/s （ C） （ D） 18Kbit/s 6、设无记忆二进制信源 X 0 1 ，对此信源发出的二元序列进行游程编码，则 0 游 P(X) 程长度为 3 的概率为 答 :( ) 7、某单符号失散无记忆信源，信源符号数 n=45，对其编四进制哈夫曼码，则首次减少时采用的符 号数 r 等于 答 :( ) (A) 1 (B) 2 (C) 3 (D) 4 8 下面哪个性质不属于加权熵的性质。 答:( ) (A) 非负性