信息论后题解答.ppt

习题讲解 2.1 设有12枚同值硬币，其中有一枚为假币。只知道假币的重量与真币的重量不同，但不知究竟是重还是轻。现用比较天平左右两边轻重的方法来测量。为了在天平上称出哪一枚是假币，试问至少必须称多少次？ 解：从信息论的角度看，“12枚硬币中，某一枚为假币”该事件发生的概率为p=1/12；“假币的重量比真的轻，或重”该事件发生的概率为p=1/2； 为确定哪一枚是假币，即要消除上述两事件的联合不确定性，由于二者是独立的，因此有 i=log12+log2=log24 比特 用天平称时,有三种可能性：重、轻、相等，三者是等概率的，均为p=1/3，因此天平每一次消除的不确定性为i=log3比特,因此，必须称的次数为log24/log3≈2.9次 因此，至少需称3次。 2.4 居住某地区的女孩中有25%是大学生，在女大学生中有75%是身高1.6米以上的，而女孩中身高1.6米以上的占总数一半。假如我们得知“身高1.6米以上的某女孩是大学生”的消息，问获得多少信息量 2.4 解： x：女孩是大学生 y：女孩身高1.6m以上 P(x)=0.25 P(y)=0.5 P(y/x)=0.75 第二章习题 第二章习题 2.8 第二章习题 2.13 (1)每个象素亮度所含的信息量为： 每帧图像所含的信息量为： 每秒钟的信息率为： 第二章习题 2.13 (2)每个象素色度所含的信息量为： 亮度和色度彼此独立 第二章习题 2.18 (1)是平稳的 (2) (3) 0000,0001,0010,0011,0100,0101,0110,0111 1000,1001,1010,1011,1100,1101,1110,1111 第二章习题 2.22 (1) 解得： 第二章习题 2.22 (2) （3）： 第二章习题 2.22 (4) 求导数得： 第二章习题 2.22 (4) 当p＝0： 当p＝1： 第二章习题 2.24 图应改为： （1） 得： 第二章习题 （2） （3） 2.25 解法与上题类似。 第三章 3.1 (1) (2) 第三章 (3) (4) (5) 第三章 3.3 (1) (2) 第三章 3.9 (1) 10秒钟能传的最大信息量 不能传输 第三章 3.11 (1)可分为： (2)可分为： 信道2的信道容量大于信道1的信道容量 第三章 3.16 第四章 4.1 (1) 根据书中4.21式 可得： (2): 第四章 4.3 (1) A、B、C、E是唯一可译码 (2) A、C、E即时码 4.17 不能直接相连 信源每秒发出1.92的信息量，而信道每秒可以发出2的信息量，因此可以通过编码进行传输。 第四章 4.18 (1) 须3秒钟传输 (2) ………… (3) 信源符号间具有相关性，极限熵还可以更低 第五章 5.1 (1)最小错误概率准则，求联合概率矩阵 译码函数为： 第五章 5.3 （1）最小距离为3 （2） （4）能纠正一位错误 （3） 5.15 (1)最小汉明距离准则 （2） （3） （4） 第六章 6.1 第六章 6.5 6.13