《信息论》——基础理论与应用 部分习题答案.pdf

第二章课后习题 2.1】设有 12 枚同值硬币，其中有一枚为假币。只知道假币的重量与真币的重量不同， 但不知究竟是重还是轻。现用比较天平左右两边轻重的方法来测量。为了在天平上称出哪 一枚是假币，试问至少必须称多少次？ 解：从信息论的角度看， 1 “12 枚硬币中，某一枚为假币”该事件发生的概率为P ； 12 1 P ； “假币的重量比真的轻，或重”该事件发生的概率为 2 为确定哪一枚是假币，即要消除上述两事件的联合不确定性，由于二者是独 的，因 此有 I log 12 log 2 log 24 比特 1 而用天平称时，有三种可能性：重、轻、相等，三者是等概率的，均为P ，因此天 3 平每一次消除的不确定性为I log 3 比特 因此，必须称的次数为 I log 24 1 2.9 次 I 2 log 3 因此，至少需称3 次。 延伸】如何测量？分3 堆，每堆4 枚，经过3 次测量能否测出哪一枚为假币。 2.2】同时扔一对均匀的骰子，当得知“两骰子面朝上点数之和为2”或“面朝上点数之 和为8”或“两骰子面朝上点数是3 和4”时，试问这三种情况分别获得多少信息量？ 解： “两骰子总点数之和为2”有一种可能，即两骰子的点数各为1，由于二者是独 的， 1 1 1 因此该种情况发生的概率为P ，该事件的信息量为： 6 6 36 I log 36 5.17 比特 “两骰子总点数之和为8”共有如下可能：2 和6、3 和5、4 和4、5 和3、6 和2 ，概 1 1 5 率为P 5 ，因此该事件的信息量为： 6 6 36 36 I log 2.85 比特 5 1 1 1 “两骰子面朝上点数是3 和4”的可能性有两种：3 和4、4 和3 ，概率为P 2 ， 6 6 18 因此该事件的信息量为： I log 18 4.17 比特 2.3】如果你在不知道今天是星期几的情况下问你的朋友 “明天星期几？”则答案中含有 多少信息量？如果你在已知今天是星期四的情况下提出同样的问题，则答案中你能获