信息论与编码第2章习题解答.docVIP

2.1设有12枚同值硬币，其中一枚为假币。只知道假币的重量与真币的重量不同，但不知究竟是重还是轻。现用比较天平左右两边轻重的方法来测量（因无砝码）。为了在天平上称出哪一枚是假币，试问至少必须称多少次？ 解：分三组，每组4个，任意取两组称。会有两种情况，平衡，或不平衡。?1) 平衡： 明确假币在其余的4个里面。从这4个里面任意取3个，并从其余8个好的里面也取3个称。又有?两种情况：平衡或不平衡。a）平衡：称一下那个剩下的就行了。b）不平衡：我们至少知道那组假币是轻还是重。从这三个有假币的组里任意选两个称一下，又有两种情况：平衡与不平衡，不过我们已经知道假币的轻重情况了，自然的，不平衡直接就知道谁是假币；平衡的话，剩下的呢个自然是假币，并且我们也知道他是轻还是重。2) 不平衡：假定已经确定该组里有假币时候：推论：在知道该组是轻还是重的时候，只称一次，能找出假币的话，那么这组的个数不超过3。? ? ?我们知道，只要我们知道了该组（3个）有假币，并且知道轻重，只要称一次就可以找出来假币了。从不平衡的两组中，比如轻的一组里分为3和1表示为“轻（3）”和“轻（1）”，同样重的一组也是分成3和1标示为“重（3）”和“重（1）”。在从另外4个剩下的，也就是好的一组里取3个表示为“准（3）”。交叉组合为： ? ? ? 轻（3） +? 重（1）? ？=======？ 轻（1） +? 准（3）来称一下。又会有3种情况：1)左面轻：这说明假币一定在第一次称的时候的轻的一组，因为“重（1）”也出现在现在轻的一边，我们已经知道，假币是轻的。轻（3）里面，根据推论，再称一次就可以了。2)右面轻：这里有两种可能：“重（1）”是假币，它是重的，或者“轻（1）”是假币，它是轻的。这两种情况，任意 取这两个中的一个和一个真币称一下。平衡：假币在“重（3）”里面，而且是重的。根据推论也只要称一次。2.2 同时扔一对骰子，当得知“两骰子面朝上点数之和为2”或“面朝上点数之和为8”或“骰子面朝上之和是3和4”时，试问这三种情况分别获得多少信息量？ 解：设“两骰子面朝上点数之和为2”为事件A，则在可能出现的36种可能中，只能个骰子都为1，这一种结果。即： P（A）=1/36，I（A）= P（A）=36≈5.17 比特 设“面朝上点数之和为8”为事件B，则有五种可能：2、6；6、2；4、4；3、5；5、3；即： P（B）= 5/36，I（B）= P（B）= 36/5≈2.85 比特 设“骰子面朝上之和是3和4”为事件C，则有两种可能：3、4；4、3；即： P（C）= 2/36，I（C）= P（C）= 36/2≈4.17 比特 2.3 如果你在不知道今天是星期几的情况下问你的朋友“明天是星期几？”则答案中含有多少信息量？如果你在已知今天是星期四的情况下提出同样的问题，则答案中你能获得多少信息量（假设已知星期一至星期日的排序） 解：（1）P＝1/7 I＝－Log2P＝－Log27 （2）已知今天星期四，问明天是星期几？ 即：明天是星期五是必然事件，不存在不确定性，I＝0。 2.4地区的女孩中有25％是大学生，在女大学生中有75％是身高1.6米以上的，而女孩中身高1.6米以上的占半数一半。假如我们得知“身高1.6米以上的某女孩是大学生”的消息，问获得多少信息量？ 解：设A为女大学生,B为1.6米以上的女孩 则依题意有: , , 所以信息量为 2.5一副充分洗乱了的牌（含52张牌），试问 (1) 任一特定排列所给出的信息量是多少？ (2) 若从中出去抽取13张牌，所给出的点数都不相同时得到多少信息量？ 解：（1）任一排列发生的概率为1/52! I＝log52!＝225.58 bit （2）13张牌点数都不相同发生的概率为1/413 I＝log413＝26 bit 2. 设离散无记忆信源=,其发出的消息为（202120130213001203210110321010021032 011223210），求： （1）此消息的自信息是多少？ （2）在此消息中平均每个符号携带的信息量是多少？ 解：(1) 因为离散信源是无记忆的，所以起发出的消息序列中各符号是无依赖且统计独立的。因此，此消息的自信息就为该消息中各符号自信息之和。 I（）= ?log P（） = ?log= 1.415 比特 I（）= ? log P（）= ?log=2比特 I（）= ?log P（）= ?log=2比特 I（）= ?log P（）= ?log=3比特 则此消息的自信息是： I=14I（）+ 13I（）+12 I（）+ 6I（） 141.415+132+122+63 87.81比特 (2)此消息中平均每个符号携带的信息量