第十一章信息论基础.PDF

第十一章 信息论基础 1． 果已知发送的独立符号中，符号“E” 和“Z” 的概率分别为 0.1073，0.00063 ；又知中文电报中，数字“0 ”和“8”的概率分别为 0.155 和 0.06 。试求它们的信息量大小。（单位:bit） A 3.22,10.63,2.69,4.06 2 ．有四个消息为 A 、B 、C、D ，分别以概率 1/4，1/8，1/8 和 1/2 传送，假设消息的出现是相互独立的，试求消息的熵。（单位:bit/符号） A 1.75 3 ． 四进制、八进制的每一波形包含的信息量各是二进制包含信息 量的多少倍？ A 2 ，3 4 ．一个系统传送四脉冲组：每个脉冲宽为 1ms，高度分别为 0，1， 2 ，3V,并且等概率出现。每一脉冲组由四个脉冲组成，它的后面总跟 着一（－1）V 的脉冲，它的宽度也为 1ms，用来把各脉冲组分开， 如图 P11.1 所示。试问： （1） 该系统传输的码元速率为多少？（单位:波特） A 1000 （2 ） 该系统传输的平均信息速率为多少？（单位:bit/s） A 1600 5 ． 电视机的图像每秒传输25 帧，每帧有 625 行；屏幕的宽度与 高度之比为 4 比 3 。设图像的每一个象素的亮度有 10 个电平，各象 素的亮度相互独立，且等概率出现。试求：电视图象给观众的平均信 息速率为多少？（单位:bit/s） A 7 4.3 10 × 6 ．一个由字母 A 、B 、C、D 组成的系统。 (1)如果用二进制“0 ”“1”对字母进行编码：即00 代替 A ，01 代 替 B ，10 代替 C，11 代替 D 。设二进制符号“0 ”“1”的宽度各为 10ms， 求： a) 若各字母等概率出现，计算平均信息速率。（单位:bit/s） A 100 b) 若各字母不等概率出现 P(A)=1/5,P(B)=1/4,P(C)=1/4,P(D)=3/10.计 算平均信息速率。（单位:bit/s） A 99.3 (2)如果用四进制脉冲“0 ”“1”“2 ”“3 ”对字母进行编码。即0 代 替 A ， 1 代替 B ，2 代替 C，3 代替 D 。设各字母等概率出现。求： a) 脉冲宽度为 10ms 时，计算平均信息速率。（单位:bit/s） A 200 b) 脉冲宽度为 20ms 时，计算平均信息速率。（单位:bit/s） A 100 7 ．信源有六个符号，其相应的概率如表 11－4 所示。用二进制“1” “0 ”码对信源符号进行编码，得到码字如表中A 、B 、C、D 、E 、F 各组所示。问： (1)那几组码子是唯一可译码？ A A 、B 、C、E a) 唯一可译码中，那一组码的平均码长最短？ A .E 8．设二进制对称信道 BSC 的错误转移概率为P0 。求P=0,0.2,0.5 γ 时的信息容量。（信源输入符号速率为 s ） γ 0.278 γ A s ， s ，0 9 ．设 非 对 称 二 进 制 信 道 如 图 P11.3 所 示 。 已 知 ： ( ) P 0a.25 ( ) P 0a.75 ( / P )b 0a.75 ( /P b) 0a.25 ( / P )b 0a.1 1 2 1 1 2 1 1 2 P b a ( / ) 0.9 。求： 2 2 （1） I （A ；B ）为多少？（单位:bit/符号） A 0.2759