信息论与编码期末复习试题A含答案.doc

莆田学院期末考试试卷 （A）卷 2011 — 2012 学年第 一 学期 课程名称： 信息论与编码 适用年级/专业： 09/电信（通信） 试卷类别 开卷（ ） 闭卷（√） 学历层次 本科 考试用时 120分钟 《考生注意：答案要全部抄到答题纸上，做在试卷上不给分》 一、简答题（每小题8分，共32分） 1. 对于一个一般的通信系统，试给出其系统模型框图，并结合此图，解释数据处理定理1.（16分）一黑白气象传真图的消息只有黑色和白色两种，即信源X={黑,白}。设黑色出现的概率为P(黑)=0.3，白色的出现概率P(白)=0.7。求 （1）假设图上黑白消息出现前后没有关联，求熵H(X)； （2）假设消息前后有关联，其依赖关系为P(白/白)=0.9，P(黑/白)=0.1， P(白/黑)=0.2，P(黑/黑)=0.8，求此一阶马尔可夫信源的熵H2(X)； （3）分别求上述两种信源的剩余度，比较和的大小，并说明其物理意义。 2.（12分）一信源产生概率为P(1)=0.005, P(0)=0.995的统计独立二进制数符。这些数符组成长度为100的数符组。我们为每一个少于3个“1”的源数符组提供一个二进制码字，所有码字的长度相等。 （1）求出为所规定的所有源符组都提供码字所需的最小码长。 （2）求信源发出一数符组，而编码器无相应码字的概率。 3.（10分）已知一个（6，3）线性分组码的全部码字为001011，110011，010110，101110，100101，111000，011101，000000。求该码的生成矩阵与监督矩阵。 4.（8分）求二元删除信道的信道容量。 5.（16分）现有一幅已离散量化后的图像，图像的灰度量化分成8级，如下表所示。表中数字为相应像素上的灰度级。 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 2 2 2 2 2 2 2 2 2 2 2 2 2 2 2 2 2 3 3 3 3 3 3 3 3 3 3 4 4 4 4 4 4 4 4 4 4 5 5 5 5 5 5 5 6 6 6 6 6 6 7 7 7 7 7 8 8 8 8 8 另有一无噪无损二元信道，单位时间（秒）内传输100个二元符号。 （1）现将图像通过给定的信道传输，不考虑图像的任何统计特性，并采用二元等长码，问需多长时间才能传送完这幅图像？ （2）若考虑图像的统计特性（不考虑图像的像素之间的依赖性），求这图像的信源熵H(S)，并对每个灰度级进行霍夫曼最佳二元编码，问平均每个像素需用多少二元码符号来表示？这时需多少时间才能传送完这幅图像？ （3）从理论上简要说明这幅图像还可以压缩，而且平均每个像素所需的二元码符号数可以小于H(S)比特。 莆田学院期末考试参考答案及评分标准 2011 — 2012 学年第 一 学期 （A）卷 课程名称： 信息论与编码 适用年级/专业： 09/电信（通信） 试卷类别 开卷（ ）闭卷（√） 学历层次 本科 考试用时 120 分钟 一、简答题（每小题8分，共32分） 1. 信息论研究的对象是通信系统(3分)，其系统模型如下：（3分） 数据处理定理：信息通过多级处理后，信息只减不增。（2分） 2. 答：香农信息论讲述了三大定理，香农第一定理，香农第二定理和香农第三定理。（3分）香农第二编码定理又称为有噪信道编码定理，其内容为：设有一个离散无记忆平稳信道，其信道容量为C。当信息传输率RC，只要码长n足够长，则总存在一种编码，可以使平均译码错误概率任意小。（5分） 3. . 若码的任意一串有限长的码符号序列只能被唯一的译成所对应的信源符号序列，则称此码为唯一可译码（2分）；在译码是无须参考后面的码字就可以作出判断的唯一可译码叫做即时码（2分）；构造唯一可译码的充要条件是克拉夫特（Kraft）不等式，即各码字的长度ki要满足 ;r是进制数，q是信源符号数。（4分） 4.信源编码是把信源发出的符号序列转化到适合在信道上传输的符号序列（2分）；信道编码是把信源编码器发出的无规律的符号序列通过增加多余的码元使其成为有规律的符号序列（2分）；由于信源存在着剩余度的问题，所以需要通过信源编码提高信息传输的有效性；信息传输的过程中可能发生错误，为了提高信息传输的可靠性，所以要进行信道编码（4分） 二、证明题（每小题6分，共6分） (4分) 当条件概率和先验概率相等时等式成立。 （2分） 三、计算题（第1、5题各16分，第2题12分，第3题10