信息论与编码期末复习试题B含答案.doc

莆田学院期末考试试卷 （B）卷 2010 — 2011 学年第 一 学期 课程名称： 信息论与编码 适用年级/专业： 08/电信、通信 试卷类别 开卷（ ） 闭卷（√） 学历层次 本科 考试用时 120分钟 《考生注意：答案要全部抄到答题纸上，做在试卷上不给分》 一、填空题（每空2分，共22分） 1.广义的通信系统模型是由信源、 ① 、 ② 、译码器和信宿五个部分组成。 2.信息熵H(X)是对信源的 ① 的描述。要对信源输出的消息进行无失真的编码，平均每个信源符号至少需要用H(X)个码符号。（最大值、平均不确定性） 3. 已知某信道的信道转移矩阵为，且输入为等概分布，若根据极大似然译码准则确定译码规则，相应的平均错误概率为 ① 。 4.对于连续信源来说，当输出幅度受限时，服从 ① 分布的随机变量具有最大熵；对于平均功率受限的连续随机变量，当服从 ② 分布时具有最大熵。（均匀、指数、高斯） 5. 若离散无记忆信源的信源符号有q个，信源熵为H（X）,那么对其进行N次扩展后的信源符号共有 ① 个，N次扩展信源XN的熵等于 ② 。 6. 对于给定的 ① ，I(X;Y)是输入分布的上凸函数，因此总能找到一种概率分布（即某一种信源），使信道所能传送的信息率为最大。 7. 信道容量是完全描述信道特性的参量，信道实际传送的信息量必然 ① 信道容量。（不大于、不小于或等于） 8.非奇异码是指一种分组码中的所有码字都 ① 的码。（相同、不相同） 二、简答题（每小题5分，共20分） 1. 简述什么是马尔可夫信源？ 2.简述H(X|Y)和H(Y|X)在信道描述中的物理含义。 3.什么是即时码？它和唯一可译码的关系？ 4.简述平均互信息I(X;Y)的物理含义？ 三、计算及编码题（第1题13分，其余每小题15分，共58分） 1. 某气象员报告气象状态，有四种可能的消息：晴、云、雨和雾。 若每个消息是等概率分布的，那么发送每个消息最少所需的二元脉冲数是多少？ 又若四个消息出现的概率分别为，问在此情况下消息平均所需的二元脉冲数最少是多少？如何进行编码？ 2. 设离散无记忆信源 其发出的消息为 （202120130213001203210110321010021032011223210），求 此消息的自信息是多少？ 在此消息中平均每个符号携带的信息量是多少？ 信源的熵H(X)是多少？ 3. 求下列信道的信道容量，已知信道转移矩阵为。 4. 设一线性分组码具有一致校验矩阵如下： （1）求这分组码共有多少个码字？写出此分组码的所有码字，并判断101010是否是码字？ （2）此分组码的生成矩阵G=？ （3）码字间的最小距离dmin及此码的纠错能力。 （4）若接收到的序列为R=（110100），且假设错误的发生在其纠错能力范围之内，那么其伴随式S是什么？并指出错误发生在什么地方。 莆田学院期末考试参考答案及评分标准 2010 — 2011 学年第 一 学期 （A）卷 课程名称： 信息论与编码 适用年级/专业： 08/电信、通信 试卷类别 开卷（ ）闭卷（√） 学历层次 本科 考试用时 120 分钟 一、填空题（每空2分，共22分） 1. ① 编码器 ② 信道 2. ① 平均不确定性 3. ① 1/3 4. ① 均匀 ② 高斯 5. ① qN ② NH(X) 6. ①信道转移概率 7. ① 不大于（或小于等于） 8. ① 不相同 二、简答题（每小题5分，共20分） 1．有一类信源，它在某时刻发出的符号仅与在此之前发出的有限个符号有关，而与更早些时候发出的符号无关，这类信源称为马尔可夫信源。 2. 几个熵在信道描述中的物理含义： H(X|Y)--- 信道疑义度，表示如果有干扰的存在，接收端收到Y后对信源仍然存在的不确定性。也称为损失熵，表示信源符号通过有噪信道传输后所引起的信息量的损失。（3分） H(Y|X)--- 噪声熵，它反映了信道中噪声源的不确定性。（2分） 3. 无须考虑后续的码符号就可以从码符号序列中译出码字，这样的唯一可译码称为即时码。（3分） 唯一可译码包含即时码和非即时码。（2分） 4.平均互信息I(X;Y)是收到Y以后所消除的对信源X不确定性，也就是从Y所获得的关于X的平均信息量。 三、计算及编码题（第1、3题