期末考试自测题信息编码与专自学指导.pdfVIP

《信息编码与加密》课程学习指导资料

本课程学习指导资料根据该课程教学大纲的要求，参照现行采用《信息论与编码理论》

（等编著，高等教育，2005年），并结合网络业余教育的教学特点和教学规

律进行编写，适用于工科类计算机、通信及相关专业学生。

第一部分课程学习目的及总体要求

一、课程的学习目的

《信息编码与加密》是一门理论与实践并重的课程，也是一门理论性非常强的课程。因此，

学习《信息编码与加密》课程，对学生了解和关注这些知识的基本处理方法和研究动态，

具有非常重要的指导意义。学生通过本课程的学习，能够对本专业中很多相关技术的基本处理

方法、发展动态进行很好的掌握和了解，本课程的目的是使学生掌握信息论的基本原理、

方法和编码的基本技术，为以后深入学习信息与通信类课程，为将来从事信息处理方面的

实际工作打下坚实的基础。

二、课程的总体要求

信息编码与加密是一个理论性非常强的学科，因此从理解到掌握都会具有一定难度，需要

学生们认真学习和多上网查阅资料加以理解，并会安排一定数量的练习题和相关实验演示来

配合学习。信息编码与加密课程内容包括：信息量的计算；信息熵的计算；互信息与互信息熵

的计算；失真量与信道容量的关系换算；信道容量与传输信息量的换算；建立实际信道模型；

古典学等。

第二部分课程学习的基本要求及重点难点内容分析

第一章引论

（1）应熟悉的内容

了解通信系统模型的概念；了解shannon信息论。

（2）应掌握的内容

Shannon信息论的问题和局限性。

2、本章重点难点分析

（1）重点

本章主要介绍了Shannon信息论的问题和局限性等，对于学习整个课程是非常重要

的。

（2）难点

本章的难点就在于准确理解Shannon信息论的问题概念。为了学生能够获得好的学

习效果，建议多阅读和查阅相关文献。

(1)用自己的话简述什么是Shannon信息论？

(2)列出Shannon信息论的局限性。

第二章信息量和熵

（1）应熟悉的内容

要求能理解信息量和熵。。

（2）应掌握的内容

深刻理解信息量和熵的计算。

2、本章重点难点分析

（1）重点

主要介绍了信息量和熵的若干问题。要熟练计算熵。

（2）难点

熵的计算。为了学生能够获得好的学习效果，建议多阅读和查阅相关文献。

第三章离散信源无失真编码

（1）应熟悉的内容

信源及其分类。

（2）应掌握的内容

深刻理解离散无信源的等长编码、离散无信源的不等长编码。

2、本章重点难点分析

（1）重点

本章是本课程重点章节之一。主要介绍了离散无信源的编码方法。离散无信源的

不等长编码。

（2）难点

对于离散无信源的不等长编码，需要通过认真阅读课件及加以理解。

3、本章典型例题分析

例题1已知某信源A的概率分布情况为：

x,x,x,x

1234

A=11