信息论与编码 教学课件 作者 张莲 周登义 余成波 1.PPT

信息论与编码 电子信息与自动化学院 周登义 二零零八年九月 一、学时数：48H 课程类型：考试课 二、成绩计算： 平时成绩：20% 期末考试：80% 1.1 信息的概念 一、信息的定义、特征与性质 1、信息的定义：（P2） 信息是认识主体所感受的或所表达的事物的运动的状态和运动状态变化的方式。 有关信息的其他定义： 1 ）信息就是信息，既不是物质也不是能量。 2 ）信息是一种场 3 ）信息是事物相互作用的表现形式 4 ）信息是事物联系的普遍形式 5 ）信息是物质的普遍属性 6 ）信息是选择的自由度 7 ）信息是通信传输的内容 8 ）信息是加工知识的原材料 9 ）信息是控制的指令 10）信息就是数据 11）信息就是情报 12）信息就是知识 2、信息的特征与性质： 参见（P3页） 二、信息的分类： 参见（P3-4页） 信号是载荷信息的实体，信号仅仅是外壳，信息则是内核。 例如：“北京成功举办2008年奥运会”这个信息，用汉语“北京成功举办2008年奥运会”的消息来表述，然后通过Internet网络传送到另一地的收信者。由于汉语消息不能直接在Internet网络的传输信道中传输。一般，需先将汉文变换成二进制码，再转换成适合信道传输的信号，才能在信道中传输。在接收端，通过各种反变换，若无干扰的话就可恢复出原汉语消息，收信者收到E_Mail后，从而获得了信息。 可见，信息、消息和信号是既有区别又有联系的三个概念。 1.2 信息传输系统的组成及其各部分的功能 模拟信息传输系统（参见P5页图1.2.1） 数字信息传输系统（参见P6页图1.2.2） 可见，通信过程是一种消除不确定性的过程。不确定性的消除，就获得了信息。原先的不确定性消除得越多，获得的信息就越多。如果原先的不确定性全部消除了，就获得了全部的信息；若消除了部分不确定性，就获得了部分信息；若原先不确定性没有任何消除，就没有获得任何信息。 二、数字信息传输系统： 编码器可分为二种，即信源编码器和信道编码器。1）信源编码是对信源输出的消息进行适当的变换和处理，目的是为了提高信息传输的效率。 2）信道编码是为了提高信息传输的可靠性而对信号进行的变换和处理。 香农信息论分别用几个重要的定理给出了编码的理论性能极限。 有线通信 明线 对称电缆 同轴电缆 同轴电缆结构图 微波中继通信的构成 4）噪声源 信息传输不可避免地会引入噪声和干扰，为了分析方便，把在系统其他部分产生的干扰和噪声都等效地折合成信道上干扰，看成是由一个噪声源产生的，它将作用于所传输的信号上。这样信道输出的已是叠加了干扰的信号。 由于干扰或噪声往往具有随机性，所以，信道的特性也可以用概率空间来描述。 5）译码器 把信道输出的编码信号（已迭加干扰）进行反 变换，以尽可能准确地恢复原始的信源符号。 译码器也可分成信源译码器和信道译码器。 6）信宿 消息传送的目的地，即接收消息的人或机器设备。 注意： 给出的模型只适用于收发两端单向通信的情况。 它只有一个信源和一个信宿，信息传输也是单向的。 在实际的情况中，信源和信宿各有若干个，即信道有 多个输入和多个输出，另外信息传输方向也是双向进 行的。要研究这些通信系统，只需对两端单向通信系 统模型作些适当修正，就可引出多用户通信系统模型 因此，上图所示的是最基本的通信系统模型，是 信息论所要研究的对象。 四、数字信息传输系统的主要优点：（参见P6页） ①抗干扰能力强 ②可靠性高 ③必威体育官网网址性好 信息论的两条不同发展途径 信号的设计和编码理论 香农(Shannon C.E.) 两篇名著 “通信的数学理论” “噪声中的通信” 微弱信号检测理论 维纳(Wiener N.) 两本名著 “平稳时间序列的内插、外推和平滑方法” “控制论” 。 1928年，哈特莱（R.V.Hartley）发展了奈奎斯特的工作，第一次从通信的观点出发对信息量作了定义，提出在s个代码中选N个码即构成sN个可能的消息，提出“定义信息量H=Nlogs”，哈特莱的工作对后来香农的思想有很大影响。 1930年，维纳（N.Wiener）开始把Fourier分析方法全面引入到随机信号的研究中来。 1936年，兰德勒（V.D.Landon）发表了他第一篇有关噪声的论文。 1936年，阿姆斯特朗（E.H.Armstrong）提出频率调制，指出增加信号带宽可以使抑制噪声干扰的能力增强，使调频实用化，出现了调频通信装置。 练习与作业 1、信息、消息、信号的定义是什么？三者的关系。 2、简述一个通信系统包括的各主要功能模块及其作用。 一、信