信息论与编码1绪论.pptVIP

*信息论的发展历史011924年，Nyquist提出信息传输理论；单击此处添加小标题021928年，Hartly提出信息量关系；单击此处添加小标题031946年，柯切尼柯夫提出信号检测理论；单击此处添加小标题041948年，Shannon提出信息论，“通信中的数学理论单击此处添加小标题*电磁理论和电子学理论对通信理论技术发展起重要的促进作用211820－1830年，法拉第发现电磁感应1864麦克斯韦预言电磁波存在，1888年赫兹验证该理论激光技术使通信进入光通信时代莫尔斯1832－1835建立电报系统。1876年Bell发明电话1895年马可尼发明了无线电通信微波电子管导致微波通信系统，微波雷达系统4365*信息理论与编码武汉理工大学理学院胡国政*课程计划总学时48，其中讲课40学时，实验8学时交作业和实验报告总成绩由两部分组成，平时成绩占30％，考试成绩占70％计划讲授教材的一至七章*教材和参考书：参考书：1．信息论与编码，曹雪虹张宗橙编，北京邮电大学出版社，20012．信息论—基础理论与应用，傅祖芸编著，电子工业出版社，20013．信息理论与编码，姜丹钱玉美编著4．信息论与编码，吴伯修归绍升祝宗泰俞槐铨编著，1987教材：信息理论与编码，吕锋等编，人民邮电出版社*课程概述当今的时代是一个信息的时代，信息处理技术的不断进步极大的影响了我们的生活，使我们的生活质量得到很大提高。本课程将介绍信息科学的基础理论和基本方法，课程将基于一个通讯系统的抽象数学模型进行展开，课程的数学基础为概率论。整个课程可分为基础理论和编码理论两部分组成*学习方法本课程以概率论为基础，数学推导较多，学习时主要把注意力集中到概念的理解上，不过分追求数学细节的推导。学习时一定要从始至终注意基本概念的理解，不断加深概念的把握。学习时注意理解各个概念的“用处”，结合其他课程理解它的意义，而不要把它当作数学课来学习，提倡独立思考，注重思考在学习中的重要性。*单击此处添加小标题单击此处添加小标题单击此处添加小标题添加标题第一章绪论信息的概念信息论研究的对象、目的和内容信息论的发展简史与现状打开率35%25%20%10%*1信息的概念从哲学的角度上讲，信息是构成物质世界的三大支柱之一，其他两个是物质和能量。但是有史以来，人们都没有对信息下过一个确切的定义。就像对于物质和能量一样。可以说我们生活在信息的海洋之中，没有信息就没有世界，当然也就没有我们人类社会。人类利用信息利用信息的历史非常悠久，而且随着人类社会的发展而发展。到了现代，信息的利用已经非常重要，以至于我们当今生活的社会被称作信息社会。可见信息的重要。*信息虽无确切定义，但是却具有两个明显的特征：广泛性与抽象性。广泛性客观世界充满着信息人类离不开信息知识、书本是有用信息的积累抽象性三大要素是：物质、能量与信息。三要素中物质是基础，是实体。能量是物质运动的形式，E=mc2，物质可转换成能量，而能量又是改造客观世界的主要动力。*信息：它依附于物质和能量，但又不同于物质和能量。没有信息就不能更好地利用物质和能量，人类利用信息和知识改造物质，创造新物质，提高能量利用效率，发现新能量形式。信息也是客观存在的，它是人类认识、改造客观世界的主要动力，是人类认识客观世界的更高层次。就狭义而言，在通信中对信息的表达分为三个层次：信号、消息、信息。*消息：(或称为符号)是信息的数学表达层，它虽不是一个物理量，但是可以定量地加以描述，它是具体物理信号的进一步数学抽象。信号：是信息的物理表达层，是三个层次中最具体的层次。它是一个物理量，是一个载荷信息的实体，可测量、可描述、可显示。如电信号、光信号等。*信息：信息是指各个事物运动的状态及状态变化的方式。人们从来自对周围世界的观察得到的数据中获得信息。信息是抽象的意识或知识，它是看不见、摸不到的。人脑的思维活动产生的一种想法，当它仍储存在脑子中的时候就是一种信息。信息是信号与消息的更高表达层次。三个层次中，信号最具体，信息最抽象。它们三者之间的关系是哲学上的内涵与外延的关系。*信息的主要特征信息来源于物质，又不是物质本身；它从物质的运动中产生出来，又可以脱离源物质而相对独立地存在；信息来源于精神世界，但又不局限于精神领域；信息与能量息息相关，但又与能量有本质的区别；信息具有知识的本性，但又比知识的内涵更广泛；信息可以被主体获取和利用。*信息论基础的重要性信息论是信息科学和技术的基本理论,信息科学大厦的地基;总之,信息论是高层次信息技术人才必不