第一章引论-西电个人主页.ppt

有关事项 讲课:（概念、方法） 自学:（数学推导、定理证明） 考试：基本概念，基本计算。 联系方式： email:rsun@ 个人主页：/rsun 第一章 引论 欢迎提出各种问题、意见和建议 是否学过信息论、信源编码或信道编码，程度如何？ 希望重点讲什么？ 希望哪些可以简略？ 希望增加哪些内容？ 对授课方式有什么意见和建议？ 第一章 引论 1.1 通信系统模型 1.2 信息论研究的中心问题及发展 1.1 通信系统模型 通信系统模型 信源 编码器 信道 译码器 信宿 干扰源 通信系统模型进一步细分 信源 信源 编码器 信道 编码器 调制器 信 道 干扰源 解调器 信道 译码器 信源 译码器 信宿 等效离散信道 等效离散信源 等效信宿 信道编码器 信道译码器 各部件功能 信源 产生消息的源，消息可以是文字，语言，图像。可以离散，可以连续。随机发生。 研究的主要问题是消息的统计特性和产生信息的速率 编码器 信源编码器：对信源输出进行变换，求得有效性 信道编码器：对信源编码输出变换，提高抗干扰性 调制器：将信道编码输出变成适合信道传输的方式 各部件功能 信道 信号从发端传到手段的介质 干扰源 系统各部分引入的干扰，包括衰落，多径，码间干扰，非线性失真，加性噪声，主要是统计特性 信道的中心问题是研究信道的统计特性和传信能力，即信道容量 各部件功能 译码器 编码器的逆变换 中心问题是研究各种可实现的解调和译码方法 信宿 信息的接收者 信息、信息科学与信息论 什么是信息？ Inform—information “某人被通知或告知的内容、情报、消息” －－牛津英文字典 广义的信息———信息的形式、内容－－最广泛意义 技术术语的信息－－表达信息所用的形式或载体－－具体但无确切定义 统计信息－－信息表达形式中统计方面的性质－－明确定义的科学名词 －－与内容无关、独立于形式 信息、信息科学与信息论 IT --- 计算机所涉及的各种各样的技术 －－优点：笼统、不明确 适应－种类繁多、不断发展 统一的、全面的、高层次的 什么是信息技术？ 信息、信息科学与信息论 出现于图书馆学－－研究图书文献的检索 计算机出现后－－新的含义 不同国家－－含义不尽相同 发展和长远的观点－－能与信息技术相对应的基础科学 什么是信息科学？ 信息、信息科学与信息论 信息论－统计信息理论 四十年代末期C.E.Shannon，以客观概率信息为研究对象，从通信的信息传输问题中总结和开拓出来的理论。 统计信息理论局限性－－不能解决一些问题 如：人工智能中启发式 有哪些信誉好的足球投注网站和学习 发展的观点－－信息科学所不可缺少的理论 基石 什么是信息理论？ 信息、信息科学与信息论 在通信中对信息的表达分为三个层次：信号、消息、信息。 信号：是信息的物理表达层，是三个层次中最具体的层次。它是一个物理量，是一个载荷信息的实体，可测量、可描述、可显示。 消息：是信息的载体，相对具体的概念，如语言，文字，数字，图像 信息：它是更高层次哲学上的抽象，是信号与消息的更高表达层次。可以定量的描述。信息、物质和能量是构成一切系统的三大要素。三个层次中，信号最具体，信息最抽象。它们三者之间的关系是哲学上的内涵与外延的关系。 通信中的信息含义？ 1.2 信息论研究的中心问题和发展 Shannon信息论的基本任务 1948年shannon发表了“通信的数学理论”奠定了信息论理论基础 基本任务是设计有效而可靠的通信系统 可靠是要使信源发出的消息经过传输后，尽可能准确地、不失真地再现在接收端 有效是用尽可能短的时间和尽可能少的设备来传输一定量的消息 信息论的研究内容 狭义信息论（经典信息论） 研究信息测度，信道容量以及信源和信道编码理论 一般信息论 研究信息传输和处理问题，除经典信息论外还包括噪声理论，信号滤波和预测，统计检测和估值理论，调制理论，信息处理理论和必威体育官网网址理论 广义信息论 除上述内容外，还包括自然和社会领域有关信息的内容，如模式识别，计算机翻译，心理学，遗传学，神经生理学 信息论的研究内容 统计信息论—Shannon信息论—本课程的主要内容 主要研究通信系统的数学描述与定量分析，研究系统的最优状态与优化理论，即研究通信系统 理论上的潜在能力与数学上的极限情况。它是以存在性研究为主体，又称它为数学信息论。 研究内容： 1)??? 信源的描述，信息的定量度量、分析与计算。 2)??? 信道的描