通信原理第7版第1章课件稿.ppt

信息及其度量 §1.4 信息是消息的内涵； 通信的目的在于传输消息中所包含的信息； 消息中不确定的内容才构成信息； 信息量就是对这种不确定性的定量描述。 引言 信息具有以下特性： 在当今信息社会中，信息是最宝贵的资源之一。 时效 压缩 存储 传输 相对 共享 存在 度量 扩充 原则： 度量方法与消息的种类无关。 与消息的重要程度无关。 举例： “美国世贸大楼被炸（9.11事件）”（时效性） “明天下雨” 可见： 消息中所含信息量和不可预测性或不确定性有关。 消息所表达的事件越不可能发生，信息量就越大。 如何度量消息中所含的信息量 ? 根据概率论知识：事件的不确定性 可用事件出现的概率来描述。 ？ 原则： 度量方法与消息的种类无关。 与消息的重要程度无关。 举例： “美国世贸大楼被炸（9.11事件）”（时效性） “明天下雨” 可见： 消息中所含信息量和不可预测性或不确定性有关。 消息所表达的事件越不可能发生，信息量就越大。 如何度量消息中所含的信息量 ? ？ 根据概率论知识：事件的不确定性 可用事件出现的概率来描述。 信息量 I 可用概率 P 来度量： I = f [P(x)] P ?1，I?0 P ?0，I?? P(x) P(y), I(x) I(y) 相加性 a= 2，比特(bit) ，简记为b a= e，奈特(nat) a=10，哈特莱(Hartley) 1 nat=1.44 b 为什么 取对数 ？ 1. 离散消息 x 的信息量 概率相同，每个符号蕴含的信息量也相同； 二进制的每个码元含 1 （b) 四进制的每个码元含 2 （b) 推广：M进制的每个码元含 log2M （b) 【1-1】 二进制信源（0，1） 【1-2】 四进制信源（0，1，2, 3） 每个四进制符号可用 2 个二进制符号表示。 解： 试求：等概独立发送符号时，每个符号的信息量 。 评注 例 例 —— 信源中每个符号所含信息量的统计平均值。 设 则 统计独立的M个符号的离散信源的平均信息量为  H与热力学中的熵形式一样，故称为信源的熵。 2. 离散信源的平均信息量 ——信源中每个符号所含信息量的统计平均值。 2. 离散消息的平均信息量 比较例【1-3】与【1-2】可知： 等概时，熵最大: 评注 例 解 利用信息相加性概念来计算： 评注 利用熵的概念来计算： 例 解： 归纳： 基本概念 信息度量 性能指标 模型/分类/通信方式 信息量/信源熵 有效性/可靠性 本章内容: 第1章 绪 论 通信系统性能指标 §1.5 西安电子科技大学 通信工程学院 课件制作：曹丽娜 西安电子科技大学 通信工程学院 课件制作：曹丽娜 西安电子科技大学 通信工程学院 课件制作：曹丽娜 西安电子科技大学 通信工程学院 课件制作：曹丽娜 西安电子科技大学 通信工程学院 课件制作：曹丽娜 先让我们借助调幅（AM）无线广播系统来认识它们： * 一般模型反映了通信系统的共性。实际中，根据不同的传送 对象和研究内容，有不同形式的通信系统。如：模、数 * 可从不同角度进行分类： * 信息具有普遍存在性（即存在于任何事物的运动和变化中）；可扩充或压缩性；可存储与传输性；相对性（不同的认识主体观察到的信息不同）；可度量、可共享和时效性（信息具有“生命周期”）。 信息必须依附于一定的物质形式存在，这种承载信息的物质就是消息。 ? 同样的信息可用不同形式的消息来表述。 ? * 绪 论 通信原理（第7版） 樊昌信 曹丽娜 编著 第1章 基本概念 信息度量 性能指标 模型/分类/通信方式 信息量/信源熵 有效性/可靠性 本章内容: 第1章 绪 论 通信的基本概念 §1.1 击鼓 鸣金 电报 烽火 电话 电视 因特网 数字化 智能化 高速化 宽带化 移动化 个