信息论基础与编码 教学课件 作者 王军选 田小平 曹红梅 03章.ppt

3.1 信道的基本概念 信道是传送信息的载体（信号所通过的通道）。信息是抽象的，信道则是具体的。信道的作用在信息系统中用于传输与存储信息，而在通信系统中则主要用于传输。 3.1 信道的基本概念 3.1.1 信道的数学模型与分类 3.1.2 信道参数 3.1.3 信道容量定义 3.1.1 信道的数学模型与分类 1、信道的分类 信道可以从不同角度加以分类，常用的有下面几种分类。 从工程物理背景——传输介质类型。 从数学描述方式——信号与干扰描述方式。 从信道本身的参数类型——恒参与变参。 从用户类型——单用户与多用户。 3.1.1 信道的数学模型与分类 3.1.1 信道的数学模型与分类 3.1.1 信道的数学模型与分类 2、信道模型 （1）调制信道模型 调制信道是为研究调制与解调问题所建立的一种广义信道，它所关心的是调制信道输入信号形式和已调信号通过调制信道后的最终结果，对于调制信道内部的变换过程并不关心。 具有如下共性： ① 有一对（或多对）输入端和一对（或多对）输出端。 ② 绝大多数的信道都是线性的，即满足线性叠加原理。 ③ 信号通过信道具有一定的延迟时间而且它还会受到（固定的或时变的）损耗。 ④ 即使没有信号输入，在信道的输出端仍可能有一定的功率输出（噪声）。 3.1.1 信道的数学模型与分类 3.1.1 信道的数学模型与分类 由以上分析可知，信道对信号的影响可归结为两点：一是乘性干扰 ，二是加性干扰 。 实际的物理信道中，根据信道传输函数 的时变特性的不同可以分为两大类：一类是 基本不随时间变化，即信道对信号的影响是固定的或变化极为缓慢的，这类信道称为恒定参量信道，简称恒参信道；另一类信道是传输函数 随时间随机速快变化，这类信道称为随机参量信道，简称随参信道。 3.1.1 信道的数学模型与分类 （2）编码信道模型 编码信道包括调制信道、调制器和解调器，是一种数字信道或离散信道。由于信道噪声或其他因素的影响，将导致输出数字序列发生错误，因此输入、输出数字序列之间的关系可以用一组转移概率来表征。 二进制数字传输系统的一种简单的编码信道模型如图3-3所示 ： 3.1.1 信道的数学模型与分类 输出的总的错误概率为： 由于信道噪声或其他因素影响导致输出数字序列发生错误是统计独立的，根据无记忆编码信道的性质可以得到下式 ： 图3-4给出了一个无记忆多进制编码信道模型。 3.1 信道的基本概念 3.1.1 信道的数学模型与分类 3.1.2 信道参数 3.1.3 信道容量定义 3.1.2 信道参数 1. 信道疑义度 输入信源X的熵： (3-3) 是在接收到输出Y 以前，关于输入变量X 的先验不确定性的度量，所以称为先验熵。一般信道中有干扰（噪声）的存在，已知输入变量X的概率分布为 ；而当接收到输出符号 后，输入符号的概率分布发生了变化，变成后验概率分布 。那么，接收到输出符号 后，关于X的平均不确定性为: (3-4) 条件熵： (3-5) 这个条件熵称为信道疑义度。 3.1.2 信道参数 2．平均互信息 已知代表接收到输出符号 以前关于输入变量X的平均不确定性，而 代表接收到输出符号后关于输入变量X的平均不确定性。 （3-6） 称为X和Y之间的平均互信息。它代表接收到输出符号后平均每个符号获得的关于X的信息量。它也表明，输入与输出两个随机变量之间的统计约束程度。 根据式（3-3）和式（3-5）得