信息论基础 教学课件 作者 田宝玉 杨洁 贺志强 王晓湘 chapter8.ppt

第8章  波形信道 第8章 波形信道 本章主要内容： 1. 离散时间连续信道 2. 加性噪声信道与容量 3. AWGN信道的容量 4. 有色高斯噪声信道 5. 数字调制系统的信道容量 6. 小结和思考题 §8.1 离散时间连续信道 本节主要内容： 1.时间离散连续信道模型 2.平稳无记忆连续信道 3.多维矢量连续信道的性质 4.离散时间连续信道的容量 离散时间连续信道 时间离散连续信道 如果一个信道的输入与输出只定义在离散时间上，但取值是连续的，这样的信道称为时间离散连续信道，有时简称为连续信道。 这种信道可以通过对时间连续信道在离散时间进行抽样或者对连续信道进行某种变换得到。 这种连续信道的输入与输出分别为随机序列，而序列中符号的取值是连续的。 离散时间连续信道（续） 如果信道是平稳无记忆的，即信道的转移概率不随时间而变，且信道的输出仅依赖于当前的输入，那么离散时间信道的研究可以归结于单符号离散时间信道研究。所以，我们首先研究单符号信道，然后研究多维矢量信道。 8.1.1 时间离散连续信道模型 一般的时间离散连续信道输入与输出均为随机矢量, 设信道的输入和输出分别是长为的序列，输入矢量集合为 ,集合中的矢量为 ,其中 为连续或离散随机变量，概率密度或概率用 表示;输出矢量集合为 ，集合中的矢量为 ，其中 为连续随机变量，概率密度用 表示。信道模型表示为： 其中 为信道的转移概率密度。 8.1.2 平稳无记忆连续信道 一般若信道的转移概率密度满足 (8.1.1) 则称为此信道为离散时间无记忆连续信道，简称为无记忆连续信道，其数学模型为： 如果对于任意正整数m、n，离散无记忆信道的转移概率密度满足： (8.1.2) 则称为平稳或恒参无记忆信道。可见,对于平稳信道， 不随时间变化。这样，平稳无记忆信道的模型就是 对于平稳无记忆信道，可以用一维条件概率密度来描述，其中，信道的输入X与输出Y都是一维随机变量集合。 8.1.3 时间离散连续信道模型 一般的如前所述，一般的时间离散连续信道输入与输出均为随机矢量，称为多维矢量连续信道。这种信道的输入与输出平均互信息也有与离散情况类似的结果。 对于N维矢量信道，输入与输出平均互信息为 (8.1.3) 通过与离散信道类似的推导，可以得到如下结论： 定理8.1.1 对于离散时间无记忆连续信道，有 (8.1.4) 仅当信源无记忆时等式成立。 定理8.1.2 对于离散时间无记忆连续信源，有 (8.1.5) 仅当信源无记忆时等式成立。 8.1.4 离散时间连续信道的容量 一般的与离散信道一样，信道容量是研究的主要内容。在求离散信道容量的过程中，除输入概率归一化的限制之外，可以不做其他限制。 但对连续信道，若不对输入进行附加限制，输入与输出之间的平均互信息的最大值就可能会无限增大。通常这种限制就是输入功率或峰值的限制。 因此，连续信道容量定义为，在信道输入满足某些约束条件下，输入与输出平均互信息的最大值。 1. 单符号连续信道的容量熵 在计算单符号离散时间连续信道的容量时，首先定义一个与输入有关的非负代价函数和一个约束量，信道容量定义为： (8.1.6) 即容量就是在满足约束 的条件下， 的最大值。 实际上，这个有约束最大值随的增加而增加，即约束不等式在取等号时最大值达到最大，所以在求有约束的 最大值时，将约束中的不等式取等号，即 (8.1.7) 上式可分为两种情况来处理： （1）对于 可以变动的情况，则应改变 ，求在满足约束条件下的极值； （2）对于 已经固定的