信息论与编码第三章复习.ppt

3.2.2对称DMC信道JiLiangUniversity对称信道矩阵，它的每一行和每一列都是同一集合各个元素的不同排列。可当信道输入呈等概率分布时，强对称离散信道能够传输最大的平均信息量，即达到信道容量：3.2.3准对称DMC信道JiLiangUniversity准对称离散信道定义：一个n行m列单符号离散信道矩阵[P]的行可排列，列不可排列。但是矩阵中的m列可分成S个不相交的子集，各子集分别有m1,m2,…,ms个元素(m1+m2+…+ms=m)，由n行mk(k=1,2,…,s)列组成的子矩阵[P]k具有可排列性。当输入分布达到等概时，达到信道容量：JiLiangUniversity第三章信道与信道容量第三章信道与信道容量第三章信道与信道容量第三章JiLiangUniversity对称DMC信道01无干扰信道02单符号加性信道03限时限频高斯白噪声信道04分类05离散单符号信道06离散序列信道07连续信道08多维无记忆加性信道（注水法）09JiLiangUniversity3.1信道的分类和表示参数JiLiangUniversitySTEP4STEP3STEP2STEP1一般信道的数学模型信道的分类实际的信道信道的参数(1)一般信道的数学模型JiLiangUniversity信道编码器信道编码器基带调制器信道+噪声调制器信道+噪声解调器写入头存储介质+介质缺陷读出头基带解调器输入输出黑箱(1)一般信道的数学模型JiLiangUniversity转移概率矩阵01输入02输出03信道模型04X∈{a1,a2,…,ai,…,an}05Y∈{b1,b2,…,bj,…,bm}06JiLiangUniversity(2)信道的分类JiLiangUniversity根据信道上有无干扰分类根据输入和输出之间有无反馈根据输入输出随机变量个数的多少分类（单符号/多符号）根据信道有无记忆特性分类根据输入输出个数分类（单用户/多用户）根据输入输出随机信号的特点分类(连续/离散）(3)实际的信道JiLiangUniversity实际信道的带宽总是有限的，所以输入和输出信号总可以分解成随机序列来研究。一个实际信道可同时具有多种属性。最简单的信道是单符号离散信道。0102(4)信道参数JiLiangUniversity二进制离散信道模型离散无记忆信道离散输入、连续输出信道波形信道二进制离散信道模型二进制离散信道模型的组成1二进制离散信道模型由一个允许输入值的集合X＝{0,1}和可能输出值的集合Y={0,1}，以及一组表示输入、输出关系的条件概率（转移概率）组成。2b）二进制对称信道（简称为BSC信道）0输入10输出11-p1-ppp二进制对称信道（a）离散无记忆信道（DMC信道）JiLiangUniversityB．离散无记忆信道x1x2··xny1y2···ym联合条件概率C．离散输入、连续输出信道JiLiangUniversity离散时间无记忆信道假设信道输入符号选自一个有限的、离散的输入字符集X={a1，a2，…，an}，而信道输出未经量化（m－》∞），这时的译码器输出可以是实轴上的任意值，即y={-∞，∞}。这样的信道模型为离散时间无记忆信道。说明：JiLiangUniversity它的特性由离散输入X、连续输出Y以及一组条件概率密度函数pY(y/X=ai),i=1,2,…,n来决定。这类信道中最重要的一种是加性高斯白噪声（AWGN）信道，对它而言Y=X＋G,式中G是一个零均值、方差为的高斯随机变量，X=ai，i=1，2，…，n。当X给定后，Y是一个均值为ai、方差为的高斯随机变量D．波形信道JiLiangUniversity波形信道是这样一种信道模型：其输入是模拟波形，其输出也是模拟波形。假设输入该信道的是带限信号x（t），相应的输出是y（t），那么01y（t）=x（t）＋n（t）02这里n（t）代表加性噪声过程的一个样本函数。03引言：信道容量定义3.2离散单个符号信道及其容量JiLiangUniversity标题01无干扰离散信道02对称DMC信道0