信息论与编码原理第三章.ppt

习 题 5-1 已知一个信道的信道转移矩阵为 求该信道的容量 。 ? 5-2发送端有3种等概符号（x1,x2,x3）,p(xi)=1/3，接收端收到3种符号（y1,y2,y3），信道转移概率矩阵为 (1)求接收端收到一个符号后得到的信息量H（Y）； (2)计算噪声熵H（Y/X）； 习 题 (3)计算当接收端收到一个符号y2的错误概率； (4)计算从接收端看的平均错误概率； (5)计算从发送端看的平均错误概率； (6)从转移矩阵中你能看出该信道的好坏吗？ (7)计算发送端的H（X）和H（X/Y）。 5-3 在有扰的离散信道上传输符号1和0，在传输过程中每100个符号发生一个错传的符号。已知p(0)=1/2，p(1)=1/2，信道每秒钟内允许传输1000个符号。求此信道的信道容量。 5-4写出图5-9所示有扰离散信道的条件转移矩阵，并求信道容量和最佳分布。 图5-9 习 题 5-5设加性高斯白噪声信道中，信道带宽3kHz，又设[(信号功率+噪声功率)/噪声功率]=10dB。试计算该信道的最大信息传输速率R。 5-6已知一个高斯信道，输入信噪比（比率）为3。频带为3kHz，求最大可能传输的消息率。若信噪比提高到15，理论上传送同样的信息率所需要的频带为多少？ 习 题 综合起来，连续单符号加性噪声信道的信道容量为 (5.5-3) 如果噪声为高斯白噪声，则有 (5.5-4) 根据限平均功率最大熵定理，只有当信道输出 为高斯分布时， 取得最大值，即 ～ ，其中， 表示 的平均功率限制值。 信道输入 与信道的噪声之间相互独立，而变量 可以表示为 5.5 连续信道及其容量 根据高斯分布性质：两个高斯分布的加、减仍然服从高斯分布，假设 ～ ，则有 所以 又 5.5 连续信道及其容量 于是可以得出结论：当信道输入服从高斯分布，假设 ～ 时，达到信道容量 ，信道容量为 (5.5-5) 其中， ∕ 称为信噪比。 5.5 连续信道及其容量 要注意的是，这里没有考虑信道对输入信号的衰减，即认为 是经过信道衰减后的功率。实际中，信道的噪声不一定服从高斯分布，根据上文讨论可知，只要噪声是加性的，就可以进行计算，下面不加证明地给出均值为0，方差为 的加性噪声信道容量的界 5.5 连续信道及其容量 上述不等式的意义在于：对于给定的加性噪声信道，如果信道的输入能够使得信道输出为高斯分布，则信道容量到达上限 ，而一般情况下，信道容量是小于该上限的。高斯信道是所有加性信道中最差的信道，任何其他类型加性噪声信道的容量都大于其信道容量。 所以实际中，在平均功率受限的条件下，经常假设噪声服从高斯分布，除了高斯噪声的分析比较方便之外，还因为高斯信道的信道