信息论与编码理论-第3章信道容量-习题解答-071102.doc

第3章 信道容量 习题解答 3-1 设二进制对称信道的转移概率矩阵为 解: (1) 若，求和。 (2)求该信道的信道容量及其达到信道容量时的输入概率分布。 二进制对称信息的信道容量 BSC信道达到信道容量时，输入为等概率分布，即：{0.5，0.5} 注意单位 3-4 设BSC信道的转移概率矩阵为 1）写出信息熵和条件熵的关于和表达式，其中。 2）根据的变化曲线，定性分析信道的容道容量，并说明当的信道容量。 解：（1）设输入信号的概率颁布是{p,1-p} （2）的变化曲线，是一个上凸函数，当输入等概率分布时达到信道容量。 由于函数H（ε）是一个凸函数，有一个性质： 可知： 假设时此信道是一个二元对称信道，转移概率分布为： 信道容量： 3-10 电视图像由30万个像素组成，对于适当的对比度，一个像素可取10个可辨别的亮度电平，假设各个像素的10个亮度电平都以等概率出现，实时传送电视图像每秒发送30帧图像。为了获得满意的图像质量，要求信号与噪声的平均功率比值为30dB，试计算在这些条件下传送电视的视频信号所需的带宽。 解： 1秒内可以传送的信息量为： 3-11 一通信系统通过波形信道传送信息，信道受双边功率谱密度W／Hz的加性高斯白噪声的干扰，信息传输速率kbit/s，信号功率W。 1）若信道带宽无约束，求信道容量； 解：带限的加性高斯白噪声波形信道的信道容量为 无带宽约束时： 2）若信道的频率范围为0到3KHz，求信道容量和系统的频带利用率（bps/Hz）(注：为系统带宽)；对同样的频带利用率，保证系统可靠传输所需的最小是多少dB？ W=3KHZ 在最大信息速率条件下，每传输1比特信息所需的信号能量记为b 3）若信道带宽变为100KHz，欲保持与2）相同的信道容量，则此时的信噪比为多少dB？信号功率要变化多数dB? 第4章 无失真信源编码 习题 码元/信源符号 码元/信源符号 码元/信源符号 码元/信源符号 4-3： 平均码长： 码元/信源符号 所以编码效率： 仙农编码： 信源符号 符号概率 加概率 码长 码字 S1 0 1 0 S2 2 10 S3 3 110 S4 4 1110 S5 5 11110 S6 6 111110 S7 7 1111110 S8 7 1111111 符号概率 编码 码字 码长 S1 0 0 1 S2 1 0 10 2 S3 1 0 110 3 S4 1 0 1110 4 S5 1 0 11110 5 S6 1 0 111110 6 S7 1 0 1111110 7 S8 1 1111111 7 4-5： 霍夫曼编码： 对X的霍夫曼编码如下： 信源符号 符号概率 编码过程 码长 码字 S1 0.2 0.2 0.26 0.35 0.39 0.61 0 10 2 S2 0.19 0.19 0.2 0.26 0.35 0 0.39 1 11 2 S3 0.18 0.18 0.19 0.2 0 0.26 1 000 3 S4 0.17 0.17 0.18 0 0.19 1 001 3 S5 0.15 0.15 0 0.17 1 010 3 S6 0.10 0 1 0.11 1 0110 4 S7 0.01 0111 4 码元/信源符号 码元/符号 Y的二元霍夫曼编码： 信源符号 符号概率 编码过程 码字 码长 S1 0.49 0.49 0.49 0.49 0.49 0.49 0.49 0.51 0 1 1 S2 0.14 0.14 0.14 0.14 0.14 0.23 0.28 0 0.49 1 000 3 S3 0.14 0.14 0.14 0.14 0.14 0.14 0 0.23 1 001 3 S4 0.07 0.07 0.07 0.09 0.14 0 0.14 1 0100 4 S5 0.07 0.07 0.07 0.07 0 0.09 1 0101 4 S6 0.04 0.04 0.05 0 0.07 1 0111 4 S7 0.02 0.03 0 0.04 1 01101 5 S8 0.02 0 0.02 1 011000 6 S9 0.01 1