55证明无损信道的充要条件是信道转移概率矩阵中每一列有一个且.DOC

第五章 离散信道的信道容量 5.1 设信道输入符号集X = { , ,... }，输出符号集Y = { , ...} 如果信道是无噪确定信道，则有，此时信道容量为 --------------------------------------------------------------------------------------------------------------------- 5.2 判断以下几种信道是不是准对称信道. (2) (3) (4) 解：（1）为行对称信道，不是准对称信道； （2）行集合和列集合均不同，不是准对称信道； （3）是行对称信道，也是准对称信道； （4）是准对称信道。 --------------------------------------------------------------------------------------------------------------------- 5.3 信源的最佳编码使信道码符号等概分布，而且平均码长最短，这种说法对吗？ 答：这种说法不对，最佳码是指对给定的信源，使平均码长达到最小的编码方法称为最佳编码，编出的码称为最佳码。将概率大的信息符号编以短的码字，概率小的符号编以长的码字，使得平均码字长度最短。 5.8 对题图5-2所示二进制删除信道，有q（x=0）=α，q（x=1）=1-α。 求平均互信息量I(X;Y)； α为何值，I(X;Y)达到最大值C； 根据（2）中的α值，计算I（x;y）值，即求I（0;0）,I(1;0)，I(0;e). 解：（1）由图知，转移概率矩阵为P= 由于q（x=0）=α，q（x=1）=1-α，设q（x=0）为q（x），q（x=1）为q（x），则 由w（y）=，j=1,2,3，可算出 w（y）==α（1-q） w（y）==q w（y）==（1-α）（1-q） 平均互信息量 I（X;Y）=H(Y)-H(Y|X) =-+ =-（1-q）[αlogα+(1-α)log(1-α)] （2）由信道矩阵知，该信道为准对称信道。因此当信源等概率分布，即α=时，I(X;Y)达到最大值C，此时 C=1-q （3）由于I（x；y）=log=log w（y）=w（y）=（1-α），w（y）=q 所以 I（0；0）=log=log=1 I（1；0）=log=log=∞ I（0；e）=log=log=0 ------------------------------------------------------------------------------- 5.9 给定离散信道P=，计算信道容量C。 解：P矩阵的行列式|P|=≠0，说明P是一个非奇异方阵，则 P的逆矩阵 P=[p（y|x）]= H（Y|x）=-=-0.3ln0.3-0.7ln0.7=0.611 H（Y|x）=-=-2×0.5ln0.5=0.693 信道容量 C=ln k=1,2 =ln[exp(2.5×0.611-3.5×0.693)+exp(-2.5×0.611+1.5×0.693)] =ln（e+e） =0.021（奈特/码符号） ------------------------------------------------------------------------------ 5.11 求题图5-3所示离散信道的信道容量C,及对应的输入最佳分布,并求出 ε=0, ε=1和 ε=0.5时的信道容量. 1 和2时信道的转移概率对称分布，所以可以设信源的概率分布为 由此可以得出输出分布为 因此 解得 这时 C=max I(X;Y)= 当=0时，为无损信道,H()=0,所以 C=1.585比特/符号 当=1时，同样为无损确定信道,H()=0,所以 C=1.585比特/符号 当=1/2时，H()=1,所以 C= +-*1 = 1 比特/符号 5.13 计算例5-11中串行信道的总信道容量C。 解: (1)先计算总信道的信道转移概率矩阵 P=P1*P2= . = 可见该串行信道的总信道矩阵P等于第一级信道的信道矩阵P1，从而概率分布满足 p(