编码3标准卷.doc

三明学院《信息论与编码》试卷(3) （考试时间：120分钟） 使用班级： 学生数： 任课教师： 龚俊锋 考试类型 闭卷 题 序 一 二 三 四 五 六 七 总分 得 分 阅卷人 一 填空题 1 打字机可以输出M个等可能的字母，由此该打字机可能产生长度为N的序列MN个，且均等可能出现。因此H（X1，X2,……,XN）=___logMN_______________,每个字符熵率为H∞=___logM_______. 2 最大熵定理说明，当信源中各事件的出现概率趋于均匀时，信源的_平均不确定度___最大，只要信源中某一事件的发生占有较大的确定性时，必然引起整个信源的平均不确定性的___下降—。 3 离散信道的输入、输出分别是X和Y，则条件熵H（X|Y）为信道的___信道疑义度__， H（Y|X）为信道的__噪声熵___. 4 采样定理指出，如信号的有效带宽为B，采样频率为fs，则当__fs=2B时，样值序列能够保留原连续信号全部信息量。 5 香农信道公式为___C=Blog(1+S/N)__，从香农公式中可以得出结论，信道有效带宽越宽,信道容量__越大___，信噪比越__大__,信道容量越大，在保持信道容量不变的情况下，可以用__增加信号带宽_____，____增大发射功率___的办法进行通信。 6 对于定长编码，若平均码长 __小于___信源的熵值，则唯一可译码不存在，在译码时必然要引起失真 7 c差错控制的方式分为三类有___重传反馈方式__，___前向纠错方式__，混合纠错方式__. 8 每接收一个完整的码字的码符号序列，就能立即把它译成相应的信源符号，而无需借助后续的码进行判断，这种码称为___即时码___。 二 名词解释 1 率失真函数： 信息率失真函数是在给定信源且又具体定义了失真函数的条件下，信源传输给收信者的信息率的下限值。（n,k）码中的任何码字，均可由这组基底的线性组合生成。C=MG 　　式中 M=(mk-1,mk-2,m0)是k个信息元组成的信息组。这就是说，每给定一个信息组，通过式便可求得其相应的码字。故称这个由k个线性无关矢量组成的基底所构成的k×n阶矩阵G为 码的生成矩阵两个等长字符串之间的汉明距离是两个字符串对应位置的不同字符的个数。换句话说，它就是将一个字符串变换成另外一个字符串所需要替换的字符个数。 (3)信源空间： X (1,1) (1,2) (1,3) (1,4) (1,5) (1,6) P(X) 1/36 2/36 2/36 2/36 2/36 2/36 X (2,2) (2,3) (2,4) (2,5) (2,6) P(x) 1/36 2/36 2/36 2/36 2/36 X (3,3) (3,4) (3,5) (3,6) P(x) 1/36 2/36 2/36 2/36 X (4,4) (4,5) (4,6) P(x) 1/36 2/36 2/36 X (5,5) (5,6) (6,6) P(x) 1/36 2/36 1/36 (4)信源空间： X 2 3 4 5 6 7 8 9 10 11 12 P(x) 1/36 2/36 3/36 4/36 5/36 6/36 5/36 4/36 3/36 2/36 1/36 (5) 2某信源S的信源空间为: 若用U:{0,1}进行无失真信源编码,试计算平均码长的下限值; 把信源S的N次无记忆扩展信源SN编成有效码,试求N=2,3,4时的平均码长; 计算上述N=1,2,3,4,这四种码的信息率. 解: 对其进行Huffman编码: 码长 编码 信符 信符概率 1 0 S22 0.64 2 10 S21 0.16 3 110 S12 0.16 3 111 S11 0.08 码长 编码 信符 信符概率 1 0 S222 0.512 3 100 S221 0.128 3 111 S212 0.128 3 110 S122 0.128 5 11100 S112 0.032 5 11101 S121 0.032 5 11110 S211 0.032 5 11111 S111 0.008 码长 编码 信符 信符概率 1 0 S2222 0.4096 3 100 S2221 0.1024 3 101 S2212 0.1024 4 1100 S2122 0.1024 4 1101 S1222 0.1024 6 111000 S2112 0.0256 6 111001 S2121 0.0256 6 111010