桂电信息论与编码试卷.doc

假设黑白消息出现前后有关联，其依赖关系为：，，，，求其熵 ； 2.二元对称信道如图。　　　　　　　　　　　1）若，，求和； 2）求该信道的信道容量和最佳输入分布。 3.信源空间为试分别构造二元和三元霍夫曼码，计算其平均码长和编码效率。4.设有一离散信道，其信道传递矩阵为，并设，试分别按最小错误概率准则与最大似然译码准则确定译码规则，并计算相应的平均错误概率。5.已知一（8，5）线性分组码的生成矩阵为。求：1）输入为全00011和10100时该码的码字；2）最小码距。 6.设某一信号的信息传输率为5.6kbit/s，在带宽为4kHz的高斯信道中传输，噪声功率谱NO=5×10－6mw/Hz。试求：（1）无差错传输需要的最小输入功率是多少？（2）此时输入信号的最大连续熵是多少？写出对应的输入概率密度函数的形式。 ’）.黑白气象传真图的消息只有黑色和白色两种，求：1） 黑色出现的概率为0.3，白色出现的概率为0.7。给出这个只有两个符号的信源X的数学模型。假设图上黑白消息出现前后没有关联，求熵；2） 假设黑白消息出现前后有关联，其依赖关系为 ，，，，求其熵 2）由题意可知该信源为一阶马尔科夫信源。 （2分）由 （4分） 得极限状态概率 （2分） （3分） 3） （1分） （1分） 。说明：当信源的符号之间有依赖时，信源输出消息的不确定性减弱。而信源冗余度正是反映信源符号依赖关系的强弱，冗余度越大，依赖关系就越大。（2分） 六、（18’）.信源空间为，试分别构造二元霍夫曼码，计算其平均码长和编码效率。 七（6’）.设有一离散信道，其信道传递矩阵为，并设，试分别按最概率准则与最大似然译码准则确定译码规则， 并计算相应的平均错误概率。1）（3分）最小似然译码准则下，有， 2）（3分）最大后验概率准则下，有， 八（10(）.二元对称信道如图。　　　　　　　　　　　1）若，求和；2）求该信道的信道容量。 解：1）共6分　　　　  2）， （3分）此时输入概率分布为等概率分布。（1分） 九、（18(）设一线性分组码具有一致监督矩阵 1）求此分组码n=?,k=?共有多少码字？ 2）求此分组码的生成矩阵G。 3）写出此分组码的所有码字。 4）若接收到码字（101001），求出伴随式并给出翻译结果。 解：1）n=6,k=3,共有8个码字。（3分） 2）设码字由得 （3分） 令监督位为，则有 （3分） 生成矩阵为 （2分） 3）所有码字为000000，001101，010011，011110，100110，101011，110101，111000。（4分） 4）由得 ，（2分）该码字在第5位发生错误，（101001）纠正为（101011），即译码为（101001）（1分）