信息论模拟试题2.pdfVIP

信息论与编码模拟试题2 1、设离散无记忆信源 X a 0 a 0 a 0 a 01 2 3 4    3 1 1 1   p      8 4 4 8  起发出的消息为202120130213001203210110321010021032011223210，求 （1）此消息的自信息是多少？ （2）在此消息中平均每个符号携带的信息量是多少？ （3）信源熵H （X）是多少？ 2、设有一信源，它在开始时以pa( )0.6,pb( )0,3,pc( )0.1的概率发出的符号记作 1 ，如果 为 时，则 为 的概率为 ；如果 为 时，则 为 的概率 X1 X a1 X abc, ,2 X1 b X abc, ,2 3 1 1 也为 ；如果 为 时，则 为 的概率为 ，为 的概率为0，而且后面发出 的 X c1 X ab,2 c Xi 3 2 概率只与X 有关，又pX( X )pX( X ),i 3。试画出转态转移图，并计算H 。 i1 i i1 2 1    x x x1 2  3、设信源  通过一干扰信道，接受符号为Y(y,y )，信道传递概率如     1 2   p 0.6 0.4 图所示，求 x 1 y1 x2 y2 y x （1）收到消息 后获得的关于 的信息量；（5/6，1/6；3/4，1/4）1 1 （2）H(X),HY( ),H(XY, ),H(XY),HY( X),I(XY; ) 。 4、考虑一个（8,4）系统线性分组码，其一致校验方程为： c c c c 5 1 2 4 c c c c 6 1 3 4 c c c c 7 1 2 3 c c c c 8 2 3 4 （1）写出生成矩阵和校验矩阵； （2）接收序列Y ，求伴随式和错误图样及发送码字。