信息论基础理论与应用7第五章有噪信道编码.ppt

第五章 有噪信道编码 在无损无噪信道上，只要对信源的输出进行恰当的编码，总能以最大信息传输率Ｃ（信道容量）无差错地传输信息。 一般的信道总存在噪声或干扰，信息传输会造成损失，那么在有噪信道中怎么能使消息通过传输后发生错误最少？　 ————香农第二定理（信道编码定理） 5.4 有噪信道编码定理 定理5.4 有噪信道编码定理：设无记忆信道[X，P(y|x)，Y], P(y|x)为信道传递概率,其信道容量为C。当信息传输率RC时，只要码长足够长，总可以在输入XN符号集中找到M(=2nR)个码字组成的一组码（ 2nR，n）和相应的译码规则，使译码的错误概率任意小（PE→0） 5.4 有噪信道编码定理 定理5.4 有噪信道编码逆定理：设无记忆信道[X，P(y|x)，Y],其信道容量为C。 P(y|x)为信道传递概率, 。当信息传输率RC时，则无论码长n多长，总也找不到一种编码，使译码的错误概率任意小（PE→0） 5.6 纠错编码的基本概念 检错和纠错 检错：当信息在信道上传输发生错误时，译码器能发现传输有无，并及时告诉接受者。 纠错：指译码器能发现传输有误并自动纠正这个错误的能力 5.7 纠错码的分类 5.8 线性分组码 5.9 几种重要的码 编码的Matlab实现 编码 code = encode(MSG, n, k, method, opt) MSG————k位的消息 n ————— 码长 method———’ linear/(binary/decimal’：线性码，‘cyclic’：循环码，’hamming’,汉明码 opt————— 生成多项式（线性码时用G） 解码的Matlab实现 解码 msg = decode(MSG, n, k, method, pol) MSG————k位的消息 n ————— 码长 method———’ linear/(binary/decimal)’：线性码，‘cyclic’：循环码，’hamming’,汉明码 pol————— 生成多项式（线性码时用G） Hamming码的matlab产生 生成多项式 pol=cyclpoly(n,k) 生成矩阵 G=hammgen(r) 产生Hamming的G、H pol=cyclpoly(7,4) %产生生成多项式 [H,G,n,k] = hammgen(3，pol);%G、H m=de2bi(0:15); %产生消息序列 c=mod(m*G,2)； 完成编码 产生Hamming的G、H pol=cyclpoly(7,4) %产生生成多项式 [H,G,n,k] = hammgen(3，pol);%G、H m=de2bi(0:15); %产生消息序列 c=mod(m*G,2)； 完成编码 若调用封装的函数，则可一步完成 pol=cyclpoly(7,4); m=de2bi(0:15); c=encode(m,7,4,’hamming/binary’,pol); 产生Hamming的文件 pol=cyclpoly(7,4); m=de2bi(0:15); c=encode(m,7,4,’hamming/binary’,pol); noise=randerr(16,7,1); c=xor(c,noise); msg=decode(c,7,4, ’hamming/binary’,pol) pol=cyclpoly(7,4) %产生生成多项式 m=de2bi(0:15); c=encode(m,7,4,’hamming/binary’,pol); 噪声 Noise=randerr(16,7) 噪声 Noise=randerr(16,7,2) 加噪声 c=xor(c,noise); 解码 还原成十进制数 本章小结 1、错误概率和译码规则 2、错误概率和编码方法 3、有噪信道编码定理 4、纠错码的概念和分类 5、线性分组码 6、循环码 7、卷积码。 例1 考虑把一个1bit的信息重复编码。该编码器实现 “0” →”000” “1” →”111” 这时n=3,k=1,r=2,采用下表来译码 1 111 ？ 110 ？ 101 ？ 011 ？ 100 ？ 010 ？ 001 0 000 译出的数据 接受到的序列 可以检测2个错误 如果采用下表来译码，则 1 111 1 110 1 101 1 011 0 100 0 010 0 001 0 000 译出的数据 接受到的序列 可以纠