第6章有噪信道编码定理.pptVIP

有噪信道编码定理;主要内容 ;信道编码的目的;信道的统计特性;错误概率不仅与信道的统计特性有关，还与接收端的译码规则有关。;;译码规则b： 收到“0”译成“1”；收到“1”译成“0” 在规则b确定的情况下，错误概率为： 发送“0”，收到“1”，译成“0”——正确的译码，译码正确的概率为2/3； 发送“0”，收到“0”，译成“1”——错误的译码，译码错误的概率为1/3;译码规则;译码规则举例;平均错误概率;平均错误概率;最大后验概率准则;最大后验概率准则另一种描述;最大似然译码准则;平均错误概率的计算;平均错误概率的计算;例题6.2;费诺不等式;对于此二元对称信道（假设等概）可以利用最大似然译码准则选取译码规则，使得PE尽量的小。 F(b1)=a1 F(b2)=a2 注：b1=a1=0，b2=a2=1 PE=0.5*0.01+0.5*0.01=0.01 一般要求在-6到-9数量级上。;码一：重复编码 将待发送的消息码重复发送几遍，可以减小错误的发生，提高可靠性。例如，重发三次，n=3 输入序列 （αi） 输出序列（βj） 000（许用码字） 000 001 001 010 010 011 011 100 100 101 101 110 110 111 （许用码字） 111;码一：重复编码（n=3）的PE 利用最大似然译码准则选取译码规则时需要知道信道矩阵，可计算得;重复编码可以使平均错误概率减小的原因 重复编码三次时，α1(000)对应的输出序列为 β1(000)， β2 (001) ， β3 (010) ， β5 (100) ， 与α1比较之后可发现，或是相同，或是发生了一位错误，但是译码的结果都是正确的，降低了译错的可能性，平均错误概率减小了。 若继续增大n，PE可逐渐减小，n可以无限增大吗？ ;答案是否定的，n不可以无限量增大 因为n增大的同时，会降低信息传输率 编码后的信道的信息传输率 R=log M / n（比特/码符号） M不变的情况下，n增大，R变小 所以不能为了使平均错误概率降低而一味???增大n。 寻找好的编码方法的思路： 找到一种编码方法，使PE相当低，但R能保持在一定水平。;码二：将8个符号均作为许用码字传送 M=8，log M=3，R=log M / n=3/3=1 同样利用最大似然译码准则选取译码规则，并可求得 PE =3*10-2 ，比10-2还大。 可发现，在二元信道的n次扩展信道中有2n个输入，从中取出M个做许用码字，M大， PE大，R大； M小， PE小，R小。;码三：在这个二元三次扩展信道中，取M=4再比较一下PE和R 取{000， 011，101，110} PE =2*10-2， R=2/3,与M=8比较都变小了。 从8个中取4个有70种方法，选两组比较一下;码四：M=4，n=5，从二元五次扩展信道中32个输入符号中取4个，再比较一下PE和R R=log4 /5=2/5;汉明距离：码字对应位置上不同码元的个数D（ αi ， βj ） 两个二元码字Ci和Cj的距离等于对应位置上码元的模二和。 码C的最小距离：这个码C中，任意两个码字的汉明距离的最小值dmin。 ;;最小距离译码准则;总结 编码，应采用选择M个消息所对应的码字之间最小距离dmin尽可能的大。 译码，将接收的序列βj译成与之距离最近的那个码字α* 。;有噪信道编码定理;第六章作业