2014年秋信息论课件第6章_信道编码.ppt

信息论基础B第6章 信道编码  任课老师：干宗良 博士（讲师）江苏省图像处理与图像通信重点实验室 第6章 信道编码 信道编码是以信息在信道上的正确传输为目标的编码，可分为两个层次上的问题： 如何正确接收载有信息的信号 －－线路编码 如何避免少量差错信号对信息内容的影响 －－纠错编码 本章内容 有扰离散信道的编码定理 纠错编译码的基本原理与分析方法 线性分组码 卷积码 编码与调制的结合－－TCM码 运用级联、分集与信息迭代概念的纠错码 6.1 信道编码的基本概念 一、差错图样（error pattern） 定量地描述信号的差错，收、发码之“差” ： 差错图样E＝发码C－ 收码R （模M） 差错类型 差错符号：由符号发生差错引起，也叫信号差错，信号差错概率用误码元率表示 差错比特：由信息比特发生差错引起，也叫信息差错，信息差错概率用误比特率表示 对于二进制传输系统，符号差错等效于比特差错； 对于多进制系统，一个符号差错到底对应多少比特差错却难以确定。因为一个符号由多个比特组成。 差错图样类型 随机差错：若差错图样上各码位的取值既与前后位置无关又与时间无关，即差错始终以相等的概率独立发生于各码字、各码元、各比特； 突发差错：前后相关、成堆出现。突发差错总是以差错码元开头、以差错码元结尾，头尾之间并不是每个码元都错，而是码元差错概率超过了某个额定值。 二、纠错码分类 从功能角度：检错码 、纠错码 码元与原始信息位的关系：线性码、非线性码 对信息序列的处理方法：分组码、卷积码 差错类型：纠随机差错码、纠突发差错码、介于中间的纠随机/突发差错码。 构码理论：代数码、几何码、算术码、组合码等 三、差错控制系统分类 前向纠错（FEC）：发端信息经纠错编码后传送，收端通过纠错译码自动纠正传递过程中的差错 反馈重发（ARQ）：收端通过检测接收码是否符合编码规律来判断，如判定码组有错，则通过反向信道通知发端重发该码 混合纠错（HEC）：前向纠错和反馈重发的结合，发端发送的码兼有检错和纠错两种能力 6.1.2矢量空间与码空间 F表示码元所在的数域，对于二进制码，F代表二元域{0,1}，设n重有序元素的集合V= {Vi }, 若满足条件： 1、V中矢量元素在矢量加运算下构成加群； 2、V中矢量元素与数域F元素的标乘封闭在V中； 3、分配律、结合律成立， 则称集合V是数域F上的n维矢量空间，或称n维线性空间，n维矢量又称n重(n-tuples)。 矢量空间与基底 注意： 1、n维矢量空间一定包含0矢量 2、n维矢量空间中的各矢量可能线性无关，也可能线性相关 矢量空间中矢量的关系 对于域F上的若干矢量 线性组合： 线性相关： 　　　　　　　　 其中任一矢量可表示为其它矢量的线性组合 线性无关或线性独立：一组矢量中的任意一个都不可能用其它矢量的线性组合来代替。 矢量空间与基底 3、一组线性无关的矢量 ，线性组合的集合就构成了一个矢量空间V，这组矢量 就是这个矢量空间的基底。 n维矢量空间应包含n个基底 基底不唯一 二元域GF(2)上三重矢量空间 以（100）为基底可张成一维三重子空间V1，含21 =2 个元素，即 以(010)(001)为基底可张成二维三重子空间V2，含 22 =4个元素，即 以(100)(010)(001)为基底可张成三维三重空间V,含 23 =8个元素，V1和V2都是V的子空间。 矢量空间 两个矢量正交：V1?V2＝ 0 两个矢量空间正交：某矢量空间中的任意元素与另一矢量空间中的任意元素正交 两个矢量空间的基底正交，则两个矢量空间正交 正交的两个子空间V1、V2互为对偶空间 (Dual Space)，其中一个空间是另一个空间的零空间（null space，也称零化空间）。 码空间 分组编码的任务 选择一个ｋ维n重子空间作为码空间。 确定由k维k重信息空间到ｋ维n重码空间的映射方法。 码空间的不同选择方法，以及信息组与码组的不同映射算法，就构成了不同的分组码。 6.1.3随机编码 运用概率统计方法在特定信道条件下对编码信号的性能作出统计分析，求出差错概率的上下限边界，其中最优码所能达到的差错概率上界称作随机码界。 用这种方法不能得知最优码是如何具体编出来的，却能得知最优码可以好到什么程度，并进而推导出有扰离散信道的编码定理，对指导编码技术具有特别重要的理论价值。 在(N,K)分组编码器中随机选定的码集有qNM种 第m个码集(记作{c}m )被随机选中的概率是 设与这种选择相对应的条件差错概率是Pe({c}m) 全部码集的平均差错概率是