chap4-信源编码1.ppt

通信传输系统设计目标 信息通过信道传输到信宿的过程即为通信。要做到既不失真又快速地通信，需要解决两个问题： 在不失真或允许一定失真条件下，如何提高信息传输速度----这是本章要讨论的信源编码问题. 在信道受到干扰的情况下，如何增加信号的抗干扰能力，同时又使得信息传输率最大----这是下章要讨论的信道编码问题. 信源编码 信源编码 信源编码的主要任务： 减少冗余，提高编码效率 具体来说，就是针对信源输出符号序列的统计特性，寻找一种能把信源输出符号序列变成最短码字序列的一种方法。 学习重点 基本概念 编码器、码的分类 平均码长、编码效率 码树 Kraft不等式 变长编码 无失真变长信源编码定理（香农第一定理） 变长编码方法 实用信源编码方法 5.1 基本概念--------无失真信源编码 5.1 基本概念--------编码器 一.编码器模型 由于信源编码可以不考虑抗干扰问题，所以它的数学模型比较简单。下图为一个编码器模型: 编码器 例 输入是信源符号集: x为编码器所用的编码符号集，包含r个元素{ }，称为码符号(码元) . 由码符号 组成的输出序列 称为码字. 其长度 称为码字长度或码长，全体码字 的集合C称为码或码书 . 编码器将信源符号集中的信源符号 （或长为N的信源符号序列 ）变成由码符号组成的长为的与信源符号一一对应的输出序列。即 : 5.1 基本概念--------码的分类 对于编码器而言，根据码符号集合X中码元的个数不同以及码字长度是否一致，有以下一些常用的编码形式： (1)二元码和r元码 若码符号集X={0,1} ，编码所得码字为一些适合在二元信道中传输的二元序列，则称二元码。二元码是数字通信与计算机系统中最常用的一种码。若码符号集共有 r 个元素，则所得之码称为 r 元码. 分组码 若每个信源符号按照固定的码表映射成一个码字，则称为分组码。否则就是非分组码. 如果采用分组编码方法，需要分组码具有某些属性，以保证在接收端能够迅速而准确地将接收到的码译成与信源符号对应的消息。下面讨论分组码的一些直观属性。 示例 例:设有二元信道的信源编码器,其信源概率空间为 选择码元 二元信道它的信道基本符号集为{0,1}.若将信源S通过一个二元信道传输,就必须把信源符号si变化成由0,1组成的码元序列. 无失真信源编码-------示例 编码方式 可用不同的码元序列,即二元序列Wi使其与信源符号si一一对应,这样可有多种二元码。 定长码和变长码 根据码长，可以分为两类 定长码 码中所有码字地长度都相同 变长码 码字长短不一，即码符号个数不同 定长码和变长码 奇异码与非奇异码 根据信源符号与码字是否一一对应，可以分为两类 奇异码 一组码中有相同的码字 非奇异码 一组码中所有码字都不相同，即所有信源符号映射到不同的码符号序列。 奇异码与非奇异码 非唯一可译码和唯一可译码 任意有限长的码元序列，只能惟一地分割成一个个的码字，便称为唯一可译码。 例：{0,10,11}是唯一可译码。 例如100111000，只能被分割成10，0，11，10，0，0。 奇异码不是唯一可译码， 非奇异码中有唯一可译码和非唯一可译码。 非唯一可译码和唯一可译码 即时码和非即时码 惟一可译码中又可以分为即时码和非即时码。 如果接收端收到一个完整的码字后，不能立即译码，还需要等到，下一个码字开始接收后才能判断时候可以开始译码，这样的码叫非即时码。 即时码又称为非延长码，任意一个码字都不能时其它码字的前缀部分，有时又叫异前缀码。 即时码和非即时码 即时码 定义 如果在接收端收到一个完整的码字后，能立即进行译码，则这样的码叫做即时码；若在接收端收到一个完整的码字后，还需等到下一个码字的接收后才能判断是否可以译码，则这样的码叫做非即时码。 即时码 关键 判断：下列各种编码中那个是即时码？ 编码1：00，10，011，010 编码2：00，01，011，111 关键：对即时码而言，在码书中任意一个码字都不是其他码字的前缀。 码的分类 码的N次扩展码 二次扩展码示例 [例] 设信源S的概率空间为： 信源S的二次扩展信源： 5.1.2 码树 对于给定码字的全体集合，可以用码树来描述。 对于r进制的码树，如下页图所示 码树与码的对应关系 树根??码字起点； 树枝数??码的进制数； 节点??码字或码字的一部分；