信道率失真函数课件.pptVIP

内容4.1平均失真和信息率失真函数4.2离散信源和连续信源的R(D)计算1

重点与难点?重点：失真函数、平均失真、信息率失真函数R(D)、信息率失真函数的计算。?难点：信息率失真函数R(D)、信息率失真函数的计算。2

引言?第2章所讲的信源熵，是针对不失真的情况。而在实际信息处理过程中，往往允许有一定的失真，例如连续信源发出的消息，由于其可能取值有无限多种，信源熵无穷大，要想传输这样的信息，必须经过A/D转换，这就引起量化失真。3

?人们的视觉和听觉都允许有一定的失真，电影和电视就是利用了人的视觉残留，使人没有发觉影片是由一张张画面快速连接起来的。耳朵的频率响应也是有限的，在某些实际场合中只需保留信息的主要特征就够了。所以，一般可以对信源输出的信息进行失真处理，降低信息率，提高传输率。那么在允许一定程度的失真条件下，能够把信源信息压缩到什么程度，至少需要多少比特的信息率才能描述信源呢？本章主要讨论在一定程度的失真情况下所需的最少信息率，从分析失真函数、平均失真出发，求出信息率的失真函数。4

4.1平均失真和信息率失真函数5

?在实际问题中，信号有一定的失真是可以容忍的。但是当失真大于某一限度后，信息质量将被严重损伤，甚至丧失其实用价值。?要规定失真限度，必须先有一个定量的失真测度。?为此引入失真函数。6

4.1.1失真函数?假如某一信源X,输出样值x,x∈{a,a,…a},经ii12n信道传输后变成y,y∈{b,b,…b},如果:j没有失真j12mxi＝yjxi≠yj产生失真?失真的大小,用一个量来表示,即失真函数d(xi,yj),以衡量用y代替x所引起的失真程度。ji?失真函数定义为：7

失真函数?将所有的d(x,y)排列起来,用矩阵表示为:ij失真矩阵m=n或m≠n?例：设信源符号序列为X={0,1},编码器输出符号序列为Y={0,1,2},规定失真函数为失真矩阵d(0,0)＝d(1,1)=001d(0,1)＝d(1,0)=1d(0,2)＝d(1,2)=0.50128

失真函数?注意：失真函数d(x,y)的数值是依据实ij际情况，用y代替x所导致的失真大小是j人为决定的。i?比如上例中，用y=2代替x=0和x=1所导致的失真程度相同，用0.5表示；而用y=0代替x=1所导致的失真程度要大，用1表示。9

失真函数失真函数形式可以根据需要任意选取,最常用的有:?均方失真:?绝对失真:?相对失真:适于连续信源适于离散信源?误码失真:10

失真函数?均方失真和绝对失真只与x-y有关，而不是分别ij与x和y有关，在数学上处理比较方便；相对失ij真与主观特性比较匹配，因为主观感觉往往与客观量的对数成正比，但在数学处理中就要困难得多。实际选择一个合适的、完全与主观特性匹配的失真函数是非常困难的，更不用说还要易于数学处理。当然不同的信源应有较好的失真函数，所以在实际问题中还可提出许多其他形式的失真函数。11

失真函数?汉明失真矩阵?对于二元对称信源(m=n),X={0,1},Y={0,1},汉明失真矩阵:12

序列编码情况的失真函数13

补充知识—数学期望14

补充知识—数学期望15

4.1.2平均失真?x和y都是随机变量,所以失真函数d(x,y)也是随ijij机变量,限失真时的失真值只能用数学期望表示?将失真函数的数学期望称为平均失真：?平均失真–对给定信源分布p(ai)经过某一种转移概率分布为p(b体量度。ji|a)的有失真信源编码器后产生失真的总16

4.1.2平均失真p(yj|x)信源编码器xiyij转移概率分布为p(y|x)的信源编码器ji?失真函数d(x,y)：ij–描述了某个信源符号通过传输后失真的大小?平均失真：–描述某个信源在某一试验信道传输下的失真大小,它对信源和信道进行了统计平均,是从总体上描述整个系统的失真。17

L长序列编码情况的平均失真?如果假定离散信源输出符号序列X＝{XX…X…12lX},其中L长符号序列x=[xx…x],经信源编码Lii1i2iL后,输出符号序列Y={YY…Y…Y},其中L长符号12lL序列y=[yy…y],则失真函数定义为jj1j2jL?平均失真18

信息率失真函数R(D)?如图所示，信源X经过有失真的信源编码器输出Y，将这样的编码器看作存在干扰的假想信道，Y当作接收端的符号。这样就可用分析信道传输的方法来研究限失真信源问题。XY信源编码器假想信道将信源编码器看作信道19

信息率失真函数R(D)?信源编码器的目的是使编码后所需的信息传输率R尽量小，然而R