率失真函数.pptVIP

第9章 率失真函数 一般概念与定义 不等长编码平均长度不超过HL(U)/logD+1/L可以无失真 等长编码[HL(U)+e]/logD失真不会超过给定值 传输信息允许失真，信息率可以下降 信道失真 d(u,v)是U和V的非负函数，U,V为离散变量 U＝V={a1,a2,…,ak} 平均失真 率失真函数 PD是满足 所有Pji的集合 失真－率函数 率失真函数的基本性质 率失真函数定义域 不允许最小失真小于某一值，D≥Dmin Dmax是使R(D)=0的D的最小值 令PD是使I(Pji)＝0的全体转移概率的集合 率失真函数的定义域 I(Pji)=0的充要条件是U和V统计独立 率失真函数的定义域 例 Q(0)=Q(1)=0.5 R(D)性质 R (D )是下凸函数 R(D)性质 R(D)性质 R (D )是D的连续单调减函数 R(D)性质 R(D)性质 有失真时的逆信源编码定理 当速率小于R(D)时，不论采取什么方式，平均失真必大于D. 有失真时的逆信源编码定理 DMS R(D)的计算 拉格朗日函数 DMS R(D)的计算 DMS R(D)的计算 S的几何含义 DMS 求R(D)步骤 DMS 求R(D)步骤 DMS 求R(D)步骤 连续信源 连续信源 定理9.3.3 例9.3.2 信源输出是平均值为零，方差为 的独立高斯变量 例9.3.2 例9.3.2 Information Theory and Coding Theory 11 11 10 01 00 允许失真 100 011 010 001 000 等长编码 111 110 10 01 00 不等长编码 0.10 0.15 0.25 0.25 0.25 2.25bit 3bit 2bit P(v|u) U V 失真不超过D 时传输所需的最小互信息量 给定信息率，找最小的失真的编码方式 0 1 1 0 E 1 1 0.2 0.2 失真定义 V=0,1, D=0.5*0.2+0.5*0.2=0.2 V=E, D=0.5 Dmax=0.2 使 达到最小，且 使 达到最小，且 因为 I(P)为凸下函数 减函数 单调减函数 足够小 =0 设假若存在一种编码方式，当 时 信源输出u的平均失真 而由假设 对所有u 使 关于P(v|u)最小 上式是在假设所有 大于0的情况下求得的 s是点 处率失真函数的斜率： j=1,2,3,…J 解出 2.由 解出 1 3.由 解出S 4.代入 例