信息率失真函数的绘制.doc

课程设计任务书2011—2012学年第一学期 专业： 通信工程 学号： 陈夏 姓名： 080110058 课程设计名称： 信息论与编码课程设计 设计题目： 信息率失真函数的绘制 完成期限：自 年 月 日至 年 月 日共 周 一．设计目的 1、理解信息率失真函数的定义与物理意义； 2、分析离散信源在误码失真下的信息率失真函数表达式； 3、提高综合运用所学理论知识独立分析和解决问题的能力使用关键字： 1 1.1信息率失真函数的定义 1 1.2信息率失真函数的物理意义 2 2信息率失真函数表达式 3 2.1信息率失真函数的定义域 3 2.1.1失真率D的下界 3 2.1.2失真率D的上界 3 2.2参数p的影响 3 2.3信息率失真函数表达式的推导 4 3信息率失真函数的matlab实现 6 3.1实验程序 6 3.2实验结果 7 3.3图像的分析 7 总结 8 参考文献 9 1信息率失真函数 1.1信息率失真函数的定义 研究在限定失真下为了恢复信源符号所必需的信息率，简称率失真理论。信源发出的符号传到信宿后，一般不能完全保持原样，而会产生失真。要避免这种失真几乎是不可能，而且也无必要，因为信宿不管是人还是机器，灵敏度总是有限的，不可能觉察无穷微小的失真。倘若在处理信源符号时允许一定限度的失真，可减小所必需的信息率，有利于传输和存储。率失真理论就是用以计算不同类型的信源在各种失真限度下所需的最小信息率。因此，这一理论是现代所有信息处理问题的理论基础。信息率失真理论是进行量化、数模转换、频带压缩和数据压缩的理论基础。 图1.1 信息率失真函数定义 信源编码器的目的是使编码后所需的信息传输率R尽量小，然而R越小，引起的平均失真就越大。给出一个失真的限制值D，在满足平均失真 ? D的条件下，选择一种编码方法使信息率R尽可能小。信息率R就是所需输出的有关信源X的信息量。将此问题对应到信道，即为接收端Y需要获得的有关X的信息量，也就是互信息I(X;Y)。这样，选择信源编码方法的问题就变成了选择假想信道的问题，符号转移概率p(bj /ai)就对应信道转移概率。 由于互信息取决于信源分布和信道转移概率分布，当p(ai)一定时，互信息I是关于p(bj/ai) 的下凸函数，存在极小值。因而在上述允许信道PD中，可以寻找一种信道p(bj /ai)使给定的信源p(ai)经过此信道传输后，互信息I(X；Y)达到最小。该最小的互信息就称为信息率失真函数R(D)，限定失真为D的条件下，信源输出的最小信息率。即 （1-1） 在信源给定后，希望在满足一定失真的情况下，使信源传输给信宿的信息传输率R尽可能地小。 从信宿来看，就是在满足保真度准则下，寻找再现信源消息所必须获得的最小平均信息量。即在满足保真度准则条件下寻找平均互信息 I(X;Y)的最小值。 （1-2） 1.2信息率失真函数的物理意义 对于给定的信源，在满足保真度准则下，必须传送的最小信息量，它既反映了用户容忍程度,也反映了信息率允许压缩的最小值，R(D)越大,越难压缩，反之可压缩率就大. 对于固定的信源分布，平均互信息量I(X;Y)是信道转移概率 p(bj/ai) 的下凸函数。也就是说:存在一个信道使某一特定信源经过此信道传输时，信道的平均互信息达到极小值. 2信息率失真函数表达式 2.1信息率失真函数的定义域 率失真函数的定义域问题就是在信源和失真函数已知的情况下，讨论允许平均失真度D的最小和最大取值问题，即[Dmin,Dmax]。 2.1.1失真率D的下界 由于平均失真度是非负实数d(xi,yj)的数学期望，因此也是非负实数，即D的下界为0。 （2-1） Dmin＝0，对应于无失真情况，相当于无噪信道，信道传输的信息量等于信源熵，即 R(D)=R(0)=H(X) 允许平均失真度能否达到其下限值0，与单个符号的失真函数有关。 只有当失真矩阵的每一行至少有一个0元素时，信源的平均失真度才能达到下限值0。 2.1.2失真率D的上界 由于I(X;Y)是非负函数，而R(D)是在约束条件下的I(X;Y)的最小值，所以R(D)也是一个非负函数，即R(D)≥0，它的下限值为零。Dmax是满足R(D)=0时所有平均失真度中的最小值。 （2-2） 2.2参数p的影响 R(D)不仅与D有关，还与p有关。概率分布不同， R(D)曲线就不一样。当p=0.25时，如果能容忍的误码率也是0.25，不用传送信息便可达到，即R=0，这就是R(Dmax) =0的含义。 2.3信息率失真函数表达式的推导 （2-3） 称