信息论与编码-信息熵-习题课件.ppt

海尔集团CEO张瑞敏，在一次中层干部会上提出这样一个问题：“石头怎样才能在水上漂起来？” ;No Chance Stay For You !;第二章 习题课 ;（一）信源的分类 ;连续信源;（2）表示信源输出前信源的平均不确定性。 （3）表征变量X的随机性。; ;（六）离散平稳信源的信息熵 ; ;二、典型例题;;;;; 2、居住某地区的女孩中有25％是大学生，在女大学生中有75％是身高1.6米以上的，而女孩中身高1.6米以上的占总数一半。假如我们得知“身高1.6米以上的某女孩是大学生”的消息，问获得多少信息量？; 3、如有6行8列的棋型方格，若有二个质点A和B，分别以等概率落入任一方格内，且它们的坐标分别为 ，但A、B不能落入同一方格内。 （1）若仅有质点A，求A落入任一个格的平均自信息量？ （2）若已知A落入，求B落入的平均自信息量？ （3）若A、B是可分辨的，求A、B同都落入的平均自信息量？;; 4、设离散无记忆信源S的符号集 ，知其相应的概率分布为 。设离散无记忆信源 ，其符号集为 S 信源符号集的两倍， ，并且各符号的概率分布满足;而离散无记忆信源 的概率空间为; 5、(1)为了使电视图像获得良好的清晰度和规定的适当的对比度，需用 个像素和10个不同亮度电平，求传递此图像所需的信息率（比特/秒）。并设每秒要传递30帧图像，所有象素是独立变化的，且所有亮度电平等概率出现。 (2)设某彩电系统，除了满足对于黑白电视系统的上述要求外，还必须有30个不同的色彩度，试证明传输这彩色系统的信息率要比黑白系统的信息率约大2.5倍。 ;解：;每个像素色彩含有的信息量为; 6、为了传输一个由字母A、B、C、D组成的符号集，把每个字母编码成两个二元脉冲序列，以00代表A，01代表B，10代表C，11代表D。每个二元脉冲宽度为5ms。 (1) 不同字母等概率出现时，计算传输的平均信息速率？ (2) 若每个字母出现的概率分别为 试计算传输的平均信息速率？;每个字母占用时间为;此时，传输的???均信息速率为;（2）此离散无记忆信源的概率空间为;（3）;练习题; 泪水和汗水的化学成分相似，泪水为你换来同情，汗水为你赢得成功。 －与其流泪，不如流汗