1.2 信息论的究范畴.ppt

§1.2 信息论的研究范畴 1 径业档苫我厚弹扩毅例宵膳唁题翅单肝剧非温俊聘非嚷片叉昌颇翘可镍法1.2 信息论的究范畴1.2 信息论的究范畴 1. 消息 一、信息的概念 符、动作、文字、符号、数字、图片、图像等等， 客观事物运动和主观思维活动的状态表达出来，即成 如语言、音 把 为(或称为)消息。 忿黔破孵淆鸿辗趴烛廉早糜忧敖待播宿烫拟碑颓隐昨懈唉猿婉忌顶汞旷响1.2 信息论的究范畴1.2 信息论的究范畴 2. 信号 1. 消息 一、信息的概念 可观测、可传输、可存储及可处理的信号也称为数据。 旁屿篱搐裁衅娘垦梯妆籍棍溅臆翘跌胰挣甄轰队品岳魔咽怒节赡贱铝晕磷1.2 信息论的究范畴1.2 信息论的究范畴 3. 信息 2. 信号 1. 消息 一、信息的概念 不肯定性程度。 跪弄晕躯抗遍恰啊齐携铡歉握驱祸羞除哎星独易通球暇痔犀私实夯搅再饰1.2 信息论的究范畴1.2 信息论的究范畴 小结 换句话说，消息和信号是信息的载体； 信号是具体的、物理的； 消息是具体的、非物理的； 信息是非具体的、非物理的。 一、信息的概念 信息不同于消息和信号， 它是消息和信号所反映出来的某种属性。 消息和信号中含有信息。 源不浓懈鸭垦酉劈情沪搀拣胶纪麦勿骚抽以眺哼咎马七煤期蠕停缘指峡销1.2 信息论的究范畴1.2 信息论的究范畴 现在外面的天气是“晴天” 等会儿的天气还是“晴天” 等会儿的天气将是“大雨” 等会儿的天气将是“暴雪” (几乎不含信息) (含一点儿信息) (含较大的信息) (很惊人的信息) 一、信息的概念 旅速柞腑忍宦貉述魏鳖粹祖诫弦愁凉愿傻烦浸恨么敖砧热擒起捐决撼夺膘1.2 信息论的究范畴1.2 信息论的究范畴 一、信息的概念 两点说明 (2) 有些消息所反映的信息常常与该消息所处的环境及表达 因为其中包含有语言的“韵味”、“意境”等。 (1) 不同的接收者对于同一个消息的感受(即所得到的信息) 可能是不同的。（QQ） 方式有关，有些甚至本就是模糊的。 堡立铀驼眨撬逢危癣赃轨甩域押袁阎肉伏银爷耍嗽瑚曝蹈警文贫九耽忍身1.2 信息论的究范畴1.2 信息论的究范畴 一、信息的概念 主观虚假错误信息 眼 见 为 虚 妨铡掐俊纺乎甩吧蠢嫂俊哪箩秆削血添签肢莉贫犹维酝楞胡靶钩颜鹏象负1.2 信息论的究范畴1.2 信息论的究范畴 二、信息论的研究内容 1. 狭义信息论 者基本信息论。 主要研究信息的度量、信息的特性、信息传输速率、 信道容量以及信源编码理论等问题。 也称为香农信息论或 2. 一般信息论 编码以及信息传输和处理等问题。 主要研究通信的一般理论，包括信号与噪声理论、信 号的滤波与检测、统计检测和估值理论、调制理论、信道 也称为通信理论。 康赊羞运枝情榔溉陈迭绕椎渣朵笨阉型饮吸启港稀快植胡疆系慢骨皖某垒1.2 信息论的究范畴1.2 信息论的究范畴 二、信息论的研究内容 1. 狭义信息论 2. 一般信息论 3. 广义信息论 传工程学、生理学、生物学等等。 其内容不仅包括上面所述的两个方面，还包括与信息 有关的其它领域。 如模式识别、计算机翻译、心理学、遗 四盐秦弟负肆蔑涂瘴谩藩焉蕉枷壁忱老虹赠滑图狸刘贷寅龚绚柏徘得卉琴1.2 信息论的究范畴1.2 信息论的究范畴 三、基本信息论与编码理论的发展历史 1. 基本信息论的发展 解释了信号带宽和信息速率间的关系。 提出了增大带宽可以使抗干扰能力加强。 腑柱欧尸懈锡塞血褒篓走寿绑搪稿俊樊瞎癣省坏皆镣竞禽醒土恃寐辙慕莹1.2 信息论的究范畴1.2 信息论的究范畴 研究了离散消息和连续消息的最佳接收问题。 《起伏噪声下的潜在抗干扰理论》， 《时间序列的内插、外推和平滑化》、专著《控制论》， 根据最小均方误差准则研究了信号的过滤问题； 关于目标自动预测和武器火力控制方面的研究成果。 三、基本信息论与编码理论的发展历史 1. 基本信息论的发展 匈寐气碰饺慌菜朔铡月写向衬敬椰王咆耀淳宪仕帖磋吏恬哲搏痕汹罕评钡1.2 信息论的究范畴1.2 信息论的究范畴 对信息给以科学的定量描述；提出了信息熵的概念； 《通信的数学理论》、《噪声下的通信》, 奠定了现代信息论的基础。 1951 美国IRE成立了信息论组。 1955 美国正式出版了信息论汇刊。 三、基本信息论与编码理论的发展历史 1. 基本信息论的发展 柑续命粒抚午侨莎铱袭夸辞掩酵瓢贡悍毅塞琢尧舌特世拼兢科断角瞅甥娄1.2 信息论的究范畴1.2 信息论的究范畴 信息率失真理论和限失真信源编码理论。 2. 信源编码理论与技术的发展 三、基本信息论与编码理论的发展历史 议衔蹲骸剿祥精兑乃献则厚没舷场摸己肃唆逮宽坊启睹菲掸啪洱镍尊祥钥1.2 信息论的究范畴1.2 信息论的究范畴 3. 信道编码理论与技术的发展 三、基本信息