信息科学基础2014_04.pdf

信息科学基础 张云飞 计算数学教研室 Tel 第二章 信息的度量 §2.1 自信息 §2.2 香农熵 §2.3 互信息 §2.4 熵和互信息的其它性质 §2.5 连续型随机变量的信息量 §2.6 最大熵原理 第 信息（information ） 二 章 信 1948年，美国数学家、信息论的创始人香 息 的 农在题为《通信中的数学理论》的论文中指 度 量 出：“信息是用来消除随机不定性的东西.” 1948年，美国著名数学家、控制论的创始 人维纳在《控制论》一书中，指出：“信息 就是信息，既非物质，也非能量.” 信息是事物在相互作用中所“刻画”出的记 录. 其作用在于消除观察者在相应认识上的 不确定性，其数值则以消除不确定性的大 小，或等效地以新增知识的多少来度量. 在大多数情况下，我们听到的和事情的本 质，是存在非常大的差异的！我们听到的是 消息！而不是信息！ 日常直观经验告诉我们，信息是有度量的. 例如对一句话，一件事，人们会产生“这话很 有用，信息量很大”，“这句话没有用”的评价. 说明不同的语言、不同的事件带有不同的信 息量. 一般来说，越是意外的事情带来的信息 量越大. 应该说，信息确是有度量的，而且它 的度量与它所依附事件的复杂度与不确定性有 关. 其实，获取信息的过程即是不确定性减少 的过程. 信息是确定性的增加. 一条消息之所以会含有信息，正是因为它具 有不确定性，一个不具有不确定性的消息是不 会含有任何信息的，而通信的目的就是为了消 除或部分消除这种不确定性. 收到某消息获得 的信息量就是不确定性减少的量，信息是一个 系统不确定性的度量. 马航客机失踪四大谜团 黑匣捞出前并不能完全确定飞机失踪的原因。可 能瞬间在高空解体，或有恐怖分子带炸弹上飞机引 爆，或飞机全机断电，或遇到非常严重的晴空湍 流，或机身结构性损坏。 事发紧急 未发求救信号 据Flightradar24数据，失踪前最后一次高度为0， 倒数第二次为FL350 （正常飞行高度），飞机信号属 于突然间终断，首先即可排除飞机遭遇坠落和发动 机、发电机统统失灵的情况。“飞机坠落，机上的 ELT （应急定位信号发射机）也能发送信号，且该 设备按照设计原理遇水便会发送信号。综合越、马 的信息，并无空管部门知晓飞机的位置。而遭遇断 电则会有应急发电机自动启动，向ELT系统供电。” 据此判断飞机可能遭遇了非常紧急的事件。 遇炸需化验 劫机无迹象 飞机是否遭遇炸弹袭击，被导弹意外击落？飞机 目前暂无证据，一般是通过化验残骸内有无爆炸 物。若遭遇劫机，机组会在应答机上调整一个代 码，地面管制员就知道飞机被劫。除非劫持者非常 懂飞行，驾驶舱遭入侵，机组人员无法操作，否则 就说明飞机遭遇了非常迅速的事态以至于无法发送 信号。同时，劫机也应该有诉求，但目前也没收到 这方面的信息。 此外，专家亦排除飞机没油的可能性，因为飞机 目的地是北京，而失踪时尚未飞进中国。 空中解体有人持异议 当年法航330飞机失事，是飞机探测速度的仪器 （空速管）被冻结。随后飞行员处理失误，最后掉 海。华航澎湖飞机空中解体引发空难，是因为机身 金属疲劳，机械故障处置失误。据现有信息，马航 飞机可能遭遇高空解体，以至于机师无法及时发出 信号。 不过也有人持不同意见。全国政协委员、中国商 用飞机公司副总经理吴光辉表示，现有信息尚不能 判断飞机是在空中解体。 冷热湍流交替可致失控 至于遭遇晴空湍流导致飞机失控的可能，专业人 士认为，晴空乱流在太平洋区域并不罕见，但只有 在冷热湍流交替等极端严重之下才会导致飞机来不 及进行无线电呼救就坠入大海。法航447航班坠落时 就是这种情况，飞机坠海后近一周才发现残骸。 机件故障可能性较低 考虑到波音777机型的优异历史表现，专家认为机 件故障可能性较低，但调查人员仍将研究这一可能 性。此外，即便发生了这情况，除非是立刻失控， 飞机都会有滑翔时间，机师也可以用无线电报告出 现紧急状况，冲压空气涡轮将提供基本动力。 2008年5月12 日 14时28分04秒， 四川汶川