信息论与编码-课后习题答案.docx

信息论与编码课后习题答案

信息论与编码课后习题答案

lbrack;信息论与编码rsqb;课后习题答案

1、在认识论层次上研究信息的时候，必须同时考虑到形式、含义和效用三个方面的因素。

2、1948年，美国数学家香农发表了题为“通信的数学理论”的长篇论文，从而创立了信息论。

3、按照信息的性质，可以把信息分为语法信息、语义信息和语用信息。

4、按照信息的地位，可以把信息分成客观信息和主观信息。

5、人们研究信息论的目的就是为了高效率、可信、安全地互换和利用各种各样的信息。

6、信息的是建立信息论的基础。

8、就是香农信息论最基本最重要的概念。

9、事物的不确定度是用时间统计发生概率的对数来描述的。

10、单符号线性信源通常用随机变量叙述，而多符号线性信源通常用随机矢量叙述。

11、一个随机事件发生某一结果后所带来的信息量称为自信息量，定义为其发生概率对数的负值。

12、自信息量的单位通常存有比特、奈特和哈特。

13、必然事件的自信息是。

14、不可能将事件的自信息量就是

15、两个相互独立的随机变量的联合自信息量等于两个自信息量之和。

16、数据处理定理：当消息经过多级处置后，随着处理器数目的激增，输出消息与输入消息之间的平均值互信息量趋向变大。

17、离散平稳无记忆信源x的n次扩展信源的熵等于离散信源x的熵的。

limh(xn/x1x2?xn?1)h?n???18、线性稳定存有记忆信源的音速熵，。

19、对于n元m阶马尔可夫信源，其状态空间共有m个不同的状态。

20、一维已连续随即变量x在[a，b]。

1log22?ep

21、平均功率为p的高斯分布的已连续信源，其信源熵，hc（x）=2。

22、对于限峰值功率的n维连续信源，当概率密度均匀分布时连续信源熵具有最大值。

23、对于减半平均功率的一维已连续信源，当概率密度

24、对于均值为0，平均功率受限的连续信源，信源的冗余度决定于平均功率的限定值p和信源的熵功率p

25、若一线性并无记忆信源的信源熵h（x）等同于2.5，对信源展开相切的并无杂讯二进制编码，则编码长度至少为。

26、m元长度为ki，i=1，2，···n的异前置码存在的充要条件是：i?1。

28、同时投掷两个正常的骰子，各面呈现出的概率都为1/6，则“3和5同时发生”这件事的自信息量就是?mn?ki?1

1?mp(x)?em29、若一维随即变量x的取值区间是[0，∞]，其概率密度函数为，其中：x?0，m是x的数学

2希望，则x的信源熵c。

30、一副充分洗乱的扑克牌（52张），从中任意抽取1张，然后放回，若把这一过程看作离散无记忆信源，则其信

2源熵为。31信道。

32、信道的输出仅与信道当前输入有关，而与过去输入无关的信道称为

33、具备一一对应关系的无噪信道的信道容量。

34、强对称信道的信道容量。

35、等距信道的信道容量。

36、对于离散无记忆信道和信源的n次扩展，其信道容量cn=。xh(x)?logmelog52

37、对于n个矛盾并联信道，其信道容量cn=。

38、多用户信道的信道容量用多维空间的一个区域的界限来表示。

39、多用户信道可以分为几种最基本的类型：多址互连信道、广播信道和相关信源信道。

40、广播信道是只有一个输入端和多个输出端的信道。

41、当信道的噪声对输出的阻碍促进作用整体表现为噪声和输出的线性共振时，此信道称作加性已连续信道。?ck?1nk

p1log2(1?x)2pn。42、高斯加性信道的信道容量c=

43、信道编码定理就是一个理想编码的存有性定理，即为：信道并无杂讯传递信息的条件就是信息率大于信道容量。

?1/21/20??0?01??代表的信道的信道容量。44、信道矩阵

?10??10????01??代表的信道的信道容量。45、信道矩阵?

46、高斯加性噪声信道中，信道带宽3khz，信噪比为7，则该信道的最大信息传输速率ct=。

47、对于具备福兰县性能的无燥信道，达至信道容量的条件就是）=1/m）。

48、信道矩阵

49、信息率杂讯理论就是定量、数模转换、频带放大和数据压缩的理论基础。

50、求解率失真函数的问题，即：在给定失真度的情况下，求信息率的

51、信源的消息通过信道传输后的误差或杂讯越大，信宿接到消息后对信源存有的不确定性就量就越大。