- 1、本文档共17页,可阅读全部内容。
- 2、有哪些信誉好的足球投注网站(book118)网站文档一经付费(服务费),不意味着购买了该文档的版权,仅供个人/单位学习、研究之用,不得用于商业用途,未经授权,严禁复制、发行、汇编、翻译或者网络传播等,侵权必究。
- 3、本站所有内容均由合作方或网友上传,本站不对文档的完整性、权威性及其观点立场正确性做任何保证或承诺!文档内容仅供研究参考,付费前请自行鉴别。如您付费,意味着您自己接受本站规则且自行承担风险,本站不退款、不进行额外附加服务;查看《如何避免下载的几个坑》。如果您已付费下载过本站文档,您可以点击 这里二次下载。
- 4、如文档侵犯商业秘密、侵犯著作权、侵犯人身权等,请点击“版权申诉”(推荐),也可以打举报电话:400-050-0827(电话支持时间:9:00-18:30)。
查看更多
信息论与编码第2章习题解答
PartA(1-11 ) 123458918
PartB(12-17 )
20
《信息论与编码》第二章习题解答
3 2 3
2.1 A 村有一半人说真话, 人总说假话, 人拒绝回答;B 村有 人诚实,一半
10 10 10
2
人说谎, 人拒绝回答。现随机地从A 村和B 村抽取人,p 为抽到A 村人的概
10
率,1–p 为抽到B 村人的概率,问通过测试某人说话的状态平均能获得多少关于该
人属于哪个村的信息?通过改变p ,求出该信息的最大值。
[解]用X 表示随机抽取人所属的村别,Y 表示说话的状态,则X 和Y 之间的关系图如下
所示。
X Y
0.5 y1 说真话
A 0.3
0.3 y2 撒谎
B 0.5
0.2
0.2 y3 拒绝回答
P(A) P(B) 1
P(y ) 0 .5 p (A) 0.3[1 p (A)]
1
P(y 2 ) 0.3 p (A) 0.5[1 p (A)]
P(y 3 ) 0 .2p (A) 0.2[1 p (A)] 0 .2
3
H (Y) p (y ) log p (y )
i i
i 1
H (Y | X ) P (A)H (Y | X A) P(B)H (Y | X B )
H (0.5,0.3,0.2)
0.5log0.5 0.3log0.3 0.2log0.2 1.485 bit
I (X ; Y) H (Y) H (Y | X )
由对称性,当P(A) P(B) 0.5 时,互信息最大,这时
H (Y ) 0.4log0.4 0.4log0.4 0.2log0.2 1.522 bit
所以
I (X ; Y) H (Y) H (Y | X ) 0.037 bit
2.2 一个无偏骰子,抛掷一次,如果出现 1,2 ,3,4 点,则把一枚均匀硬币投掷一次,
如果骰子出现5,6 点,则硬币投掷二次,求硬币投掷中正面出现次数对于骰子出
现点数所提供的信息?
1
[解]令X x 表示掷骰子出现 1,2 ,3,4 点,X x 表示出现5,6 点,Y 表示出现
1 2
硬币正面的次数,于是X 和Y 具有如下关系
文档评论(0)