暨南大学考试卷.docxVIP

学习参考 学习参考 暨南大学考试试卷 得分评阅人1.下列关于离散随机变量 得分 评阅人 1.下列关于离散随机变量 、选择题（共5小题，每小题3分，共15 分） X信息熵H （X）的论断中错误的是（ D ） 教 师 填 写 20 12 - 20 13 学年度第 一 学期 课程名称： 信息论与编码 授课教师姓名： 谭晓青 课程类别 必修［2 ］选修［］ 考试方式 开卷［］闭卷［2 ］ 考试时间： 2013 年 1 月16 日 试卷类别（A、B） ［A ］ 共8 页 考 生 填 写 学院（校） 专业 班（级） 姓名 学号 内招［］外招［］ 题号 -一 -二 三 四 五 六 七 八 九 十 总 分 得分 A、信息熵表示了信源输出前，信源的平均不确定性; B、 信息熵是其概率空间中每个事件所含有的自信息量的数学期望； C、 信息熵表示了信源输出后，每个消息或符号所提供的平均信息量; D、 信息熵并不反映随机变量X的随机性。 对于连续信源X，若平均功率受限（方差受限）时，则其概率密度函数是 （A ）时，差熵具有最大值。 A、高斯分布 B、均匀分布 C、三角分布 D、非均匀分布 下图给出了两个离散信源X、丫的概率空间，其熵值间满足（ B ）。 ;X 1 X1 X2 X3 X4 = [Y 1 :* y2 y3 y4〕 = :p(x) _ [0.15 0.25 0.4 0.2 ]p(yL [0.25 0.25 0.25 0.25一 A、H(X) H(Y) B、H(X) H(Y) C、2H(X) =H(Y) D、H(X) =2H(Y) 第1页共8页 4.某无记忆信源U为111］，接收符号―卜昇｝，其失真矩5.■1 2]阵D = 1 1 4. 某无记忆信源U为 11 1］，接收符号―卜昇｝，其失真矩 5. ■1 2] 阵D = 1 1，则该信源的 Dmax=( 2 d A )。 C、 r 4 1 某一信道，其输入U的符号集为呛1,输出Y的符号集为^,1，信道 ■1 01 矩阵P =1 1，现有四个消息的信源通过这信道传输 （消息等概率出现） 2 2 V 1 一 若对信源进行编码，我们选这样一种码 \（ 1 1 ）1 C: X1, X2, , - |; 2 2 这样编码后信息传输率等于（ B、1 2 x=o 或 1 (i=1,2) C、 得分 评阅人 、填空题（共5小题，每小题3分，共15 分） 对于离散有噪无损信道，用r表示输入变量X的符号个数，用s表示输出变 量丫的符号个数，其信道容量 C = logr 若连续信源X的取值区间为［0J），其概率密度函数为 其中x—0 ,m是X的数学期望，则连续信源 X的差熵Hc（X）二log2 me 有噪信道编码定理：有噪信道的信道容量为 C，若信息传输率R：：：C，只 要码长n 足够长 ，必存在一种信道编码和相应的译码规则，使译码 平均错误概率PE为 任意小 。 已知在 GF(2)[x]上有 x7 ?仁(x ? 1)(x3 x2 1)(x3 x 1)，构造(7, 4)循环码可 以选择生成多项式g(x) = (x3 x 1)或(x3 x2 1)。 若纠错码的最小距离为 dmin,要检测f个随机错误，则要求 dm^ _ f 1 ； 要纠正e个随机错误，贝懊求 dmin _ 2e ? 1 ；要纠正e个同时检测f个随机错误, 则要求 dmin _ e f 1 。 得分评阅人 得分 评阅人 三、计算题(共6小题，每小题10分，共60 分) 某一无记忆信源的符号集为｛0, 1｝，已知P(0) = 1/4，P(1) = 3/4 求符号的平均熵；(3分) ⑵ 有100个符号构成的序列，求某一特定序列(例如有 m个“ 0和 (100-m) 个“ 1)的自信息量的表达式；(4分) (3)计算⑵中序列的熵。(3分) 解：(1) H(X)二一嘉 p(xjlog p(xj =i-^log- 3log- =0.811 bit/symbol H(X) 二一嘉 p(xjlog p(xj = i -^log- 3log- =0.811 bit/symbol 4 4 4 4 OOO 00000。000。 P(xJ 3 100 -m J00 4 100 _m I (xj 二-log p(xj I (xj 二-log p(xj 二- log 4100 = 41.5 1.585m bit ⑶H (X100) = 100H(X) =100 0.811 =81.1 bit / ⑶ H (X100) = 100H(X) =100 0.811 =81.1 bit / symbol OOO OOO o o o o o o o 丨 1 - Sj - S2 S| 求下列可抹信道的容量，其条件概率P(Y/X)为 S2 $ S2 1 0 1 _ 3 _ S? 解