信息传输原理习题部分参考答案.doc

第一章 习题 题（1.1）英文字母中e的出现概率为0.105，c的出现概率为0.023，o的出现概率为0.001，试分别计算它们的自信息量（以比特为单位）。 解：由题意可得 Ie= -log0.105=3.25bit Io= -log0.001=9.97bit Ic= -log0.023=5.44bit ∴字母e的自信息量是3.25bit，字母c的自信息量是5.44bit，字母o的自信息量是9.97bit。 题（1.2）某个消息由字符A,B,C,D组成，已知它们的出现概率为，，，，试求由60个字符所构成的消息，其平均自信息量是多少比特。 解：由题意可得 H（x）= -（log+*2*log+log）=1.906bit ∴由60个字符构成的消息的平均自信息量是1.906*60=114.36bit 题（1.3）在二进制信道中信源消息集为，且已知出现概率。信宿消息集为，信道传输概率为和。试求该信道所能提供的平均互信息量等于多少？ 解： ∵ PY/X=，PX= ∴PY= PX *PY/X=*= ∴H（Y）=-（log+log）=0.989bit H（Y/X）=H（，）+H（，）=0.678bit ∴I（X，Y）=H（Y）-H（Y/X）=0.989-0.678=0.311bit 题（1.4）在二进制对称信道中传输消息，接收到的消息为。信道中的干扰平均对每100个消息产生一个错误（由0变成1和由1变成0）。试求该信道所能提供的平均互信息量，说明信道的错误传输概率对平均互信息量有何影响？ 解：PX=[0.5 ，0.5]，PY/X=，PY= ∴H（Y）=-0.5log0.5-0.5log0.5=1bit H（Y/X）=H（0.99 0.01）=0.081bit ∴平均互信息量I（X，Y）= H（Y）- H（Y/X）=0.919bit 信道的错误传输概率越大，平均互信息量越小。 题（1.5）设信源发出两个消息和，它们的概率分别为，。试求该信源的信息熵和冗余度。 解：∵H（X）=- log - log =0.811bit Hmax=- log - log =1bit ∴R=1- =1-0.811=0.189bit 故信息熵为 0.811bit，冗余度为0.189bit 题（1.6）已知一种均匀编码信道用5个八进制码元组成的码组（符号）来对各个消息进行信源编码，且已知每秒内信道能传输100个这样的符号，试求该信道的信道容量是多少每秒比特数？ 解: ∵均匀信道的信道容量为 C=logr-q*log(r-1)-H(q) 由题意有r=5,q=0.53=0.125 ∴H(q)=-0.125*log0.125=0.375 ∴C=log5-0.125*log(5-1)-0.375=1.697b/s 故该信道的信道容量Ct=100*1.697=169.7bit 题（1.7）设信道上传输的符号集合为，，它们的时间长度分别为，，，和个（码元持续时间），而用这些符号所组成的消息序列不能出现，，和这4种符号相连的情况。试求： 该编码信道的信道容量是多少？ 若信源的消息集合为，，它们的出现概率分别为，，，，，。试求利用该信道来传输这些消息的传输信息速率是多少？ 求上述编码方法的编码效率是多少？ 题（1.8）某个平均功率受限的连续信道，其带宽为1兆赫（MHz），在该带宽内存在白噪声，接收端的功率信噪比为10dB。试求该信道的信道容量是多少？若功率信噪比降低一半，要达到相同的信道容量时要求信道带宽是多少？若信道带宽减少为0.5兆赫时要保持同样的信道容量，要求接收端的功率信噪比是多少分贝？ 解: ① ∵SNR=10dB=10 ∴信道容量Ct=W*ln(1+SNR)=106*ln(1+10)=2.398*106b/s ② ∵SNR=5dB=3.16 ∴由题意有 2.398*106=W* ln(1+SNR)= W*ln(1+3.16)=1.43*W ∴信道带宽W=1.68*106HZ ③ 由题意有 2.398*106=0.5*106* ln(1+SNR) ∴功率信噪比SNR=120.025=20.8dB 题（1.9）某个通信系统内每秒可传送个二进制码元，试求功率信噪比为5和10倍