信息论基础 教学课件 作者 田宝玉 杨洁 贺志强 王晓湘 chapter11 1.pptVIP

本章介绍网络信息论的最基本内容，主要包括多址接入信道和退化广播信道容量、以及相关信源编码。 §11.1多址接入信道 11.1.1 二址接入信道的容量 11.1.2 不同多址方式下的接入信道容量分析 11.1.3 多址接入信道的容量 §11.2 广播信道 11.2.1 退化的广播信道 11.2.2 退化的广播信道的容量区域 §11.3相关信源编码 11.3.1 典型的相关信源编码模型 11.3.2 Slepian-Wolf相关信源编码定理 多址接入信道(Multiple Access Channel, MAC)是有多个信道输入信号，但只有一个信道输出信号的信道。如图11.1.1所示。 图11.1.1 多源接入信道 设信道的两个输入变量集合为 和 ，一个输出变量集合为 ，则信道特性可用 这一条件概率来表征。 两个编码器分别将两个信源符号 和 编成适合于信道传输的信号 和 ；一个译码器由信道输出 译出相应的信源符号 和 。 图11.1.2 典型的二址接入信道 设 的极大值分别为 ，则： 即： 同理： 联合限制： 当 与 相互独立时，可得： 定理11.1.1 一个具有两个输入端的二址接入信道 的容量是一个满足下面条件的 凸集合： （11.1.1） 其中 例11.1.1 二址接入二元乘积信道。设一个二址接入信道，输入 ， ，输出 ，且 ，求该信道的容量区域。 解： ， ， ， 则速率对 的可达区域为： 比特/符号， 比特/符号， 比特/符号。 图11.1.4 无扰二元乘积信道的转移概率图 图11.1.5 二元乘积信道的容量区域 例11.1.2 二址接入二元删除信道。设信道输入 信道输出 ，且 ，也称为二元和信道，如图11.1.6，求信道的容量区域。 解： 设 的概率： ， 的概率： , 分别对 和 的偏导数为零，可得当 时， 图11.1.6 二元删除信道 图11.1.7 无扰二元删除信道的转移概率图 图11.1.8 二址离散信道的可达速率区域 例11.1.3 二址接入高斯信道。设 和 的概率密度分别为 和 。信道输出 ， 为高斯白噪声设输入均值为零，平均功率受限即 ， ，与 相互独立。求信道容量区域。 解： 限平均功率时，随机变量为高斯分布时熵最大，则 在平均功率受限的约束下，采用时分多址方式和频分多址方式的可达速率区域均小于理论给出的容量区域。但是通过设计时隙分配或带宽分配的比例，时分多址与频分多址又都可使速率达到理论容量域的最大值。 码分多址方式中，所有信道输入信号都占用信道的全部带宽和时间，各信号间不存在时隙分配或带宽分配问题，因此码分多址的可