北邮信通院信息论第六章.ppt

*/78 6.4.2 例 解： 设离散无记忆信道的输入 ，输出 ，且有 计算 §6.4.1 多维矢量信道输入与输出的性质 */78 ★ N次扩展信道 单符号离散信道 N长的随机序列 N长的随机序列 新信道 原序列的N次扩展信道 §6.4.2 离散无记忆扩展信道及其容量 */78 ★ N次扩展信道的描述要满足一般的信道数学模型的描述，但符号集为同分布符号的扩展，即各Xi的分布都相同 ★ 信道可通过下式来计算 ★ 信道的输入和输出集合分别为 和 ，所包含的矢量分别为 §6.4.2 离散无记忆扩展信道及其容量 */78 ★ 一个信道的N次扩展信道是N个原信道的Kroneck乘积 例 设输入与输出符号集的尺寸分别为r、s， 则N次扩展信道的输入与输出符号集的尺寸分别为 则，信道的转移概率为： §6.4.2 离散无记忆扩展信道及其容量 */78 求错误概率为p的二元对称信道的二次扩展信道的转移概率矩阵。 6.4.3 例 解： 2次扩展信道的转移概率矩阵： §6.4.2 离散无记忆扩展信道及其容量 */78 §6.4.2 离散无记忆扩展信道及其容量 当信源为无记忆时，等式成立 ★ 离散无记忆N次扩展信道的容量 当信道平稳时： */78 求该二次扩展信道的容量。 6.4.3(续) 例 解： 由例6.2.3可得，错误概率为p的二元对称信道的容量 ，根据式(6.4.6),该信道的二次扩展信道容量为 §6.4.2 离散无记忆扩展信道及其容量 */78 §6.4.3 并联信道及其容量 ★并联信道的定义 由若干并行的单符号子信道组成 在每单位时间，发送端都同时通过每个子信道发送不同符号集的消息 每子信道的输出仅与该子信道的输入有关 各子信道输入相互独立时达到信道容量 */78 求下图信道的容量和达到容量时的输入概率分布。 6.4.4 例 解： 从信道的转移概率图可以看出，两个子信道是独立的，所以构成一个二维并联信道。所求信道容量为 §6.4.3 并联信道及其容量 比特/符号 达到容量时，输入 相互独立，且均为等概率分布。 */78 §6.4.4 和信道及其容量 ★和信道的定义 一个信道分为若干子信道，且各子信道输入之间互不相交，输出之间也互不相交 信道总的输出与输入集合分别为各子信道输出与输入之并集 每次传输只能用一个子信道 */78 ★定理6.4.3 对于和信道，信道容量为 比特/符号，其中 Ci 为每个子信道的容量，第i个子信道使用概率为 ，达到容量的输入概率为各子信道达到容量时的概率再乘以 。 §6.4.4 和信道及其容量 */78 6.4.5 例 一信道的转移概率如图所示，求信道容量和达到容量时的输入概率。 解： 其中p为不大于1的正数 §6.4.4 和信道及其容量 */78 ★ 信道达到容量时的输入概率分布不一定唯一。（对于对称信道是唯一的) 关于信道容量的注释 ★ 对应于信道容量的输出概率是唯一的。 ★ 达到容量时的输出概率严格为正。 ★ 对于任意的离散信道的转移概率分布，要利用迭代算法进行计算。 */78 本 章 小 结 1．平稳离散无记忆信道模型： 2．平稳离散无记忆信道的容量： 3．特殊离散无记忆信道的容量的计算 ★ 对称信道：输入等概率时达到容量，且 ★ 一般离散信道 [P]有逆阵时 */78 本 章 小 结 利用定理列方程组求解 ★ 和信道 ★ 并联信道 ★ 离散平稳无记忆N次扩展信道 当信源无记忆时信道达到容量 ★ 级联信道：转移概率矩阵为各级联信道矩阵的乘积，再计算容量。 达到容量的输入概率为各子信道达到容量时的概率再乘以 * */78 §6.2.2 离散对称道的容量 6.2.2 例 解： 一信道的转移概率矩阵如图，求信道容量和达到容量时的输出概率。 设输出概率为 。由于信道为强对称信道，故当输入等概率时达到容量C，此时输出也等概率 */78 §6.2.2 离散对称道的容量 6.2.3 例 解： 一信道的转移概率矩阵如图，求信道容量和达到容量时的输入概率。 设输入输出概率为 由于信道为强对称信道，故当 时,达到容量。 特别是，当r=2时，信道容量为C=1-H(p)比特/符号。 */78 §6.2.2 离散对称道的容量 6.2.4 例 解： 一信道的转移概率矩阵如图，求信道容量和达到容量时的输出概率。 设输出概率为 准对称信道，当输入等概率时达到信道容量。可计算输出概率为 */78 §6.2.3 一般离散信道的容量 求信