基于EM计算信道容量教程.docx

信息论与编码技术课程设计(论文) 设计（论文）题目基于EM的信道容量计算学院名称管理科学学院专业名称信息与计算科学学生姓名朱宇恒、王军、李诗文学生学号201407020208、201407020123、201407020218指导教师梁元设计（论文）成绩 教务处 制 2016 年 12 月 16 日 基于EM的信道容量计算 摘 要 结合期望最大的基本原理，运用迭代算法计算离散信道容量。迭代算法的基本思想是：设后验概率p（ai|bj）为自变量，并且假设存在一个反向试验信道，反向信道在的转移矩阵就是由p（ai|bj）构成的，这样平均互信息量I（X;Y）就可以表示为信道转移矩阵和反向转移矩阵的函数，通过反向矩阵修正信道输入概率的分布，迭代计算I（X;Y）直到其趋向平稳为止。 关键词: 期望最大思想；迭代算法；反向信道矩阵  目录  TOC \o 1-3 \h \z \u  HYPERLINK \l _Toc469475641 第1章 前 言  PAGEREF _Toc469475641 \h 1  HYPERLINK \l _Toc469475642 1.1内容及要求  PAGEREF _Toc469475642 \h 1  HYPERLINK \l _Toc469475643 1.2 研究思路及结构安排  PAGEREF _Toc469475643 \h 1  HYPERLINK \l _Toc469475644 1.3 算法思想  PAGEREF _Toc469475644 \h 1  HYPERLINK \l _Toc469475645 第2章 相关理论知识  PAGEREF _Toc469475645 \h 3  HYPERLINK \l _Toc469475646 2.1 EM思想  PAGEREF _Toc469475646 \h 3  HYPERLINK \l _Toc469475647 2.2 迭代思想  PAGEREF _Toc469475647 \h 3  HYPERLINK \l _Toc469475648 第3章 算法设计与分析  PAGEREF _Toc469475648 \h 4  HYPERLINK \l _Toc469475649 3.1 算法步骤  PAGEREF _Toc469475649 \h 4  HYPERLINK \l _Toc469475650 3.2 算法流程  PAGEREF _Toc469475650 \h 5  HYPERLINK \l _Toc469475651 第4章 程序实现与测试  PAGEREF _Toc469475651 \h 6  HYPERLINK \l _Toc469475652 4.1 源程序  PAGEREF _Toc469475652 \h 6  HYPERLINK \l _Toc469475653 4.2 输入数据  PAGEREF _Toc469475653 \h 8  HYPERLINK \l _Toc469475654 4.3 输出结果  PAGEREF _Toc469475654 \h 9  HYPERLINK \l _Toc469475655 第5章 结 论  PAGEREF _Toc469475655 \h 10  HYPERLINK \l _Toc469475656 参考文献  PAGEREF _Toc469475656 \h 11  PAGE \* MERGEFORMAT12 第1章 前 言 1.1内容及要求 基于期望极大的思想，采用迭代算法计算一般信道容量。 1.2研究思路及结构安排 对于一般离散信道而言，信道容量的求解是复杂的，所以根据EM思想引入一个反向实验信道。 图1-1 正向实验通道 图1-2 反向实验通道 引入反向实验信道后，平均互信息I（X;Y）就是输入概率分布p（ai）（i=1,2,…,r）和反向概率分布p（ai|bj）的函数，简记为I(Р,Φ),即 I(Р,Φ)=XYp（ai）p（ai|bj）logp（ai|bj）p（ai） 其中，Р，Φ分别表示信道输入概率矢量和反向试验信道的转移矩阵。 1.3 算法思想 以反向转移概率分布p（ai|bj）为自变量，首先假设信道输入概率p（ai）（i=1,2,…,r）保持不变，而信道转移概率p（bj|ai）是固定不变的，因此I(Р,Φ)是变量Φ的∩型凸函数，可以求出maxp（ai|bj）I(Р,Φ)达到最大值