第二章 基础理论ver2.pdf

第二章 基础理论 2011-5-31 1 本章内容  第二章基础理论  2.1 信道编码定理  2.2 硬判决与软判决  2.3 基本信道模型及其信道容量  2.4 MAP与ML算法  2.5 因子图与和积算法 2 2.1 信道编码定理  信道编码定理：对于一个有噪信道，信道容量为C，只要数 据传输速率RC，总会存在一种编码方法，使编码错误概率 p随着码长n的增加，按指数下降到任意小的值（用最大似然 译码）。即可以通过编码使通信过程实际上不发生错误，或 使错误控制在允许的数值下。  根据信息论，信道容量是由输入和输出的最大互信息量决定 的，即 C max I( X , Y) p (x ) 其中X和Y分别代表信道的输入和输出；p(x)是X 的概率密度 函数；I(X,Y)为变量X和Y 的互信息，其定义将根据具体信道 类型（BSC、AWGN等）的不同有所区别。 3 2.2 硬判决和软判决  假设X和Y分别为q元符号和Q元符号，对于离散信道，输入 变量X和输出变量Y之间的互信息I(X,Y)定义为： q1 Q1 p (y i |x j ) I (X ,Y ) p (x )p (y | x )log j 0 i 0 j i j 2 p (y ) i 对上式取最大值，就得到硬判决的信道容量Chard 。当输入输 出均为二元离散符号时，信道就可以用BSC模型来描述。  若系统采用软判决译码，信道译码器的输入为连续值，即 y ( , ) ，则信道等效为离散输入连续输出信道，X和 Y之间的互信息I(X,Y)为： q1  p (y | x j ) I (X ,Y )  p (x )p (y | x )log dy  j j 2 j 0 p (y ) 其中p(y|x )表示发送x 时解调器输出y 的概率密度函数。对上 j j 式取最大值，就得到软判决时的信道容量Csoft 。 4 2.3 基本信道模型及其信道容量 1-p 2.3.1 BSC信道 0 0