信息论与编码实验报告(.doc

实验一：计算离散信源的熵 一、实验设备: 1、计算机 2、软件：Matlab 二、实验目的: 1、熟悉离散信源的特点； 2、学习仿真离散信源的方法 3、学习离散信源平均信息量的计算方法 4、熟悉 Matlab 编程； 三、实验内容: 1、写出计算自信息量的Matlab 程序 2、写出计算离散信源平均信息量的Matlab 程序。 3、将程序在计算机上仿真实现，验证程序的正确性并完成习题。 四、求解： 1、习题： A地天气预报构成的信源空间为： B地信源空间为： 求各种天气的自信息量和此两个信源的熵。 2、程序代码： p1=[1/3,1/4,1/4,1/6]; p2=[7/8,1/8]; H1=0.0; H2=0.0; I=[]; J=[]; for i=1:4 H1=H1+p1(i)*log2(1/p1(i)); I(i)=log2(1/p1(i)); end disp(自信息I分别为：); I disp(信息熵H1为：); H1 for j=1:2 H2=H2+p2(j)*log2(1/p2(j)); J(j)=log2(1/p2(j)); end disp(自信息J分别为); J disp(信息熵H2为：); H2 3、运行结果： 自信息量I分别为： I = 1.5850 2.0000 2.0000 2.5850 信源熵H1为： H1 = 1.9591 自信息量J分别为： J =0.1926 3.0000 信源熵H2为：H2 =0.5436 4、分析： 答案是：I =1.5850 2.0000 2.0000 2.5850 J =0.1926 3.0000 H1 =1.9591； H2 =0.5436 实验2：信道容量 一、实验设备: 1、计算机 2、软件：Matlab 二、实验目的: 1、熟悉离散信源的特点； 2、学习仿真离散信源的方法 3、学习离散信源平均信息量的计算方法 4、熟悉 Matlab 编程； 三、实验内容: 1、写出计算自信息量的Matlab 程序 2、写出计算离散信源平均信息量的Matlab 程序。 3、将程序在计算机上仿真实现，验证程序的正确性并完成习题。 四、求解： 1、习题： ,=0.00001 2、计算步骤: (1)初始化信源分布(一般初始化为均匀分布),置迭代计数器k=0，设信道容量相对误差门限为，0，可设; (2) (3) (4) (5)如果，转向(7)； (6)置迭代序号，转向(2)； (7)输出和的结果； (8)停止。 3、程序代码： p=input(×aò????ê???óp=) e=input(μü′ú???èe=) [r,s]=size(p); n=0; C=0; C_k=0; C_k1=0; X=ones(1,r)/r; A=zeros(1,r); B=zeros(r,s); while(1) n=n+1; for i=1:r for j=1:s B(i,j)=log(p(i,j)/(X*p(:,j))+eps); if p(i,j)==0; B(i,j)=0; else end end A(1,i)=exp(p(i,:)*B(i,:)); end C_k=log2(X*A); C_k1=log2(max(A)); if(abs(C_k-C_k1)e) C=C_k; disp(μü′ú′?êyn=);disp(n);disp(D?μàèYá?C=);disp(C); disp(×???·?2???p(x)=);disp(X); break; else X=(X.*A)/(X*A); continue; end end 4、计算： xdrl 转移概率矩阵p=[0.79 0.16 0.05;0.05 0.15 0.8] p = 0.7900 0.1600 0.0500 0.0500 0.1500 0.8000 迭代精度e=0.00001 e =1.0000e-005 迭代次数n=6 信道容量C= 0.5712 最佳分布平p(x)=0.5009 0.4991 实验三：香农编码 一、实验设备: 1、计算机 2、软件：Matlab 二、实验目的: 1、熟悉离散信源的特点； 2、学习仿真离散信源的方法 3、学习离散信源平均信息量的计算方法 4、熟悉 Matlab 编程； 三、实验内容: 1、写出计算自信息量的Matlab 程序 2、写出计算离散信源平均信息量的Matlab 程序