资源描述：
《信息论与编码实验报告》由会员上传分享，免费在线阅读，更多相关内容在教育资源-天天文库。
1、中南大学信息论编码实验报告题目信息论编码学生姓名汤思远指导教师张祖平学院信息院学号090912052专业班级电子1班完成时间14/12/5实验一关于信源熵的实验一、实验目的1.掌握离散信源熵的原理和计算方法。2.熟悉matlab软件的基本操作，练习使用matlab求解信源的信息熵。3.自学图像熵的相关概念，并应用所学知识，使用matlab或其他开发工具求解图像熵。4.掌握Excel的绘图功能，使用Excel绘制散点图、直方图。二、实验原理1.离散信源相关的基本概念、原理和计算公式产生离散信息的信源称为离散信源。离散信源只能产生有限种符号。随机事件的自信息量I
2、（xi）为其对应的随机变量xi出现概率对数的负值。即：I（xi）=-log2p(xi)随机事件X的平均不确定度（信源熵）H（X）为离散随机变量xi出现概率的数学期望，即：2.信源的信息熵设信源符号集X={a1，a2，…，ar}，每个符号发生的概率分别为p(a1)=p1，p(a2)=p2，…，p(ar)，即信源的概率空间为，则该信源的信源熵为：H(X)=-p(a1)logp(a1)–p(a2)logp(a2)–…–p(ar)logp(ar)1.信道的数学模型与相关熵的计算•单符号离散无噪声无损信道的信道容量2.MATLAB二维绘图用matlab中的命令plot
3、(x,y)就可以自动绘制出二维图来。例1-2，在matlab上绘制余弦曲线图，y=cosx，其中0≤x≤2p。>>x=0:0.1:2*pi；%生成横坐标向量，使其为0，0.1，0.2，…，6.2>>y=cos(x)；%计算余弦向量>>plot(x,y)%绘制图形3.MATLAB求解离散信源熵求解信息熵过程：1)输入一个离散信源，并检查该信源是否是完备集。2)根据H(X)公式，求出离散信源的熵。1.图像熵的相关知识图像熵是一种特征的统计形式，它反映了图像中平均信息量的多少。图像的一维熵表示图像中灰度分布的聚集特征所包含的信息量，令Pi表示图像中灰度值为i的像素
4、所占的比例，则定义灰度图像的一元灰度熵为：图像熵计算过程：1)输入一幅图像，并将其转换成灰度图像。2)统计出图像中每个灰度阶象素概率。3)计算出一幅图像的一维熵。2.Excel的绘图功能比如：用Excel或制作二元熵函数曲线。具体步骤如下：1）启动Excel应用程序。2）准备一组数据p。在Excel的一个工作表的A列（或其它列）输入一组p，取步长为0.01，从0至100产生101个p（利用Excel填充功能）。3）使用Excel的计算功能，在B列中用二元熵函数计算公式，求得A列中各数值对应的二元熵值。比如：在单元格B2中输入公式：=-A2*LOG(A2,2)
5、-(1-A2)*LOG(1-A2,2)。4）使用Excel的图表向导，图表类型选“XY散点图”，子图表类型选“无数据点平滑散点图”，绘制二元熵函数散点图。三、实验内容1、使用matlab软件绘制信源熵函数曲线。输入不少于6个符号的信源及其概率(可以界面交互式输入,也可以以数据文件直接输入)；判断是否符合完备概率空间，如否则提示重新输入，如是则计算每个符号的自信量与信源熵（可以直接在界面上显示，也可以存储为一个数据文件）；将自信量用线连接，信源熵表示一条直线，即最终图上将显示2条线，分别用不同的颜色与标签标识其自信量或信源熵。1）实验代码：x=[1:6]x1=
6、[1,1,1,1,1,1]%为了能顺利将H作为直线打印，将H乘上一个序列后打印，不然无法画出p=[0.10.10.10.20.20.3]ifsum(p)==1I=-log2(p)H=sum(-p.*log2(p));H1=x1*H;plot(x,H1,x,I,'r')elsedisp('信源空间概率和不为一，请检查并重录');endfigure期间难点：如何将Hx做成序列打印成线，如果只是简单的plot（x,H）无法得出图像2）实验结果：2、使用matlab软件求解离散单符号信源的熵与信道相关熵。在信源空间的基础上，再输入转移概率矩阵(可以界面交互式输入,也
7、可以以数据文件直接输入,Y空间不少于5个符号)，判断是否符合概率空间特点(每一行等于1)，如否则提示重新输入，如是则计算H(Y)，I(X；Y)，H（X/Y），H（Y/X），H(XY)及考虑此种信道的容量计算公式及其计算结果。将H（X）,H(Y)，I(X；Y)，H（X/Y），H（Y/X），H(XY)用柱状图表示出来。1）实验代码：Py1x=[1,0,0,0,0,0;0,1,0,0,0,0;0,0,0.5,0.5,0,0;0,0,0,0.5,0.5,0;0,0,0,0,0.5,0.5;0,0,0,0,0,1;]%输入条件概率矩阵y=[0,0,0,0,0,0]Px
8、y=ones(6,6);建立联合概率矩阵fork=1
