信息论与编码试卷及答案1

信息论与编码试卷及答案1

ID:15084960

大小:889.50 KB

页数:7页

时间:2018-08-01

信息论与编码试卷及答案1_第1页
信息论与编码试卷及答案1_第2页
信息论与编码试卷及答案1_第3页
信息论与编码试卷及答案1_第4页
信息论与编码试卷及答案1_第5页
资源描述:

《信息论与编码试卷及答案1》由会员上传分享,免费在线阅读,更多相关内容在教育资源-天天文库

1、二、综合题(每题10分,共60分)1.黑白气象传真图的消息只有黑色和白色两种,求:1)黑色出现的概率为0.3,白色出现的概率为0.7。给出这个只有两个符号的信源X的数学模型。假设图上黑白消息出现前后没有关联,求熵;2)假设黑白消息出现前后有关联,其依赖关系为:,,,,求其熵;2.二元对称信道如图。  ;1)若,,求和;2)求该信道的信道容量和最佳输入分布。3.信源空间为,试分别构造二元和三元霍夫曼码,计算其平均码长和编码效率。4.设有一离散信道,其信道传递矩阵为,并设,试分别按最小错误概率准则与最大似然译码准则确定译码规则,并计算相应的平均错误概率。5.已知

2、一(8,5)线性分组码的生成矩阵为。求:1)输入为全00011和10100时该码的码字;2)最小码距。6.设某一信号的信息传输率为5.6kbit/s,在带宽为4kHz的高斯信道中传输,噪声功率谱NO=5×10-6mw/Hz。试求:(1)无差错传输需要的最小输入功率是多少?(2)此时输入信号的最大连续熵是多少?写出对应的输入概率密度函数的形式。二、综合题(每题10分,共60分)1.答:1)信源模型为    2)由得则2.答:1)    2),最佳输入概率分布为等概率分布。3.答:1)二元码的码字依序为:10,11,010,011,1010,1011,1000,

3、1001。平均码长,编码效率2)三元码的码字依序为:1,00,02,20,21,22,010,011。平均码长,编码效率4.答:1)最小似然译码准则下,有,2)最大错误概率准则下,有,5.答:1)输入为00011时,码字为00011110;输入为10100时,码字为10100101。2)6.答:1)无错传输时,有即则2)在时,最大熵对应的输入概率密度函数为信息论习题集二、填空(每空1分)(100道)1、在认识论层次上研究信息的时候,必须同时考虑到形式、含义和效用三个方面的因素。2、1948年,美国数学家香农发表了题为“通信的数学理论”的长篇论文,从而创立了信

4、息论。3、按照信息的性质,可以把信息分成语法信息、语义信息和语用信息。4、按照信息的地位,可以把信息分成客观信息和主观信息。5、人们研究信息论的目的是为了高效、可靠、安全地交换和利用各种各样的信息。6、信息的可度量性是建立信息论的基础。7、统计度量是信息度量最常用的方法。8、熵是香农信息论最基本最重要的概念。9、事物的不确定度是用时间统计发生概率的对数来描述的。10、单符号离散信源一般用随机变量描述,而多符号离散信源一般用随机矢量描述。11、一个随机事件发生某一结果后所带来的信息量称为自信息量,定义为其发生概率对数的负值。12、自信息量的单位一般有比特、奈特

5、和哈特。13、必然事件的自信息是0。14、不可能事件的自信息量是∞。15、两个相互独立的随机变量的联合自信息量等于两个自信息量之和。16、数据处理定理:当消息经过多级处理后,随着处理器数目的增多,输入消息与输出消息之间的平均互信息量趋于变小。17、离散平稳无记忆信源X的N次扩展信源的熵等于离散信源X的熵的N倍。18、离散平稳有记忆信源的极限熵,。19、对于n元m阶马尔可夫信源,其状态空间共有nm个不同的状态。20、一维连续随即变量X在[a,b]区间内均匀分布时,其信源熵为log2(b-a)。21、平均功率为P的高斯分布的连续信源,其信源熵,Hc(X)=。22

6、、对于限峰值功率的N维连续信源,当概率密度均匀分布时连续信源熵具有最大值。23、对于限平均功率的一维连续信源,当概率密度高斯分布时,信源熵有最大值。24、对于均值为0,平均功率受限的连续信源,信源的冗余度决定于平均功率的限定值P和信源的熵功率之比。25、若一离散无记忆信源的信源熵H(X)等于2.5,对信源进行等长的无失真二进制编码,则编码长度至少为3。26、m元长度为ki,i=1,2,···n的异前置码存在的充要条件是:。27、若把掷骰子的结果作为一离散信源,则其信源熵为log26。28、同时掷两个正常的骰子,各面呈现的概率都为1/6,则“3和5同时出现”这

7、件事的自信息量是log218(1+2log23)。29、若一维随即变量X的取值区间是[0,∞],其概率密度函数为,其中:,m是X的数学期望,则X的信源熵。30、一副充分洗乱的扑克牌(52张),从中任意抽取1张,然后放回,若把这一过程看作离散无记忆信源,则其信源熵为。31、根据输入输出信号的特点,可将信道分成离散信道、连续信道、半离散或半连续信道。32、信道的输出仅与信道当前输入有关,而与过去输入无关的信道称为无记忆信道。33、具有一一对应关系的无噪信道的信道容量C=log2n。34、强对称信道的信道容量C=log2n-Hni。35、对称信道的信道容量C=lo

8、g2m-Hmi。36、对于离散无记忆信道和信源的N次

当前文档最多预览五页,下载文档查看全文

此文档下载收益归作者所有

当前文档最多预览五页,下载文档查看全文
温馨提示:
1. 部分包含数学公式或PPT动画的文件,查看预览时可能会显示错乱或异常,文件下载后无此问题,请放心下载。
2. 本文档由用户上传,版权归属用户,天天文库负责整理代发布。如果您对本文档版权有争议请及时联系客服。
3. 下载前请仔细阅读文档内容,确认文档内容符合您的需求后进行下载,若出现内容与标题不符可向本站投诉处理。
4. 下载文档时可能由于网络波动等原因无法下载或下载错误,付费完成后未能成功下载的用户请联系客服处理。