欢迎来到天天文库
浏览记录
ID：70403960
大小：326.61 KB
页数：24页
时间：2021-11-22
《无失真信源编码》由会员上传分享，免费在线阅读，更多相关内容在教育资源-天天文库。
1、2、平均码字长度，平均每个信源符号对应码字的长度1、模型第4节平均码长与编码有效性信源码符号/信源码字平均每个信源码字由几个信源码符号组成第4节平均码长与编码有效性3、码率1)信源的熵平均每个信源符号所携带的信息量2)信息传输率（码率）平均每个信源信源码符号携带多少比特的信息量例：已知信源空间为信道符号空间对应的码字长度分别为n1,n2,n3,n4。写出一种有效编码，并求对应的信息率第4节平均码长与编码有效性0100111010010001)利用二叉树单义可译码符号s1s2s3s4概率1/21/41/81/8码字101001000码长12332)信源的熵3)
2、平均码字长度4)信息率第4节平均码长与编码有效性符号s1s2s3s4概率1/21/41/81/8码字000001011码长3321讨论：平均码字长度信息率第4节平均码长与编码有效性第4节平均码长与编码有效性从上面两种情况的对比得出，要使非延长码的平均码长n尽量小，使无失真信源编码尽量有效，必须遵循码字长度与信源概率空间的概率分量之间的正确搭配原则：概率大（经常出现）的信源符号尽量赋予码长小的码字；概率小（不经常出现）的信源符号尽赋予码长大的码字。采取这样的搭配原则，才能充分利用和挖掘信源统计特性的潜力，提高无失真信源编码的有效性从提高无失真信源编码的有效性角
3、度出发，当然希望平均码长n越小越好但平均码长n能否无限制小呢？它有没有一个限度？下面，我们用平均码长的界限定理来回答这个问题1、平均码字长度的界限定理第5节平均码长的界限定理若离散无记忆信源：S：{}的信息熵为H（S），码符号集，如要求的q个码字长度为，且q,r,满足Kraft不等式，则总可找到一种单义可译码，使其平均码长满足2、证明下界1)分析第5节平均码长的界限定理2)证明：第5节平均码长的界限定理由，并考虑到“底”大于1的对数是凸形函数，则可改写为：3、上界证明取码字wi长度为ni，满足：因为，满足克拉夫不等式。所以满足条件的单义可译码总可以找到。第5
4、节平均码长的界限定理第5节平均码长的界限定理第5节平均码长的界限定理说明：平均码字长度×平均每个码符号最多携带的信息量≥平均每个信源符号携带的信息量说明：平均码字长度小于该量的单义可译码一定可以找到，平均码字大于该量的信源编码效率低。平均码长的界限定理清楚的告诉我们，对离散无记忆信源进行无失真信源编码，每一个信源符号单独地赋予一个码字，编出来的非延长码（单义可译码）的平均码长的下限值在数量上有信源S的熵值所决定。如果进一步降低非延长码的平均码长，提高无失真信源编码的有效性，单靠改善编码方法，已无潜力可挖。必须把我们的注意力转向信源本身，在信源上做文章，
此文档下载收益归作者所有
