资源描述：
《g第5章信源编码课件.ppt》由会员上传分享，免费在线阅读，更多相关内容在教育资源-天天文库。
1、第五章信源编码通信系统的优化模型n信源信源编码加密信道编码信源译码信道译码信道解密信宿密钥源噪声密钥源ULVLULSmCmXnYnC’mS’mVLK1K2本章内容离散信源编码连续信源编码5.1离散信源编码编码的基本概念码的分类定长编码定理变长编码定理香农编码费诺编码赫夫曼编码{a1,a2,…,aK}为信源符号集，序列中每一个符号uml都取自信源符号集。{b1，b2，…，bD}是适合信道传输的D个符号，用作信源编码器的编码符号。编码输出码字cm=cm1cm2…cmn，cmk∈{b1，b2，…，bD}k=1,2,…,n，n表示码
2、字长度，简称码长信源符号{a1,a2,…,aK}信道符号（码符号）{b1,b2,…,bD}信源编码器ui=ui1ui2…uiL码字ci=ci1ci2…cin1、编码的基本概念信源符号集={我,是,一名，学生，老师，编码，理论,…}信道符号集={I，am，is,are,a,student,coding,theory,apple,…}如果某次该编码器的输入是“我是一名学生”，即输入序列ui=(ui1=“我”，ui2=“是”，ui3=“一名”，ui4=“学生”)，编码器的输出“Iamastudent”，即输出序列ci=(ci1=“
3、I”,ci2=“am”,ci3=“a”,ci4=“student”)信源编码可看成是从信源符号集到码符号集的一种映射，即将信源符号集中的每个元素（可以是单符号，也可以是符号序列）映射成一个长度为n的码字。对于同一个信源，编码方法是多种的。【例5.1】用{u1，u2，u3，u4，}表示信源的四个消息，码符号集为{0,1}，表1列出了该信源的几种不同编码。表1同一信源的几种不同编码2、编码的分类信源消息各消息概率码1码2码3码4u1q(u1)000001u2q(u2)1101110u3q(u3)101000100u4q(u4)1
4、111111000码510100100013.变长码若码字集合C中的所有码字cm(m=1,2,…,M)，其码长不都相同，称码C为变长码，表1中列出的码3、码4和码5就是变长码。2.等长码在一组码字集合C中的所有码字cm(m=1,2,…,M)，其码长都相同，则称这组码C为等长码，表1中列出的码1、码2就码长n=2等长码一般，可以将码简单的分成如下几类：1.二元码若码符号集为{0，1}，则码字就是二元序列，称为二元码,二元码通过二进制信道传输，这是数字通信和计算机通信中最常见的一种码，表1列出的5种码都是二元码。5.非奇异码从信
5、源消息到码字的影射是一一对应的，每一个不同的信源消息都用不同的码字对其编码，例表1中的码2、码3、码4和码5都是非奇异码。4.奇异码对奇异码来说，从信源消息到码字的影射不是一一对应的。例表1中的码1，信源消息u2和u4都用码字11对其编码，因此这种码就是奇异码，奇异码不具备惟一可译性。6）唯一可译码：若码的任意一串有限长的码符号序列只能唯一地被译成所对应的信源符号序列，则此码称为唯一可译码，否则就称为非唯一可译码。等长码非奇异码00011011唯一可译如果接收端收到一个完整的码字后，不能立即译码，还要等下一个码字开始接收后才
6、能判断是否可以译码，这样的码叫做非即时码。7非即时码：非奇异码11010010001001不即时任何一个码字是其它码字的延长或前缀如果收到一个完整的码字以后，就可以立即译码，则叫做即时码。即时码要求任何一个码字都不是其他码字的前缀部分，也叫做异前缀码。8、即时码非奇异码1010010001任何一个码字不是其它码字的延长或前缀即时码01即时即时码的判决准则克拉夫特不等式：设信源为，对其进行r元信源编码，相应码字长度为，则即时码存在的充要条件是：唯一可译码的判决准则麦克米伦不等式：设信源为，对其进行r元信源编码，相应码字长度为，
7、则唯一可译码存在的充要条件是：不同编码方式的衡量标准平均码长：对离散无记忆信源进行信源编码，设编码后各个码字的码长分别为，则定义该码的平均码长为：如果某种编码方式的平均码长小于所有其他编码方式，则该码称为紧致码或最佳码。编码信息率(编码速率)：码长表示长为N的信源序列用多少个r进制码符号表示，因此表示平均一个信源符号用多少个r进制符号表示，再乘以表示将r进制转换成二进制编码效率：含义：理论上平均每个信源符号用多少个二进制符号的个数除以实际上用的二进制码符号的个数，即表示一种编码的效率。有时消息太多，不可能或者没必要给每个消息
8、都分配一个码字；给多少消息分配码字可以做到几乎无失真译码？传送码字需要一定的信息率，码字越多，所需的信息率越大。编多少码字的问题可以转化为对信息率大小的问题；信息率越小越好，最小能小到多少才能做到无失真译码呢？这些问题就是信源编码定理要研究的问题。码字与信息率的关系信源编码有定长和变长两种
