相关信源编码

《相关信源编码》由会员上传分享，免费在线阅读，更多相关内容在教育资源-天天文库。

1、5.3相关信源编码5.3.1预测编码5.4变换编码常用的解除相关性的措施是预测和变换，其实质都是进行序列的一种映射。它们既适应于离散信源，也可用于连续信源。一般来说，预测编码有可能完全解除序列的相关性，但必需确知序列的概率特性；变换编码一般只解除矢量内部的相关性，但它可有许多可供选择的变换方法，以适应不同的信源特性。预测编码是数据压缩三大经典技术（统计编码、预测编码、变换编码）之一，它是建立在信源数据相关性之上的。由信息理论可知，对于相关性很强的信源，条件熵可远小于无条件熵，因此人们常采用尽量解除相关性的办法，使信源输出转化为独立序列，以利

2、于进一步压缩码率。5.3.1预测编码预测编码(PredictiveCoding)是数据压缩三大经典技术(统计编码、预测编码、变换编码)之一。预测编码是建立在信号(语音、图像等)数据的相关性之上，较早用于信源编码的一种技术。它根据某一模型，利用以往的样本值对新样本进行预测，以减少数据在时间和空间上的相关性，达到压缩数据的目的。由于非线性的复杂性，大部分预测器均采用线性预测函数。科尔莫戈罗夫(Kolmogorov)、维纳(Wiener)、卡尔曼(Kalman)等人在20世纪40年代对线性预测理论就作出了杰出贡献，他们建立了以最小均方量化误差为准

3、则的最优预测理论与方法，广泛应用于通信工程和航天航空飞行器的控制等方面，促进了数字技术的迅速发展，形成了用于数据压缩的预测编码理论。预测器对样本的预测，通常是利用样值的线性或非线性函数关系预测现时的系统输出。要实现最佳预测就是要找到计算预测值的预测函数。一、预测编码的基本原理对于有记忆信源，信源输出的各个分量之间是有统计关联的，这种统计关联性可以加以充分利用，预测编码就是基于这一思想的技术。它不直接对信源输出的信号进行编码，而是将信源输出信号通过预测变换后再对信源输出与被预测值的差值进行编码，其原理图如图3-1所示。图3―1预测编码原

4、理图设信源第i瞬间的输出值为ui，而根据信源ui的前k(k

5、布要集中，所以H(E)≤H(U)，则式（3―6）成立。信源通过预测以后数据压缩(或连续时的频带压缩)倍数就越大。二、预测方法预测就是从已收到的符号来提取关于未收到的符号信息，从而预测其最可能的值作为预测值；并对它与实际值之差进行编码，达到进一步压缩码率的目的。由此可见，预测编码是利用信源的相关性来压缩码率的；对于独立信源，预测就没有可能，因而预测编码也就无用了。预测的理论基础主要是估计理论。估计就是用实验数据组成一个统计量，作为某一物理量的估值或预测值。最常见的估计是利用某一物理量在干扰下测定的实验值，这些值是随机变量的样值，可根据随机量

6、的概率分布得到一个统计量作为估值。若估值的数学期望等于原来的物理量，就称这种估计为无偏估计；若估值与原物理量之间的均方误差最小，就称之为最佳估计。用来预测时，这种估计就成为最小均方误差的预测，所以也就认为这种预测是最佳的。1.线性预测若样值和预测值之间呈线性关系,这种预测称为线性预测,否则称为非线性预测。常用的几种线性预测方案有：（1）前值预测，即。（2）一维预测，即用ur的前面已知的k个已知样值预测ur的值，预测公式如式（3―2）所示。（3）二维预测，也称为非线性预测，即预测值与样值之间为非线性关系。在图像数据压缩中，一维预测就是

7、用同一扫描行中的前几个已知的样值预测一个新值，而二维预测就是不但要用ur的同一扫描行以前的几个已知的采样值，还要用ur的前几行中的采样值来预测ur。2.最优预测最优线性预测就是按照某种准则,选择线性预测系数使得预测误差为最小。最基本、最常用的准则是均方误差(MSE,MeanSquareError），换句话说就是使σ2e=E［e2r］为最小。三、预测编码的基本类型预测编码，特别是线性预测编码已在信息与通信系统的信息处理中被广泛地采用，本章总结出了其中最常用的三种。1．DPCM型DPCM即差分脉冲遍码调制，其工作原理如图3―2所示。

8、图3―2中，信源输出序列ui即为DPCM输入序列。ui与预测值相减得误差值ei，再将ei量化成数字序列xi。经信道传输后变成yi序列。在接收端将接收到的yi与在接收端形成的预测值