马尔可夫信源和剩余度

《马尔可夫信源和剩余度》由会员上传分享，免费在线阅读，更多相关内容在教育资源-天天文库。

1、3.3.3马尔可夫信源马尔可夫信源是一类相对简单的有记忆信源，信源在某一时刻发出某一符号的概率除与该符号有关外，只与此前发出的有限个符号有关。BUPTPress3.3.3马尔可夫信源我们把前面若干个符号看作一个状态，可以认为信源在某一时刻发出某一符号的概率除了与该符号有关外，只与该时刻信源所处的状态有关，而与过去的状态无关。信源发出一个符号后，信源所处的状态即发生改变，这些状态的变化组成了马氏链。BUPTPressBUPTPressBUPTPressBUPTPressBUPTPress例BUPTPressBUPTPressBUPTPress一步转移概率矩阵BUPTPressBUP

2、TPressm阶马尔可夫信源的条件概率m阶马尔可夫信源的极限熵BUPTPressBUPTPressBUPTPressBUPTPress例3.5设有一个二元2阶马尔可夫信源，其信源符号集为BUPTPress解得计算极限熵BUPTPress3.3.4信源的相关性和剩余度BUPTPress实际信源平稳信源m阶马尔可夫信源1阶马尔可夫信源无记忆信源BUPTPress举例BUPTPressBUPTPressBUPTPress信源熵的相对率信源的剩余度（冗余度）英文的冗余度信息变差BUPTPress信源的剩余度来自两个方面，一是信源符号间的相关性，相关程度越大，符号间的依赖关系越长，信源的实

3、际熵越小，另一方面是信源符号分布的不均匀性使信源的实际熵越小。为了更经济有效的传送信息，需要尽量压缩信源的剩余度，压缩剩余度的方法就是尽量减小符号间的相关性，并且尽可能的使信源符号等概率分布。从提高信息传输效率的观点出发，人们总是希望尽量去掉剩余度。但是从提高抗干扰能力角度来看，却希望增加或保留信源的剩余度，因为剩余度大的消息抗干扰能力强。信源编码是减少或消除信源的剩余度以提高信息的传输效率，而信道编码则通过增加冗余度来提高信息传输的抗干扰能力。BUPTPressBUPTPressBUPTPressBUPTPress