信道及信道容量

信道及信道容量

ID:40094996

大小:1.85 MB

页数:54页

时间:2019-07-20

信道及信道容量_第1页
信道及信道容量_第2页
信道及信道容量_第3页
信道及信道容量_第4页
信道及信道容量_第5页
资源描述:

《信道及信道容量》由会员上传分享,免费在线阅读,更多相关内容在教育资源-天天文库

1、第四章离散信道及其信道容量信道——信息传输的通道信息论中与信源并列的另一个主要研究对象研究的主要内容:★信道的建模★信道容量★不同条件下充分利用信道容量的方法一.数学模型干扰信道输入信号x输出信号yp(y

2、x)第一节信道模型及其分类p(y

3、x):反映信道的统计特性,即输入输出的依赖关系,又称信道的传递概率、转移概率或传输概率。信道的数学模型:{X,p(y

4、x),Y}1.按其输入/输出信号在幅度和时间上的取值是离散或连续来分:幅度时间信道名称离散离散离散信道(discretechannel),也称数字信道(di

5、gitalchannel)连续离散连续信道(continuouschannel)连续连续模拟信道(analogchannel),也称波形信道(waveformchannel)离散连续理论、实用价值很小二.分类2.按其输入/输出之间关系的记忆性划分:无记忆信道:有记忆信道:3.按其输入/输出信号之间是否是确定关系来分:有噪信道:无噪信道:在某一时刻信道的输出消息仅与当前信道的输入消息有关,而与之前时刻的信道输入无关在任一时刻信道的输出不仅与当前输入有关,而且还与以前时刻输入有关存在噪声,不存在确定关系——实用价

6、值大,研究的理想对象不存在噪声,存在确定关系——实用价值小4.按其输入/输出信号个数来分:两端信道(两用户信道):只有一个输入端和一个输出端的单向通信的信道,又称为单路信道.多端信道(多用户信道):信道的输入输出至少有一个具有两个或两个以上的信号.多元接入信道广播信道5.按信道的统计特性分:恒参信道变参信道一.定义1.定义——输入/输出在幅度和时间上都是离散的,并且在某一时刻信道的输出消息只与当前信道的输入有关,而与之前时刻的信道输入无关。2.数学模型:离散信道对任意N长的输入、输出序列有如果有,则信道为平稳

7、的离散无记忆信道DMC。第二节离散无记忆信道DMC1.定义:2.传输概率p(y

8、x)——可描述信道中干扰影响的大小,干扰存在,传输时可能发生错误。二.单符号离散无记忆信道——完全反映信道的特性3.信道矩阵P4.信道输出与输入之间的关系例4-1:其中:p表示传输中发生错误的概率二元对称信道(BSC)(二进制对称信道)其中:p、q表示正确传输的概率二元删除信道(二进制删除信道)1.信道疑义度(损失熵)表示:由于信道的干扰,导致信道输出端收到Y后,对输入X仍然存在的平均不确定度。也可表示:由于信道干扰导致信息量的损

9、失。信道XY三.信道疑义度和平均互信息信道H(X

10、Y)XYH(X)I(X;Y)表示:接收端收到Y后获得的关于X的信息量(即接收到的信息量)I(X;Y)=H(X)-H(X

11、Y)•定理1:对于固定信道,I(X;Y)是信源概率分布p(x)的上凸函数。2.平均互信息定理2:对于固定的信源分布,I(X;Y)是信道传递概率P(y

12、x)的下凸函数。例4-2:考虑二元对称信道,其信源概率空间为信道XY(0,1)(0,1)求其平均互信息解:应用全概率公式则有:则平均互信息:当信道固定,即p为一个固定常数时,可得到I(X;Y)是

13、信源输出分布ω的上凸函数。当信源固定,即ω是一个常数时,可得到I(X;Y)是信道传递概率p的下凸函数。当p=0.5时,I(X;Y)=0,在接收端未获得信息量。当ω=1/2时,即取极大值.例4-3:掷色子,如果结果是1,2,3,4,则抛一次硬币;如果结果是5、6,则抛两次硬币。试计算从抛硬币的结果可以得到多少掷色子的信息量。解:设掷色子结果是1,2,3,4为事件X=0,结果是5、6为事件X=1;Y=0表示抛硬币出现0次正面,Y=1表示抛硬币出现1次正面,Y=2表示抛硬币出现2次正面。信源概率空间为信道矩阵为输出

14、符号的概率空间为则有:四.离散无记忆信道的N次扩展信道N次扩展信道信道例4-4:求二元无记忆对称信道的二次扩展信道。解:输入扩展为:00,01,10,11输出扩展为:00,01,10,11传递矩阵扩展为:请问:与I(X;Y)之间的关系?定理1:若信道的输入、输出分别为N长序列X和Y,且信道是无记忆的,即:用两个定理回答这个问题定理2:若信道的输入、输出分别为N长序列X和Y,且信源是无记忆的,即:由定理1和定理2当信源和信道都是无记忆时有:当每个序列中的分量Xi取值于同一信源符号集,且具有同一种概率分布,则输出

15、Y的分量Yi也取值同一符号集,则各I(Xi;Yi)是相等的。即:对于N次扩展,则有一.级联信道(串联信道)第三节信道组合消息依次通过几个信道串行传输:信道1信道2XYZp(y

16、x)p(z

17、xy)级联信道的平均互信息存在两个定理:定理1:级联信道中的平均互信息满足以下关系Y确定后,Z不再与X有关,只取决于信道2的转移概率矩阵,则I(X;Z

18、Y)=0,这意味着X,Y,Z构成一个一阶马尔可夫链.定理2:若

当前文档最多预览五页,下载文档查看全文

此文档下载收益归作者所有

当前文档最多预览五页,下载文档查看全文
温馨提示:
1. 部分包含数学公式或PPT动画的文件,查看预览时可能会显示错乱或异常,文件下载后无此问题,请放心下载。
2. 本文档由用户上传,版权归属用户,天天文库负责整理代发布。如果您对本文档版权有争议请及时联系客服。
3. 下载前请仔细阅读文档内容,确认文档内容符合您的需求后进行下载,若出现内容与标题不符可向本站投诉处理。
4. 下载文档时可能由于网络波动等原因无法下载或下载错误,付费完成后未能成功下载的用户请联系客服处理。