第四章 信道失真率函数-精品PPT课件

它只能表示两个特定的具体符号，之间的失真，无法从整体上描述信道平均每传递个符号所引起失真大小定义平均失真度为失真函数的数学期望，即，在和的联合概率空间中的统计平均值平均失真度与信源统计特性信道统计特性和规定的失真度有关如果信源和失真度给定以后，就只是信道统计特性的函数，如果规定平均失真度不超过允许失真的上界最大允许平均失真度，简称允许平均失真度，则称为保真度准则满足保真度准则的限定条件下，求信息传输率的最小值符号序列的失真度若信源是单符号离散无记忆信源的次扩展，其限失真编码可视为长随机序列经由单符号离散无记忆信道的次扩散信道，再现为长的随机序列，信道输入，长输入符号序列与长输出符号序列间的失真函数由于次扩展信源和次扩展信道都是无记忆的，因此，信道输出符号序列的平均失真度符号序列的平均失真度符号序列的保真度准则为同单符号离散无记忆信源在个不同时刻通过同单符号离散无记忆信道所造成的平均失真度，因此都等于单符号离散无记忆信源通过单符号离散无记忆信道所造成的平均失真度，即，信息率失真函数的定义在单符号信源已知并规定了单符号失真度后，并非所有的信道都能满足保真度准则凡满足保真度准则的信道称为失真许可试验信道，所有的失真许可试验信道构成集合，对于离散无记忆次扩展信源和次扩展信道，相应的失真许可试验信道为，对于固定的信源分布，平均互信息是信道转移概率的下凸函数，也就是说，存在个信道使给定的信源经过此信道传输时，信道的平均互信息达到最小信源限失真编码根据定义个新的试验信道，新试验信道的平均失真度为，，新试验信道新试验信道在所有满足保真准则的信道集合中并不定是达到率失真函数使平均互信息达到最小的信道新试验信道的允许平均失真度固定信源，平均互信息是信道转移概率的下凸函数因此在定义域内是允许平均失真度的下凸函数，即率失真函数的连续性由数学分析理论“定义在开区间上的凸函数必是连续函数”知定义域为，且具有下凸性的是连续函数为开区间上的凸函数，则在上任取三点，必有首尾相连的弦线斜率是递增的，，凸函数在上满足李普希茨条件在中任选四点满足，再在中任选两点，证明为任意小的正数由第步证明在上致连续，由在上的任意性，最终证得凸函数在开区间上连续由于允许的平均失真越大，所要求的信息率就可以越小率失真函数是在平均失真度小于或等于允许平均失真度为的所有试验信道组成的集合中，取平均互信息的最小值当允许的平均失真度增大后，集合也随之扩大，它当然仍包含原来满足保真度准则的所有信道这时再在扩大的集合中挑选的最小值，显然新挑选出最小值或者不变，或者变小，所以率失真函数是单调非增的以下将通过证明率失真函数在定义域，内不可能为常数从而证明率失真函数是严格单调递减的函数率失真函数的单调递减性设，则，根据率失真函数的定义可知，因此率失真函数在定义域内是单调非增的。

任取两个允许平均失真度满足假设在区间上的函数值为常数，设有两个试验信道，它们达到对应的率失真函数，其输出分别为。

在保真度准则，的限定条件下有对于，总可以找到个足够小，满足，根据定义个新的试验信道其允许平均失真度为，显然有，新试验信道的平均失真度为，新试验信道在所有满足保真准则的信道集合中并不定是达到率失真函数的信道，因此满足保真准则固定信源，平均互信息是信道转移概率的下凸函数，所以综上分析可知时可见在区间上不是常数，原假设不成立。

第四章信息率失真函数基本概念离散信源的信息率失真函数连续信源的信息率失真函数保真度准则下的信源编码定理基本概念失真函数与平均失真度信息率失真函数的定义信息率失真函数的性质率失真函数的定义域率失真函数对允许平均失真度的下凸性率失真函数的单调递减和连续性引入限失真的必要性失真在传输中是不可避免的连续信源的绝对熵为无限大，若要无失真地进行传输，则要求信息传输率也为无限大，然而现实世界中信道带宽总是有限的，信道容量总有定限度，因此不可能实现完全无失真的信源信息的传输另方面，从无失真信源编码考虑，由于要求码字包含的信息量不小于信源的熵，所以对于连续信源，要用无限多个比特才能完全无失真地来描述，这是不现实的即使是离散信源，若要处理的信息量很大，采用无失真编码将使得信息的存储和传输成本非常高，而且在很多场合，过高的信息传输率是不必要的引入限失真的必要性续信宿只具有有限的的分辨能力与灵敏度，超过分辨能力与灵敏度的信息传送过程是毫无意义的例由于人耳能够接收的带宽和分辨率是有限的，因此对数字音频传输的时候，就允许有定的失真，并且对欣赏音乐没有太大的影响例对于数字电视，由于人的视觉系统的分辨率有限，并且对低频比较敏感，对高频不太敏感，因此也可以损失部分高频分量例放映电影，理论上要完全无失真地表现出个连续动作，需要用无穷多个静态画面连续放映，但利用人眼的“视觉暂留性”，只要每秒钟连续放映幅静态画面，就几乎让观众感觉不到失真的存在引入限失真的必要性续如果允许信息有些失真，就可以大大降低信息传输速率，从而降低通信成本应用种类象素数行行数帧信息传输率码率压缩前压缩后普通电视会议电视电视电话在允许定程度失真的条件下，怎样用尽可能少的码符号来表达信源的信息，也就是信源熵所能压缩的极限或者说编码后信息传输率压缩的极限值是多少保真度准则下的离散信源编码定理在允许定失真度的情况下，信源输出的信息传输率可压缩到极限值信息率失真函数失真函数由于本章学习内容只涉及信源编码问题，因此可以把从信源编码器到信源译码器之间的所有部件合在起等效为个有噪声的试验信道试验信道信源信源译码器信源编码器无损无噪信道信宿信道输入信道输出信道转移概率矩阵对每对指定个非负的函数失真函数续，，称为单个符号的失真度或失真函数，表示离散信源发出个符号而在接收端再现成所引起的误差和失真。

上述非负的失真函数共有个，可以整体表示成失真矩阵由于信源发出的符号和信宿收到再现的符号均是随机变量，因此单个符号的失真函数，也是随机变量的次实现无失真有失真常用的失真函数失真函数是根据人们的实际需要和失真引起的损失风险主观感觉上的差别等因素人为规定的，可以有多种形式，平方误差失真函数，绝对误差失真函数，相对误差失真函数误码失真函数，平方失真和绝对失真只与有关，而不是分别与，有关，在数学处理上比较方便相对失真与主观特性比较匹配，因为主观感觉往往与客观量的相对数成正比，但其数学处理比较困难误码失真函数表明，只要发送符号与接收符号不同，由此引起的失真都相同为常数。

若常数值为，则称为汉明失真适用于连续信源适用于离散信源平均失真度由于单个符号的失真函数，是随机变量的次实现，它只能表示两个特定的具体符号，之间的失真，无法从整体上描述信道平均每传递个符号所引起失真大小定义平均失真度为失真函数的数学期望，即，在和的联合概率空间中的统计平均值平均失真度与信源统计特性信道统计特性和规定的失真度有关如果信源和失真度给定以后，就只是信道统计特性的函数，如果规定平均失真度不超过允许失真的上界最大允许平均失真