稀疏表示与稀疏分解.ppt

《稀疏表示与稀疏分解.ppt》由会员上传分享，免费在线阅读，更多相关内容在行业资料-天天文库。

1、稀疏表示与稀疏分解1.稀疏表示介绍稀疏表示，它意欲用尽可能少的非0系数表示信号的主要信息，从而简化信号处理问题的求解过程。稀疏表示模型可如表达式(1)所示，其中y∈R^n为待处理信号，D∈R^(n×m)为字典，x∈R^m为稀疏系数，

2、

3、x

4、

5、_0≪m。

6、

7、x

8、

9、_0为x的稀疏度，它表示x中非0稀疏的个数。y=Dxsubjecttomin

10、

11、x

12、

13、_0(1)n×mm×1n×1几个专业名词解析:原子：原子即为字典的列向量。完备字典与过完备字典：如果字典D中的原子恰能够张成n维的欧式空间，则字典D是完备的。如果m＞＞n，字典D是冗余的，

14、同时保证还能张成n维的欧式空间，则大字典D是过完备的。我们一般用的字典都是过完备的，因为在过完备的字典下分解稀疏系数不唯一，这也恰恰为图像的自适应处理提供的可能，我们可以根据自己处理的要求选择最合适的最稀疏的系数。其实求解过完备的稀疏表示模型等价于寻求欠定系统的最稀疏解问题。D∈R^(n×m)且m＞n时，如何求解y=Dx即如下我们已经知道在过完备字典的条件下稀疏系数是不唯一的，但是否我们可以求出最稀疏解呢？Elad和Bruckstein在2004年对下述定理进行了证明：定理1：设D为一个相干系数是μ的原子库，D={gi，i=1.

15、...M}。如果一个N维的信号s可以表示为：并且＜1/μ,那么上式就是信号s在D中最稀疏的表示。注释：定理1中的非相干原子库D指的是指相干系数μ小于某一常数的原子库，相关系数定义如下：相关系数的大小与原子的相关性呈正比。若μ=1，即表明原子库中至少有两个原子相同，当μ比较小时，即表明原子间的相关性不高即可称此原字库为非相干原字库。面对稀疏表示模型，有三个关键问题需要解决，如下:1.如何有效获取图像在字典中下最稀疏的分解系数?2.如何设计与构建有效的图像稀疏表示字典?3.如何将图像稀疏表示模型应用于具体的图像处理反问题中?今天

16、我主要讲的是求解稀疏系数问题。2.稀疏分解算法获取信号在过完备字典下的最优稀疏表示或稀疏逼近的过程叫做信号的稀疏分解，这是稀疏表示能否在实际图像处理中应用的基本问题。但是由于L0范数的非凸性，在过完备字典之下求最。主要采用的逼近算法1.凸松弛法基追踪（BP）,基追踪去噪算法（BPDN）,平滑L0范数（SL0）等等。2.贪婪法匹配追踪（MP）,正交匹配追踪（OMP）,弱匹配追踪等等。2.1凸松弛法凸松弛算法的核心思想就是用凸的或者是更容易处理的稀疏度量函数代替（1）中非凸的L0范数，通过转换成凸规划或非线性规划问题来逼近原先的组合优

17、化问题，变换后的模型则可采用诸多现有的高效算法进行求解，降低了问题的复杂度。我在这里主要介绍的是基追踪算法（BP）与基追踪去噪算法（BPDN）。这两个算法的基础是用L1范数替代L0范数即将subjecttoy=Dx转化为subjectto

18、

19、y-Dx

20、

21、_2＜ε为什么L1范数与L0范数效果会等价?Elad和Bruckstein在2004年对下述定理进行了证明：定理2：如果信号s在原子库中存在一个系数表示，而且满足下式:则此分解的L1范数最小化问题有唯一的解，即为L0范数最小化的解。1.如果满足定理1中的条件，则L0范数的问题将有唯

22、一最稀疏解;2.如果进一步的满足定理2的条件，则L0范数的优化问题与L1范数的优化问题等同，即对求解稀疏系数的最小L0范数问题就转化成为了最小L1范数问题。基追踪：我们将L1范数替换L0范数之后，稀疏表示模型：min

23、

24、x

25、

26、_1subjecttoy=Dx就变成了一个常见的线性规划问题，我们可以用单纯性算法或内点法来求解.基追踪去噪：我们可以把上式的模型加以变形为：min（x）½

27、

28、y-Dx

29、

30、_2+i

31、

32、x

33、

34、_1这个称为L1范数最小二乘规划问题，我们可以用梯度下降或梯度投影法进行快速的求解。凸松弛算法的有效性依赖于过完备字典自

35、身是否存在快速的变换与重建算法，例如对于正交基字典算法具有较高的效率，然而对于一般的过完备字典，凸松弛算法仍具有非常高的运算复杂度。2.1贪婪法我们知道稀疏解x包括非0系数的位置索引和幅值两个信息，贪婪法的主体思路是先确定x中非0元素的位置索引，然后用最小二乘求解对应的幅值。与凸松弛算法相比，贪婪法具有比较低的复杂度。我们这里主要介绍的算法是匹配追踪算法（MP）与正交匹配追踪算法(OMP)。因为这两个算法是复杂贪婪算法的基础。2.1.1匹配追踪法MP算法的基本思路是在每一次的迭代过程中，从过完备字典D中选择与信号最为匹配的原子来构

36、建稀疏逼近，并且求出信号表示残差。之后继续选择与信号残差最为匹配的原子，再经过一定次数的迭代，信号就可以由多个原子线性的表示。x为信号，为用于稀疏分解的过完备字典的原子（即列向量），为r的集合。原子都做了归一化处理=1。首先从过完备库中选出与待分解