基于深度学习的过完备字典稀疏表示的矩阵分析.pdf

《基于深度学习的过完备字典稀疏表示的矩阵分析.pdf》由会员上传分享，免费在线阅读，更多相关内容在行业资料-天天文库。

1、学术探讨∙经验交流基于深度学习的过完备字典稀疏表示的矩阵分析卫小强（洛阳师范学院，河南洛阳471934）[摘要]本文从数学的角度探讨了外部输入信息与过完备字典之间的关系问题即相关性问题，研究了过完备字典与稀疏表示的内在联系，在此基础上对过完备字典进行分析和修正，以提高深度学习的层次且增加对环境的适应性，为今后对字典的设计奠定了基础。[关键字]机器学习；过完备字典；稀疏表示；OMP中图分类号：TN911.7文献标识码：A文章编号：1008-6609(2017)07-0097-03转变为另一变换域空间，这种变换可以通过一个自适应的变1前言换矩阵来实现。将一个高维的信号特征

2、，转变为一个低维的人类对客观世界的认识，得益于对自身大脑认知的理相应的更抽象概括的特征。其中这个变换矩阵为一随外部解。在此基础上，人工智能和人工神经网络的研究正是在此环境信息的变化通过反馈而自适应修正的过完备字典。我展开的。正如人类大脑理解的过程，人工神经网络对事物认们通过样本学习来求解这个凸优化问题的相关系数。上述识也是从低层次的具体明暗、颜色、深度、边缘等特征开始，的数学模型可用Y=AX的矩阵表达式进行描述。A为Rm×n的而后在更高层次去提取事物更抽象的特征，即各种形式的具矩阵，其中m<

3、的融合。其中伴随着认知阵分析理论，当m<

4、信息主要成分并没有丢失而是更匹配外部输入的信息，输出层是对外部信息进行最高级别的为集中。用以评价衡量稀疏程度的指标：①0-范数：X中的抽象概括的组合表示。隐含层的层次越多，可接收外部信息非零的个数。②稀疏因子：X中非零元与X行数之比的相对的能力和适应性也相应越强，但层次结构也会越复杂，极大参数。③非线性逼近误差：评定能量的集中程度的指标。增加了时间的开销。本文的核心在于隐含层的理解和分析，3过完备字典与稀疏表示的关系因为它承担了承上启下的功能，对于外部输入信息进行以智输入信息经过过完备字典的分解处理也就是将信息在能的过完备字典形式的“特征学习”，通过它也可以进行特征过

5、完备字典相应矩阵的求解的数学处理过程，要获得稀疏系表示空间之间的转换，这样才能使我们需要的某些特征更清数，即通过一系列矩阵相关运算，找出在字典矩阵中与外部晰地抽象概括分离出来，所以需对中间隐含层应承担的功能信号最匹配的几列向量，在此基础上用这几列向量和计算获进行研究探讨和界定。得的稀疏系数两者去重构信号。上述这些要求：①过完备字2经典的人工智能模型的数学理解典必须有与外部信号相关的原子（即列向量），外部信号与字人工智能的隐含层的核心功能是将信号从某一变换域典变换基相关性不大，得到的变换系数有可能不是稀疏系——————————————作者简介：卫小强（1972-），男，

6、山西阳城人，硕士研究生，讲师，研究方向为计算机应用、彩色图像处理算法研究。-97-学术探讨∙经验交流数，这关系到稀疏表示的准确性和高效性。②过完备字典自②当选定一类与信号较为匹配的字典矩阵后，还需对该身的结构。若过完备字典列向量仅仅是两两相关，而非两两子字典矩阵进行更新。这些涉及到不仅更新子字典矩阵的正交，这样的随后矩阵的运算中多次的迭代后会造成次优解列向量，还有其对应的稀疏系数，即2的存在，即局部优解的存在。基于上述两点我们需要对过完k2iY-DX=Y-∑djXTF备字典的选择进行规范：①根据外部信息的大体类型确定过j=1F2完备字典类型，以便可

7、通过字典矩阵分解获得稀疏系数表kjK=(Y-∑djXT)-dxXT示。②在计算中，对过完备字典进行整合，使其矩阵列向量j≠kF2两两正交，标准化，即施密特正交化。以便在求解过程中可=E-dXkkxTF求得全局最优解，而非次优解。kXT-X中的第k行元素，Ek—第k个原子更新时，所有累4对于过完备字典构成的算法研究积样本误差。在更新中，其中在一次迭代中第k-1项是固定通过研究匹配追踪算法（MP）和正交匹配算法（OMP）来不变的，仅一次更新第k项，一直到所有的字典原子列向量与计算L-0范数矩阵求解问题可知，信号在过完备字典矩阵中相应的