基于非负矩阵分解的聚类算法研究

《基于非负矩阵分解的聚类算法研究》由会员上传分享，免费在线阅读，更多相关内容在学术论文-天天文库。

1、工程硕士学位论文基于非负矩阵分解的聚类算法研究作者姓名詹明俊工程领域电子与通信工程校内指导教师李波副教授校外指导老师陈曦高级工程师所在学院电子与信息学院论文提交日期2018年5月ResearchonClusteringAlgorithmsBasedonNon-negativeMatrixFactorizationADissertationSubmittedfortheDegreeofMasterCandidate：ZhanMingjunSupervisor：AssociateProf.LiBoSouthChinaUniversit

2、yofTechnologyGuangzhou,China分类号：TP181学校代号：10561学号：201521009873华南理工大学硕士学位论文基于非负矩阵分解的聚类算法研究作者姓名：詹明俊指导教师姓名、职称：李波、副教授申请学位级别：工程硕士学科专业名称：电子与通信工程论文形式：□产品研发□工程设计应用研究□工程/项目管理□调研报告研究方向：信号与信息处理论文提交日期：2017年5月31日论文答辩日期：2018年6月2日学位授予单位：华南理工大学学位授予日期：年月日答辩委员会成员：主席：傅于力教授委员：李波副教授、向友君副

3、教授、唐杰副教授、周斯宁高级工程师摘要非负矩阵分解是近年来一种新颖的降维范式，能够帮助人们从高维复杂的数据样本中挖掘和提取核心特征和信息。在模式识别，多媒体数据分析，信号处理，计算机视觉，文本挖掘等方面都可以看到非负矩阵分解的应用。在图像数据特征分析上，由于非负性带来的纯加性性质，非负矩阵分解能够很好地提取图像的局部特征，构造一种局部组成整体的抽象，十分符合人类的直觉视觉感知。随着非负矩阵分解研究的进展，许多加速和优化分解的算法被提出，而且越来越多的基于它的衍生分解范式也受到许多研究者的关注。而由于非负矩阵分解本身潜在的聚类表征，

4、研究者发现了它与传统的谱聚类、KernelK-means聚类之间的联系，随后便出现了许多基于非负矩阵分解的聚类算法。这些新的分解范式和算法不但拓宽了非负矩阵分解的应用范畴，而且提高了其在无监督聚类上的性能表现。本文的第一个工作是在分解模糊聚类算法框架的基础之上，利用一种非单调加速邻近梯度方法，来解决分解模糊聚类中出现的约束最小二乘问题，提出了一个加速分解模糊聚类的算法。同时，本文还提出了一个有效的贪婪算法，用于解决在应用非单调加速邻近梯度法时，定义域指示函数的邻近映射问题。本文的第二个工作是提出了一种全新的基于非负矩阵分解的分解范

5、式及其求解算法FuzzyCluster-NMF。FuzzyCluster-NMF在Cluster-NMF基础上，对于非负矩阵分解中的系数矩阵施加更加严格的约束条件，并且将基矩阵与系数矩阵绑定，从而在目标函数中消除了基矩阵自由度，最终使得分解因子获得聚类中心与隶属度的表征。本文不但给出了FuzzyCluster-NMF的目标函数梯度分析，并且利用线性搜索步长的nmAPG算法来加速求解FuzzyCluster-NMF的收敛速度。通过对比的数值实验，本文验证了加速分解模糊聚类和FuzzyCluster-NMF的聚类效果。加速分解模糊聚类

6、在保证了原聚类准确度的同时显著地提高了收敛速度，而FuzzyCluster-NMF不但具有相对更高的聚类准确度，并且同样具有很高的鲁棒性。关键词：非负矩阵分解；分解模糊聚类；非单调加速邻近梯度法IAbstractNon-negativematrixfactorization(NMF)isanoveldimensionreductionparadigminrecentyears,whichhastheabilitytohelppeoplediscoverandextractcriticalcorefeaturesandinforma

7、tionfromcomplexdatasampleswithhighdimension.NMFcanbeusedinvariousapplicationssuchaspatternrecognition,multimediadataanalysis,signalprocessing,andcomputervisionandsoon.Onthefeatureanalysisofimage,duetothepureadditivepropertiesbroughtbynon-negativity,NMFisabletoextractt

8、helocalfeaturesofimages,soastoconstructanabstractionthatentiretiesareconstitutedbylocalcomponents,whichisveryaccordwithhuman