具有Log型惩罚函数的正则化方法研究.pdf

《具有Log型惩罚函数的正则化方法研究.pdf》由会员上传分享，免费在线阅读，更多相关内容在学术论文-天天文库。

1、分类号：０２１２：１０６９７．１学校代码密级：公开学号：２０１２２０５１３足＿．－－Ｍ尽？（）２ｊ＾ＮｏｒｔｈｗｅｓｔＵｎｉｖｅｒｓｉｔｙ豢■－…＿：．士、■？．■．，？；６５士字位论文；‘＇ＭＡＳＴＥＲＳＤＩＳＳＥＲＴＡＴＩＯＮ具有Ｌｏｇ型惩罚函数的正则化方法研究学科名称：概率论与数理统计作者：高雅指导老师：张海教授西北大学学位评定委员会二—０五年西北大学学位论文知识产权声明书本人完全了解西北大学关于收集、保存、使用学位论文的规

2、定。学校有权保留并向国家有关部门或机构送交论文的复印件和电子版。本人允许论文被查阅和借阅。本人授权西北大学可以将本学位论文的全部或部分内容编入有关数据库进行检索，可以采用影印、缩印或扫描等复制手段保存和汇编本学位论文。同时授权中国科学技术信息研究所等机构将本学位论文收录到《中国学位论文全文数据库》或其它相关数据库。保密论文待解密后适本声明。＠ｋ学位论ｔ作者答名＝％指导教师签名＝）力０年６月曰年＾＞月日純（？西北大学学位论文独创性声明本人声明：所呈交的学位论文是本人在导师指导下进行的

3、研究工作及取得的研究成果。据我所知，除了文中特别加以标注和致谢的地，方外，本论文不包含其他人己经发表或撰写过的研究成果也不包含为获得西北大学或其它教育机构的学位或证书而使用过的材料。与我一同工作的同志对本研究所做的任何贡献均已在论文中作了明确的说明并表示谢意。学位论文作者签名：６月日，／摘要现今在科学技术的快速发展的趋势之下各个学科均产生了高维海量数据．，如何对高维海量数据进行更行之有效的分析是当前统计学金融经济学网络，，安全和基因组学等领域面临的主要问题之一．正则化方法作为分析高维

4、海量数一据的最有力工具之在各个领域都得到了广泛应用．正则化方法有许多求解，一算法．作为种高效、快速、重ｊＵｉ精度高的求解正则化模型的方法阈值迭代，算法与正则化方法相结合近几年在各个领域都得到了应用．，本文基于正则化理论框架研究了基于Ｌｏ型罚函数的正则化方法并利用，ｇ，闽值迭代理论方法得到了基于上０々型罚函数的正则化方法的阈值算子同时给，出一种高效的非凸变量选择的阈值迭代算法并通过变量选择及稀疏信号重建，一两组实验证明了该方法的有效性．进步从理论角度分析基于Ｌｏ型罚函数的，卩正则化方法阈值迭代算法的收

5、敛性并给出其收敛到稀疏解的充分条件证明，，了在此充分条件下模型的估计误差以指数阶的速率收敛于零．，一本文研究具有Ｌｏｇ型惩罚函数的正则化方法为稀疏正则化方法做了进，步推广也为高维海量数据分析的研究工作提供了有利选择．，关键词正则化方法阈值迭代算法稀疏性压缩感知．，，，ｉＡｂｓｔｒａｃｔＷｉｔｈｔｈｅｒａｐｉｄｄ（〕ｖ（〕ｌｏｐｉｕ（）ｉｉｔｏｆｓｃｉｅｎｃｅａｎｄｔｅｃｈｎｏｌｏｇｙｖａｒｉｏｕｓｆｉｅｌｄｓｈａｖｅ，ｉｉ－ｖｅｄａｔａｉｉｉｉｐｒｏｄｕｃｅｄｍａｓｓ．Ｈ

6、ｏｗｔｏａｎａｌｙｚｅｈｇｈｄｍｅｎｓｏｎａｌｍａｓｓｖｅｄａｔａｓｏｎｅｏｆｔｈｅｍａｉｎｒｏｂｌｅｍｓｉｎｔｈｅｃｕｒｒｅｎｔｆｉｅｌｄｓｏｆｓｔａｔｉｓｔｉｃｓｆｉｎａｎｃｉａｌｅｃｏｎｏｍｉｃｓｉｎｔｅｒｎｅｔｐ，，ｓｅｃｕｒｉｔｙａｎｄｅｎｏｍｉｃｓ．ｇＲｅｕｌａｒｉｚａｔｉｏｎａｒｏａｃｈａｓａｎｅｆｆｅｃｔｉｖｅｗａｔｏｅｘｔｒａｃｔｉｎｆｏｒｍａｔｉｏｎｆｒｏｍｇｐｐ，ｙ－ｕｓｅｄｈｉｇｈｄｉｍｅｎｓｉｏｎａｌｍａｓｓｉｖｅｄａｔａｈ

7、ａｓｂｅｅｎｗｉｄｅｌｙ．Ｔｈｅｒｅａｒｅｍａｎｙｌｅａｒｎｉｎｇｉｉｉ？ａｌｇｏｒｔｈｍｓｆｏｒｓｏｌｖｎｒｅｕｌａｒｚａｔｉｏｎｒｏｂｌｅｍｓ．Ｔｈｅｉｔｅｒａｔｉｖｅｔｈｒｅｓｈｏｌｄｉｎａｌｏｇｇｐｇｇｒｉｔｈｍｉｓｏｎｅｏｆｔｈｅｅｆｆｉｃｉｅｎｔａｎｄｆａｓｔｗａｙｓｗｉｔｈｈｉｈｒｅｃｏｎｓｔｒｕｃｔｉｏｎａｃｃｕｒａｃｇｙｆｏｒｓｏｌｖｉｎｇｒｅｇｕｌａｒｉｚａｔｉｏｎｐｒｏｂｌｅｍｓｗｈｉｃｈｈａｓｂｅｅｎｕｓｅｄｉｎｔｈｅａｎ

8、ａｌｙｓｉｓｏｆｈｉｇｈ，ｄｉｍｅｎｓｉｏｎａｌｍａｓｓｉｖｅｄａｔａｉｎｒｅｃｅｎｔｙｅａｒｓ．Ｂａｓｅｄｏｎｔｈｅｔｈｅｏｒｅｔｉｃａｌｆｒａｍｅｗｏｒｋｏｆｒｅｇｕｌａｒｉｚａｔｉｏｎａｐｐｒｏａｃｈｗｅ