房孝文外文翻译.doc

《房孝文外文翻译.doc》由会员上传分享，免费在线阅读，更多相关内容在行业资料-天天文库。

1、毕业设计(论文)外文资料翻译院（系）：数理系专业：信息与计算科学班级：081001姓名：房孝文学号：081001104附件：1.译文；2.原文2012年5月拟牛拟牛顿加速度的高维优化算法华洲•戴维亚力山大•·兰格摘要：在许多统计问题中，最大似然评估是通过EM或MM遇到了极度缓慢收敛。这种趋势，限制了现代高维数据挖掘问题，基因组学，和成像这些算法的应用。不幸的是，大多数现有的加速技术是不适合复杂的模型涉及大量的参数，平方迭代方法（squarem）最接近的varadhan和罗兰德构成一个显着概念。本文提出了一种新的拟牛顿加速度方案，只需要适度的增量在计算机计算每次迭代和整体存储并

2、具有超越性能的squarem几个代表性测试的问题。关键字：最大似然，多元，混合模式，成像，广义特征值。1介绍最大似然法和最小二乘的估计方法应用统计。因为封闭形式的解决方案的最大似然方程——是例外而不是规则，分析方法如算法（D等人。1977；小和鲁宾2002；克劳克兰和克里斯南2008）恩-欢乐用途广泛。在过去十年中，统计人员已经认识到，该算法是一个特殊情况，一个更广泛的MM（minorization-maximization或最小优化算法（德）排行1994；海泽1995；贝克尔等人。1997-2000；；猎人和朗格2004；吴和朗格2008）。这开辟了新的途径，设计等。一个利

3、用MM算法是数值稳定的。除了这一理想性能的提升，MM算法处理参数约束的优雅。约束满足的定义是建立在溶液中的最大化步骤。然而，MM算法遭受问题。一是他们经常慢速度的控制收敛在一个居民区的最高点。在高维的应用中，慢收敛是一个压倒一切的关注。另一个批评，它适用于得分和牛顿法一样，是他们无法区分从局部到整体的最大值。大多数现有的文献对加速电磁铝算法概述4章克劳克兰和氪-ishnan（2008）。正如varadhan和罗兰德（2008），现有的方法大致可分为两个品种。第一个成员类别使用电磁核聚变-能更好地逼近观测信息矩阵的对数似然。例子包括拟牛顿近似（朗格95；jamshidian和j

4、ennrich1997）和共轭梯度法（jamshidian和jennrich1993）。交换速度，这些方法牺牲稳定性和简单朴实的算法。二类的重点是直接修改个别细胞的算法。这些方法包括数据augmenta-tion（孟和范迪克1997），参数扩展他们（px-em）（刘等人。1998），细胞外基质（孟和鲁宾1993），和ecme（刘和鲁宾1994）。方法在二类保留提升性能的同时提高算法的收敛率。然而，他们是临时性的和微妙的调制。最近varadhan和罗兰德（2008）增加了三分之一类平方迭代方法（squarem），寻求近似牛顿法寻找一个固定点的算法映射。他们相似的多版本的艾特肯的

5、加速方法（路易斯1982）在很大程度上忽视观察对数似然。squarem算法保持纯朴的原始算法，最小的存储再要求，并适合于高维问题。在本文中，我们建立一个新的拟牛顿加速器-在许多方面类似于squarem。首先，它是现成的和广泛适用于任何搜索算法的罚款由平滑算法地图。它只需要更新的地图和一些额外的计算机代码。还有，与以往的拟牛顿加速方法（朗格1995；jamshidian和jennrich1997），它操纵观测信息马特里克或黑森州映射的算法。这使得它特别有吸引力的高维问题的标准。第三，铝-虽然它并不能保证提升财产时，美联社-股一MM的算法，可以恢复到普通MM必要时。此回退位置的主

6、要原因，我们专注于MM和算法。算法如块松弛（德莱乌1994）和陡峭的上升与线搜索份额提升性能这些算法也适应以及加速度。第二部分，我们描述了新拟牛顿特征化。3部分说明了基本理论的各种数值例子。我们的例子包括截断贝他－二项模型，泊松混合模型，该multivariatet分布，混合模型在遗传学，影像，电影评级模型，和一个迭代算法找到最大或最小广义特征值的双对称矩阵。一些参数范围从2数以万计在这些例子中，我们讨论了我们的调查结果。2拟牛顿加速算法在本节中我们得出一个新的拟牛顿方法加速光滑优化算法。以往的工作（朗格1995；jamshidian和jennrich1997）占据了当前主题

7、的角度优化的目标函数的牛顿法。这需要存储和处理全近似海赛矩阵，阿德-曼丁任务在高维问题。它也可能是合理运用牛顿法寻找根的方程0=x-F(x),其中，F是一个算法映射。这一改变本土视角的优势直接处理与遍历算法。现在用G（x）表示x-F(x)的差，因为G(x)已经微分了dG(x)=I−dF(x),牛顿迭代的方法根据如果我们能近似通过一个低阶矩阵M，然后我们可以用I-M替换，并且明确的形成的逆。拟牛顿方法操作的割线近似方法，从当前点经过两次迭代，我们可以得到一个点,如果我们接近最佳点,然后我们有线性逼近其中，