资源描述：
《基于混沌变量的变步长梯度下降优化算法》由会员上传分享，免费在线阅读，更多相关内容在行业资料-天天文库。
1、ISSN1000-0054清华大学学报(自然科学版)2003年第43卷第12期26/32CN11-2223/NJTsinghuaUniv(Sci&Tech),2003,Vol.43,No.121676-1678基于混沌变量的变步长梯度下降优化算法11233姚俊峰,杨献勇,彭小奇,张田,郑顺斌(1.清华大学热能工程系,北京100084;2.中南大学热工设备仿真与优化研究所,长沙410083;3.福建浔兴集团公司,晋江362246)摘要:梯度下降法与混沌优化法均具有各自的缺点。该文梯度法是解决非线性问题寻优常用的方法,但将二者结合起来,利用混沌运动的遍历性,将混
2、沌因子引入它具有收敛慢、收敛速度依赖于变量尺度的缺点,在到变步长中,对梯度下降法进行改进。首先利用混沌变量来极小点附近尤为显著。初始化步长大小,并随着搜索过程向最优点靠近,逐渐调整混沌是自然界中一种较为普遍的现象,它看似混沌变量,从而使步长的变化也不断变小,以使最优点附近混乱,却有着精致的内在结构,具有“随机性”、“遍历步长波动平稳,避免了梯度下降法拉锯现象的产生。通过3[1]性”及“规律性”等特点,在一定范围内能按其自身个典型算例,用该算法和梯度下降法以及其他2种算法进行的“规律”不重复地遍历所有状态。混沌优化方法在了优化计算对比。结果表明,采用该算法的迭
3、代次数减少了搜索空间小时效果显著,但搜索空间大时其效果却45%以上。[2]不能令人满意。关键词:最佳控制;混沌;变步长;梯度下降法;优化本文利用混沌运动的遍历性,将混沌因子引入中图分类号:TP273.1文献标识码:A到梯度下降法的变尺度中,充分利用混沌运动与梯文章编号:1000-0054(2003)12-1676-03度下降法的优点,构造了一种基于混沌变量的变尺度梯度下降优化算法。Decreasinggradientoptimization1传统优化算法的分析algorithmwithvariablestep设目标函数为f(x1,…,xr),记X=(x1,…
4、,lengthbasedonchaoticvariablesxr),优化问题如下所示:**YAOJunfeng1,YANGXianyong1,PENGXiaoqi2,(x1,…,xr)=argminf(x1,…,xr),(1)ZHANGTian3,ZHENGShunbing3s.t.ai≤xi≤bi.(2)(1.DepartmentofThermalEngineering,式中:[ai,bi]为xi的变化区间,r为变量的个数,TsinghuaUniversity,Beijing100084,China;i=1,…,r。式(1)是模型的优化函数,式(2)是模型
5、2.InstituteonSimulationandOptimizationofPyro-installations,的约束条件,假定f(x1,…,xr)的最优点不在边界上。CentralSouthUniversity,Changsha410083,China;3.FujianXunxingGroupCo.,Jinjiang362246,China)文[3]给出的算法如下:0步骤1给X一个初值X,置k=0。Abstract:Thedecreasinggradientalgorithmandchaosalgorithm*bothhaveshortcomings
6、foroptimizationproblems.Thispaper步骤2用共轭梯度法搜索出X。presentsanewalgorithmwhichcombinesthe2algorithmsto步骤3用混沌法进行若干步搜索,如果找不produceagreatlyimproveddecreasinggradientalgorithmby*到比X更好的点,结束。否则,假定找到一点Y,该introducingchaosvariablesintothevariablesteplengthtotake*0advantageoftherandomnessofthecha
7、oticmovements.Thestep点的函数比X更好,用Y代替X,返回步骤2。lengthwasinitializedusingchaoticvariableswhichwereadjusted当搜索空间大时,该法易陷于局部极小值,找不stepbystepasthesearchprocedurereachedthebestpoint,sothatthesteplengthfluctuatedsmoothlyandavoidedoscillationswhich收稿日期:2003-05-19oftenariseinthedecreasinggradien
8、talgorithm.Thenumberof基金项目
