具有畸形约束极值点问题的优化

在畸形约束极值点附近,约束边界与目标函数等值线接近于相切,可行适用方向区非常狭小,难以寻得真正的约束极值点。为了使优化方法更好地解决各领域的复杂优化问题,研究具有畸形约束极值点问题的优化。针对该类问题的一个算例,分别采用随机方向方法、复合形法、内点惩罚函数法、外点惩罚函数法进行了优化,并对比了计算结果。随机方向法和复合形法在寻得边界点之后,难以找到可行适用方向,因此给出了伪最优点。而惩罚函数法由于其渐进优化的特点,可寻得最接近于约束极值点的最优点。计算结果验证了基于盲人探路优化思想的改进随机方向法,可减少随机方向的产生次数;验证了基于盲人探路思想的改进复合形法,可减少复合形的构造次数;也验证了加固围墙的内点惩罚函数法不要求初始点一定在可行域之内,也不会因寻优越界而给出伪最优点。对于存在多个约束极值点的优化问题算例,只要适当选取初始点,采用内点法就能寻得所有局部最优点。通过多种优化方法的对比研究,得出了对于畸形约束极值点优化问题,宜选用惩罚函数法求解的结论。     

实用最优点的概念及求解方法

从工程实际角度引出实用点的概念,指出对于一个优化问题而言,在某些场合不仅要考虑目标函数的全局极值点,还要考虑函数在此极值点邻域内的性质,进而提出实用最优点的概念——带有一定邻域约束的全局最优点.由于该约束采用传统方法难以处理,文中采用邻域采样的近似方法,基于粒子群优化算法的思想,提出了一种快速搜索算法,以求取不同要求下的实用最优点.仿真实验结果验证了实用最优点的概念以及搜索算法的可行性,该搜索算法具有良好的寻优性能.     

聚类分析在多极值函数优化中的应用

将聚类分析方法应用于经典的优化和遗传寻优过程当中，提出了一种求解多极值函数全局最优解的方法。在基于梯度的算法中，先取多个初始点，几次迭代搜索后做聚类分析。在每类取一点，将目标函数分为多个单极值函数，然后分别寻优，通过比较得到全局最优解。在遗传算法中，通过聚类分析在每类取若干个体作为代表个体，它们将始终参与遗传操作，从而有望达到全局最优。     

求解全局优化问题的填充函数法

给出一类基于目标函数和变量与极值点距离平方的填充函数, 应用此函数可从一个极小值点出发, 找到函数值小于此极值的另一极值点； 证明了适当选取参数r可使函数达到总体极小值而非鞍点值或极大值， 并给出了具体的算法步骤及算例.     

嵌入不动点迭代法的粒子群算法

针对利用粒子群优化算法寻找最优极值的问题,本文提出了一种对粒子群优化算法的改进方式.在粒子群优化算法中,加入不动点迭代法,即在进行粒子群迭代寻优之后,再利用不动点迭代策略再次进行迭代寻优计算.通过两次迭代寻优计算,让算法更加快速的收敛到最优值,并且能够找到更小的极值,且不易陷入局部极值.让粒子群算法更加稳定,寻优更加优化.     

闭环系统的迭代相关校正控制设计

对于闭环控制系统中的参数化控制器的设计问题,基于系统辨识的模型检验过程,提出一种新的数据驱动法-迭代相关校正控制法。将参数化控制器的未知参数向量辨识转化为互相关函数的寻根过程,对于此寻根过程可采用随机逼近算法求解。在放松条件下,建立关于互相关函数的目标准则函数,进而利用梯度算法求解一个无约束的优化问题,且推导出终止梯度算法迭代循环的总次数。最后用仿真算例验证该方法的有效性。     

利用人工鱼群算法求解一类函数的极值

人工鱼群算法是一种基于动物行为的群体智能寻优算法。具有并行性、全局性、简单性、快速性、跟踪性等优点。可以处理一些非凸、非线性等方面的问题．针对一类不可用经典方法求解极值的函数,提出了一种基于人工鱼群算法求解这一类函数极值的方法,并通过仿真实验的研究,验证了该算法求解函数极值是有效可行的．     

求一类多维函数总极值点的综合数值方法

本文综合三咱较为有效的求总极值的确定型方法和随机型方法，提出自动寻找好的初始迭代点以较为方便地获取一类多维函数的总极值点的数值方法，这种方法只需在求局部极值算法程序中加入一个初值点选择模块就可获得总极值点求解程序，多个算便表明，该方法对一类多维函数的总极值点求解是很有效的。     

关于对BP神经网络算法改进的研究

为了减小标准BP算法中迭代次数并提高其收敛速度 ,现提出将负梯度下降法与DFP变尺度算法相结合进行权值修正的方法 .在误差寻优初期 ,首先采用标准BP算法进行迭代 ,每迭代一次的工作量较小、所需存贮量较少 ,且对初始点的要求不高 .然后 ,当寻优过程开始接近最优时 ,更改寻优算法 ,即使用DFP变尺度算法 .最后 ,运用MATLAB工具箱和VisualBasic实现算例 .实验结果表明 :改进后的BP算法减少了迭代次数 ,提高了寻优的收敛速度     

用变换函数解带线性约束的全局最优问题

结合变换函数方法和下降算法对目标函数有多个极值点且带有线性约束的非线性规划全局问题提出算法.使用的变换函数兼具填充函数和打洞函数的特点.在理论上证明如果当前局部极小点不是全局最优解,一定存在一个变换函数的极小点使得该点的目标函数值小于当前局部极小点的函数值,且该点位于原问题的可行域内.以此点为初始点求解原问题可得到更好的局部极小点.     

有界变量约束优化的非单调最优路径内点算法

采用最优路径结合非单调内点回代算法解有界变量约束的非线性优化问题．从构建的最优路径解二次模型获得迭代方向，通过线搜索获得步长因子以保证迭代点既落在严格可行域内，又能使目标函数产生足够下降，基于导出的最优路径的良好性质，在合理的假设下，证明了此算法不仅具有整体收敛性，而且保持局部超线性收敛速率．引入非单调技术将克服病态问题，从而加速收敛性进程．数值计算表明了算法的可行性和有效性．     

多用户最优化的两种对偶方法

采用多用户问题的梯度近似分布式算法,对多用户最优化的原始对偶方法和正规化对偶方法进行了比较,集中于多用户凸最优化问题的概括,其中目标函数和约束函数不可分,而目标函数可通过非线性组约束,使用户决定耦合;在算法中,对原始对偶方法和正规化对偶方法可考虑不变步长,采用跨用户自然迭代计算,使每个用户能够只更新自身的决策变量．     

有界变量约束优化的仿射投影共轭梯度路径内点方法

采用共轭梯度路径结合仿射内点投影回代技术解有界变量约束的非线性优化问题．通过构造共轭梯度路径解二次模型获得搜索方向，引入线搜索技术获得的迭代步既落在严格可行域内，叉能使目标函数下降．基于共轭梯度路径的性质，在合理的假设条件下，证明了所提供的算法不仅具有整体收敛性，而且保持快速的超线性收敛速率．进一步，数值计算说明了算法的可行性和有效性．     

带子矩阵约束的二次逆特征值问题的最小二乘埃尔米特广义斜哈密顿矩阵迭代解

针对带子矩阵约束的二次逆特征值问题的最小二乘埃尔米特广义斜哈密顿结构矩阵解问题,给出了一种共枙梯度迭代算法。首先提出了带子矩阵约束的二次逆特征值问题的最小二乘问题及其最佳逼近问题;然后分别给出了基于共轭梯度的迭代算法,证明了算法的收敛性。对于任意初始约束矩阵,在不存在舍入误差的情况下,用该迭代算法可以在有限步迭代中得到迭代解。最后,给出了一个数值实例,数值实例证明了所提算法的有效性。     

多面体约束非光滑复合函数的序列有效集方法

对带多面体约束的非光滑复合函数问题的求解进行了研究。针对非光滑复合函数问题,首先,构造光滑函数来逼近非光滑目标函数,通过求解光滑近似问题来达到求解原问题的目的。在此基础上,考虑多面体约束的特殊结构,运用序列二次规划算法的思想,利用有效集策略,通过逐次求解一系列仅含等式约束的二次规划问题来逼近搜索方向的最优解,再通过线搜索求得步长,进而得到下一步的迭代点。最后,从理论上证明了算法的全局收敛性,并进行了初步的数值实验。将该算法与光滑序列投影收缩算法作对比,结果表明,该算法在迭代次数和计算时间上都有一定的优势。     

基于简单二次函数模型的滤子非单调信赖域算法

对无约束最优化问题提出了一个基于简单二次函数模型的非单调滤子信赖域算法。算法在信赖域试探步不被接受时,采用滤子技术,增大试探步被接受的可能性;如果此试探步也不能被滤子集接受,则用固定的公式取搜索方向,并沿此搜索方向进行非单调Wolfe线搜索得到步长,从而产生新的迭代点。该算法不需要重解子问题,减少了计算量。在较少的条件下,证明了算法的全局收敛性。初步的数值试验表明了算法的有效性。     

PET成像的加权最小二乘重建算法

针对正电子发射断层成像系统,提出一种基于加权最小二乘函数的迭代重建算法.与传统的梯度型算法不同,在迭代过程中,此算法利用当前迭代点构造辅助函数,使用辅助函数的最优解代替目标函数的最优解,获得新的迭代点.该算法自动满足非负约束,无需步长因子,保证目标函数单调递减,并且具有全局收敛性.使用模拟数据和真实医学诊断数据进行实验...     

优化极限学习机的序列最小优化方法

针对传统二次规划求解方法训练优化极限学习机(OMELM)存在速度慢和效率低的问题,提出了单变量迭代序列最小优化(SSMO)算法.该算法通过在框式约束中优化拉格朗日乘子来实现目标函数的最小化:首先在初始化拉格朗日乘子中选择使目标函数值下降最大的拉格朗日乘子,将该拉格朗日乘子作为目标函数的唯一变量;然后求解目标函数的最小值并更新该变量的值;重复这个过程直到所有的拉格朗日乘子都满足二次规划问题的Karush-Kuhn-Tucker条件为止.实验结果表明:SSMO算法只需调节很少的参数值便可得到足够好的泛化性能;采用SSMO算法的OMELM方法在泛化性能上要好于采用序列最小优化算法的支持向量机方法;在随机数据集测试中,SSMO算法具有较好的鲁棒性.     

一类带线搜索的非单调信赖域算法

给出无约束最优化的一类带线搜索的非单调信赖域算法.在一定条件下证明了算法的全局收敛性和Q-二阶收敛速度.这类算法与通常的非单调信赖域算法不同.当试探步不成功时,采用线搜索技术得到下一个迭代点.这样不仅减少了计算量,而且避免了下参考函数值远大于实际函数值的问题.     

陶瓷配方优化设计的建模与应用

根据陶瓷配方优化设计的需要，对以相对误差平方和为目标函数的非线性规划模型，建立极值点满足的条件，运用Mathmetica软件进行了实例求解，说明能获得精度较高的最优解。