A NEW SUFFICIENT CONDITION FOR THE CONVERGENCE OF THE DFP ALGORITHM WITH WOLFE LINE SEARCH

ＡＮＥＷＳＵＦＦＩＣＩＥＮＴＣＯＮＤＩＴＩＯＮＦＯＲＴＨＥＣＯＮＶＥＲＧＥＮＣＥＯＦＴＨＥＤＦＰＡＬＧＯＲＩＴＨＭＷＩＴＨＷＯＬＦＥＬＩＮＥＳＥＡＲＣＨ￥ＸＵＤａｃｈｕａｎ（ＤｅｐａｒｔｍｅｎｔｏｆＭａｔｈｅｍａｔｉｃｓ，ＱｕｆｕＮｏｒｍａｌＵｎｉｖ...     

基于对角隐式Runge-Kutta公式的无约束优化方法

通过把一个无约束优化问题转化为一个等价的常微分方程,利用二阶半对角隐式Runge Kutta公式构造了求解无约束优化问题的LRKOPT算法。LRKOPT算法具有与IMPBOT方法相似的数值特性,但LRKOPT算法可以看成是最速下降方向与牛顿法方向的非线性组合,而IMPBOT方法为它们两者之间的线性组合。在目标函数为一致凸函数的假设条件下,证明了LRKOPT方法的具有全局收敛和局部超线性收敛性。数值结果表明LRKOPT方法具有很好的数值稳定性并且LRKOPT方法的计算效率优于IMPBOT方法。     

Adjustable entropy function method for support vector machine

Based on KKT complementary condition in optimization theory, an unconstrained non-differential optimization model for support vector machine is proposed. An adjustable entropy function method is given to deal with the proposed optimization problem and the Newton algorithm is used to figure out the optimal solution. The proposed method can find an optimal solution with a relatively small parameter p, which avoids the numerical overflow in the traditional entropy function methods. It is a new approach to solve support vector machine. The theoretical analysis and experimental results illustrate the feasibility and efficiency of the proposed algorithm.     

一种求解二阶锥规划问题的新算法

为了提高求解二阶锥规划问题的效率,提出一种新的求解二阶锥规划问题的非单调信赖域算法.基于Fischer-Burmeister光滑函数,对二阶锥规划问题的最优性条件进行转化,得到与其等价的无约束优化问题的非线性可微的光滑方程组,构造信赖域子问题,利用非单调信赖域算法求解.算法在求解信赖域子问题时,提出了一个新的自适应选取信赖域半径机制,搜索到全局最优解.数值实验结果表明,该算法运行速度快、迭代次数少,比内点算法和不可行内点算法优越.     

GSVM优化问题的一种新的光滑函数法

提出求解广义支撑向量机(GSVM)优化问题的一种新的光滑函数法,克服了已有算法收敛速度慢且计算结构复杂的缺陷。首先利用最优化理论的KKT互补条件,将GSVM转化为无约束优化问题,然后给出了基于Newton型迭代的光滑函数的迭代方法。给出了这种光滑函数的有关性质、迭代算法的迭代格式及其收敛性。通过理论分析及数值实验证明了该算法对初始点不敏感,且收敛速度快、数值稳定。从而验证了算法的可行性和有效性。     

复杂灾害情景下应急资源配置的随机规划模型

提出基于区域灾害系统理论来构建复杂灾害情景, 用于描述突发事件的复杂性和高度不确定性. 基于复杂灾害情景建立了一个两阶段随机规划模型, 进行应急设施的定位决策、应急物资的库存决策和不同灾害情景下应急物资分配预案的制定. 使用新的编码方式, 将第一阶段的选址-库存模型转化为一个无约束非线性优化模型, 使用自适应免疫克隆选择文化算法进行求解. 对于第二阶段的应急物资分配模型, 则提出了"势能抵消算法". 最后基于四川地震带的相关数据给出了算例, 验证了模型及算法的有效性与可行性.     

解约束优化问题的新粒子群算法

提出了一种新的求解约束优化问题的粒子群算法。基于一个合理的假设前提:任何可行解总是比非可行解好,算法通过在标准粒子群算法中引入了一个新的约束处理机制,将约束优化问题转化为无约束问题来求解。此外,为了提高收敛性能,新构建的算法通过引入变异策略,使算法在迭代过程中保持较高的种群多样性,增强算法跳出局部最优解的概率,从而提高算法的收敛速度和解的质量。与遗传算法以及标准粒子群算法的实验比较表明,所提出的方法是一个可行的约束优化问题的求解算法。     

Bayesian network learning algorithm based on unconstrained optimization and ant colony optimization

Structure learning of Bayesian networks is a wellresearched but computationally hard task.For learning Bayesian networks,this paper proposes an improved algorithm based on unconstrained optimization and ant colony optimization(U-ACO-B) to solve the drawbacks of the ant colony optimization(ACO-B).In this algorithm,firstly,an unconstrained optimization problem is solved to obtain an undirected skeleton,and then the ACO algorithm is used to orientate the edges,thus returning the final structure.In the experimental part of the paper,we compare the performance of the proposed algorithm with ACO-B algorithm.The experimental results show that our method is effective and greatly enhance convergence speed than ACO-B algorithm.     

IDENTIFICATION OF TIME-VARIANT CONTINUOUS SYSTEM BY A QUASI-NEWTON METHOD

1 IntroductionThis paper presents a quasi-Newton method in infinite-dimensional spaces for identifyingparameters involved in a time-variant continuous, nonlinear system of differential equations.It is well known that quasi-Newton methods are considered to be those of the most success-ful algorithms used for numerically solving optimization problems in finite-dimensional spaces.But, few papers discuss these methods in system identification research. Because many iden-tification problems can be…     

近空间多武器平台对地攻击多阶段模型及算法

针对近空间多武器平台对地攻击问题,综合考虑了作战资源、目标毁伤、己方损耗、飞行最短路径等四项关键战技指标,建立了多阶段优化控制模型,给出了相关的推理过程。为避免动态规划及序列规划的计算复杂性,通过设计合适的表达方法,使粒子与可行解对应,给出了改进的粒子群优化算法及算法详细步骤,并分析了改进的粒子群算法快速全局优化的特点,说明该算法能找到优化问题的全局最优解。最后对多阶段优化问题分别用改进的粒子群算法进行求解,仿真结果验证了模型的合理性和算法的有效性。     

双参数精确罚函数求解约束优化问题的拟牛顿算法

对于含约束不等式的最优化问题,给出了一种双参数罚函数形式和这种罚函数的精确罚定理,提出了一个求解这种罚函数无约束优化问题的拟牛顿算法,研究了它的收敛性,数值实验表明了该算法是可行的.     

Novel method based on ant colony opti mization for solving ill-conditioned linear systems of equations

1 .INTRODUCTIONStudies have shownthat some systems are highlysen-sitive :a small perturbationin the data can result in alarge changeinthe solutions .Such systems are calledill-conditioned systems .Ill-conditionedlinear systemsof equations have a wide application in many fieldssuch asi magine processing,deconvolution, model pa-rameters esti mation.Because the condition number ofill-conditionedlinear systems of equationsis very big,the data error andthe rounding error inthe computa-tional p…     

On-Line Tuning Scheme for the Generalized Predictive Controller via Simulation Optimization

1 .INTRODUCTIONModelpredictivecontrol(MPC)isacomputercontrolalgorithmthatsolvesanon lineoptimizationproblemateachsamplinginstant.Overthepastmorethan 2 0years,thepopularityofMPCforindustrialprocesscontrolapplicationshasbeenincreasingcontinuouslywiththeeffectivenessimprovementofvariousad vancedcontroltechnologieshavingbeendemonstratedinindustrialapplications[1 ,2 ] .Oneofthemainrea sonsforthesuccessofMPCintheindustrialprocessisitsabilitytoobtainagoodperformancestartingfromratherintuitive…     

广义支持向量机优化问题的极大熵方法

依据最优化理论中的KKT互补条件建立了广义支持向量机的无约束优化模型,并给出了一种有效的光滑化近似解法极大熵方法,为求解支持向量机优化问题提供了一种新途径.该方法特别易于计算机实现,理论分析和数值实验结果表明了模型和算法的可行性和有效性.     

训练前向神经网络的全局优化新算法及其应用

把填充函数法与BP算法相结合，提出一种训练前向神经网络的混合型全局优化新算法。该算法首先由BP算法得到一个局部极小点，然后利用充函数使BP算法跳出局部最优，得到一个更低的极小点。重复此过程最终求得全局最优解。最后给出一个应用实例。     

基于GA的n维空间优化参数的搜索算法

n维空间中函数优化、模式分类判别函数的确定等问题均可转化为n维空间优化参数的搜索问题。采用人工神经网或梯度爬山算法均存在对优化函数形式有限制及陷入局部最优等局限性。提出一种基于遗传算法的n维空间优化参数的搜索算法,它采用对变化方向和长度的编码以及分层由粗到粗的搜索,能实现全局寻优和改善搜索效率,有效地应用于工业优化、数据挖掘、模式识别等领域,二个实例验证了算法的有效性。     

Convergence and stability of the Newton-Like algorithm with estimation error in optimization flow control

The Newton-Like algorithm with price estimation error in optimization flow control in network is analyzed.The estimation error is treated as inexactness of the gradient and the inexact descent direction is analyzed.Based on the optimization theory,a sufficient condition for convergence of this algorithm with bounded price estimation error is obtained.Furthermore,even when this sufficient condition doesn't hold,this algorithm can also converge,provided a modified step size,and an attraction region is obtained.Based on Lasalle's invariance principle applied to a suitable Lyapunov function,the dynamic system described by this algorithm is proved to be global stability if the error is zero.And the Newton-Like algorithm with bounded price estimation error is also globally stable if the error satisfies the sufficient condition for convergence.All trajectories ultimately converge to the equilibrium point.     

一种快速遗传算法及其收敛性

针对遗传算法局部搜索能力较差、全局优化速度缓慢、搜索的效率对约束惩罚因子的选择有明显依赖性等问题,设计了能够从可行解空间和不可行解空间同时搜索的交叉算子、具有前期的快速搜索能力和后期的最优解保持能力的变异算子和具有"精英"保持能力的选择算子,并采用已搜索解集避免了子代的"返祖"和退化现象。在此基础上,设计了具有全局搜索能力的遗传算法,并证明了算法的收敛性。仿真结果表明,该算法能够快速地找到全局极值点。     

面向多峰函数的自适应小生境量子进化算法

为解决量子进化算法在多峰优化时只能找到一个最优解,无法找到所有全局和局部最优解的问题,提出自适应小生境量子进化算法。利用佳点集理论初始化种群,使种群均匀分布在整个搜索空间;提出中心地形信息小生境自适应识别方法,用于自适应的识别峰值所在区域,并建立小生境完善策略,提高小生境识别速度;借助量子进化算法的快速寻优能力精确寻找各个峰值点;采用动态种群调整策略,维持种群的多样性,自适应地调节种群规模。仿真实验结果表明,该算法具有较强全局优化能力和局部优化能力,且搜索到的每个最优解都达到了理想值。     

基于GA-TS的开放式车辆路径优化算法及应用

针对带装载能力开放式车辆路径问题,提出了一种基于遗传算法和禁忌搜索(GA-TS)的混合优化算法,将GA的并行计算、全局优化与TS的禁忌技术、快速局部搜索等特性相结合。该算法根据服务点需求及车辆装载能力,采用自然数编码,进行GA全局优化,种群中个体以一定的概率进行TS局部搜索,即对同属一辆车配送的所有服务点进行局部TS路径优化。既保证了优化的全局性,又保证了运算的速度性。应用于郑州煤电物资供销有限公司煤矿物资运输的车辆路径优化中,得到了最经济的运输路径,节约了成本。