一种基于宏启发搜索策略的神经网络学习算法

神经网络的学习是全局优化问题，Ｔａｂｕ搜索是一种非常有效的求解全局优化问题的宏启发搜索策略，文章根据Ｔａｂｕ思想和松弛原理，提出了一种多层网络学习算法。初步实验表明该方法是有效和快速的。     

基于非单调线搜索的无记忆拟牛顿法的全局收敛性

文章就Perry_Shanno无记忆拟牛顿法在无约束最优化问题上,对采用非单调线搜索的情况下是否具有全局收敛性进行了研究.在目标函数为凸的条件下,证明了该算法的全局收敛性.     

带非精确线搜索广义Broyden族的收敛性质

提出了一个新的函数，并给出了此函数的性质，利用它们分析广义Ｂｒｏｙｄｅｎ族。在较弱的条件下，对一致凸函数的无约束最优化问题，证明了带非精确线搜索的广义Ｂｒｏｙｄｅｎ族的全局和超线性收敛性，而且在较弱的条件下，证明了Ｂｒｏｙｄｅｎ族的全局和超线性收敛性。     

非精确搜索一维全局最优化方法

研究一维全局最优化问题的确定性求解方法。运用逐次建立目标函数的线性下界函数,将不含全局最优解的子区域删除,并基于非精确搜索结合下降算法而得出非精确搜索一维全局最优化方法,使计算量减少且使迭代收敛加快。迭代结束时该算法得到一维全局最优化问题的ε－全局最优解。该方法具有有限收敛性且不需精确的局部优化过程。文中的数值实例表明该算法的有效性。     

广义Cury线搜索下一种新共轭梯度法及其全局收敛性

本文对无约束最优化问题：ｍｉｎｆ（ｘ），ｘ∈Ｒｎ，提出一种新的共轭梯度法．该算法中参数βｋ采用一种新取法，并结合广义Ｃｕｒｙ线搜索及ｎ步重新开始策略．在关于目标函数较弱条件假设下，证明了所给算法的全局收敛性．     

拟牛顿非凸族的收敛性

提出一灯求解无约束最优化的拟牛顿非凸族算法，结合一般线搜索原则，证明了算法对凸函数的全局收敛性．     

广义Curry线搜索下一种新共轭梯度法及其全局收敛性

本文对无约束最优化问题：min f(x)，x∈R^n．提出一种新的共轭梯度法．该算法中参数βκ采用一种新取法．并结合广义Curry线搜索及n步重新开始策略．在关于目标函数较弱条件假设下，证明了所给算法的全局收敛性．     

求解约束最优化问题KKT系统的BFGS方法

利用Fischer—Burmeister函数，将约束最优化问题KKT系统转化为等价的非光滑方程组，利用广义导数，给出一个求解该非光滑方程组的BFGS方法。其子问题是一个系数阵为正定对称阵的线性方程组．为保证全局收敛性，我们引进了一个适当的线性搜索，它使得效益函数近似下降．在适当的条件下，我们证明了算法是适定的，并具有全局收敛性和超线性收敛性．     

Armijo步长搜索的共轭方向算法

对无约束最优化问题（Ｐ）ｍｉｎｆ（ｘ）（其中ｆ（ｘ）是Ｒ’上一阶连续可微函数）提出了经典共轭方向算法和在Ａｒｍｉｊｏ步长搜索下的一种自然推广形式，并在凸性条件下，给出了算法的全局收敛性，然后将上述算法进行改进，在去掉凸性假设之下，证明了算法的全局收敛性。     

Armijo型线搜索下的新共轭梯度法的全局收敛性

共轭梯度法是解决无约束非线性最优化问题的重要的方法之一.基于FR方法好的收敛性并考虑到dk的下降性,提出了一类新的共轭梯度法,并在两种Armijo型搜索下,研究了新方法的全局收敛性.数据实验表明新方法是有效的.     

一种融入小生境技术的遗传禁忌算法

针对遗传算法在全局优化问题中容易出现早熟和收敛速度慢,禁忌搜索强烈依赖于初始解等问题,根据遗传算法和禁忌搜索算法自身的特点,分析两者的优势和不足,提出了一种融入小生境技术的遗传禁忌算法.该算法采用融入了小生境技术的遗传算法作全局搜索,用禁忌搜索算法作局部搜索,可以加快收敛速度,同时可以抑制早熟现象,避免过早收敛到局部最优.分析和实验结果表明,该算法能很好地抑制早熟收敛,同时在计算速度和计算结果方面都有改进,是一种快速有效的优化算法.     

一种随机调整控制参数的鲸鱼优化算法

针对标准鲸鱼优化算法在处理复杂优化问题时出现搜索精度低和易出现早熟收敛等缺点,提出一种随机调整控制参数的改进鲸鱼优化算法(EWOA)。受粒子群优化算法中惯性权重的启发,利用随机分布的方式调整控制参数,以平衡鲸鱼优化算法的全局搜索和局部搜索能力。对当前最优个体执行服从正态分布的变异扰动,以避免算法出现早熟收敛现象。此外,采取佳点集方法替代随机方法产生初始个体以提高算法的全局收敛速度。6个标准测试函数的仿真实验结果表明EWOA能有效处理高维复杂优化问题。     

具有禁忌策略的蜂群算法评定圆柱度误差

针对最小二乘法评定误差较大,遗传、蚁群等仿生算法设置参数较多、收敛速度较慢的问题,结合圆柱度误差评定的特点,提出采用蜂群算法,来实现圆柱度误差的最小区域法评定.该算法借鉴了禁忌搜索算法的禁忌策略,用禁忌表存储局部最优解,增强对参数Limit的控制作用,提高全局搜索能力.实验研究结果表明,该方法能收敛到全局最优解,并且计算结果稳定,收敛速度很快,平均运算时间在1.2 S左右,适用于三坐标测量机等实时处理系统.     

一种改进Wolef-BFGS-SQP法对随机规划的研究

基于拟蒙特卡洛随机模拟的Wolef—BFGS—SQP法对随机规划的再研究。对于求解LCI函数优化的BFGS—SQP算法，改用Wolef线性搜索原则，同样得到了该算法的全局收敛性，并把它推广到解决随机规划的问题上去。在随机模拟过程的处理上采用拟蒙特卡洛随机模拟技术，鉴于计算量比较大的问题，采用仅多加一个线性约束的信赖域技术计算，即可克服收敛慢等的缺点。     

Asynchronous parallel evolutionary algorithms for constrained optimizations

Recently Guo Tao proposed a stochastic search algorithm in his PhD thesis for solving function optimization problems. He combined the subspace search method (a general multi-parent recombination strategy) with the population hill-climbing method. The former keeps a global search for overall situation, and the latter keeps the convergence of the algorithm. Guo's algorithm has many advantages, such as the simplicity of its structure, the higher accuracy of its results, the wide range of its applications, and the robustness of its use. In this paper a preliminary theoretical analysis of the algorithm is given and some numerical experiments has been done by using Guo's algorithm for demonstrating the theoretical results. Three asynchronous parallel evolutionary algorithms with different granularities for MIMD machines are designed by parallelizing Guo's Algorithm. National Laboratory for Parallel and Distributed Processing Foundation item: Supported by the Natonal Natural Science Foundation of China (No. 70071042, 50073043), the National 863 Hi-Tech Project of China (No. 863-306-ZT06-06-3) and the National Laboratory for Parallel and Distributed Processing. Biography: Kang Li-shan (1934-), male, Professor, research interests: parallel computing and evolutionary computation.     

基于Tabu搜索和变区域遗传算法的组卷问题研究

针对目前大型题库中组卷算法效率低的问题，给出了多目标约束条件下的组卷问题数学模型，提出了基于Tabu搜索和变区域遗传算法的TS-CAGA算法。本算法用遗传算法作全局搜索，用禁忌搜索算法作局部搜索，给出了搜索区域动态变化的条件，通过种群规模自适应调整，可以加快收敛速度和避免局部最优化。实验结果表明，算法的组卷效率和选题质量有显著提高。     

杂草算法收敛性分析及其在工程中的应用

针对从自然界中杂草的生长繁殖特性演化而来的新型智能优化算法———扩张性杂草进化算法,通过马尔可夫链,分析证明了它的全局收敛性.相比其他启发式算法,其最大优点是基于种群中优秀的个体有指导地进行搜索,且算法中子代个体按正态分布的方式分布于父代个体周围,在进化过程中通过动态调整此正态分布的标准差,使算法在早期与中期充分保持群落的多样性,较其他启发式算法更容易保证对解空间的全面搜索.而在算法的后期加强对优秀个体周围的局部搜索,从而保证算法能够稳健地收敛到全局最优解.典型的复杂机械优化设计算例结果表明,该算法在优化过程中能有效避开局部最优解,快速、有效地收敛到全局最优解.     

Fuzzy entropy image segmentation based on particle swarm optimization

Particle swarm optimization is a stochastic global optimization algorithm that is based on swarm intelligence. Because of its excellent performance, particle swarm optimization is introduced into fuzzy entropy image segmentation to select the optimal fuzzy parameter combination and fuzzy threshold adaptively. In this study, the particles in the swarm are constructed and the swarm search strategy is proposed to meet the needs of the segmentation application. Then fuzzy entropy image segmentation based on particle swarm optimization is implemented and the proposed method obtains satisfactory results in the segmentation experiments. Compared with the exhaustive search method, particle swarm optimization can give the same optimal fuzzy parameter combination and fuzzy threshold while needing less search time in the segmentation experiments and also has good search stability in the repeated experiments. Therefore, fuzzy entropy image segmentation based on particle swarm optimization is an efficient and promising segmentation method.     

基于维度近邻关系扩散的改进粒子群优化算法

针对标准粒子群算法存在容易早熟及陷入局部最优等缺陷,提出了一种基于维度近邻关系扩散的改进粒子群优化算法.改进后的算法初始化时借鉴k-means对空间中粒子的维度进行聚类,聚类的标准为每个维度之间的欧氏距离,算法中将聚类得到的每个起始类视为一个家庭.家庭内部和外部分别进行迭代更新,结合智能单粒子优化算法的思想将粒子的更新速度划分为对应的家庭速度子矢量.粒子间交换记录的扩散和传播借鉴在线社会网络传播模型,在采纳信息的过程中不仅会考虑信息的价值,也会考虑其周围粒子状况.结合禁忌搜索优化算法,通过将该算法中的建立禁忌表、设定禁忌搜索长度和特赦准则等策略来避免重复搜索和改进算法的全局搜索性能,提高解的精确性.实验结果表明,改进后的算法有效解决了算法收敛速度慢、求解精度低等问题.     

采用振荡参数策略的粒子群优化算法

提出了一种新的振荡参数策略(OPS),用以提高粒子群优化算法在指定代数后的收敛性能。为了有效控制局部搜索并收敛于全局最优解,OPS在整个搜索过程中通过振荡惯性权重和加速度系数值来交替进行全局搜索和局部挖掘。惯性权重和加速度系数振荡变化既能提高早期的全局搜索能力,又不会早熟收敛,并使粒子最终趋于全局最优。实验仿真显示,对于大多测试函数,OPS优于时变惯性权重、随机惯性权重、时变加速度系数等策略。