一类非凸-强凹极小极大问题的零阶优化算法

极小极大问题是博弈论和机器学习中的一类重要问题。目前已有大量基于目标函数的梯度和Hessian阵信息的优化算法来求解这类问题。但在有些应用中,目标函数的梯度或Hessian阵信息往往是计算昂贵或难以获取的。为此,针对一类非凸-强凹极小极大问题,在极小极大三次正则化牛顿算法的框架下,通过基于Stein恒等式的高斯平滑化方法来近似梯度与Hessian阵信息,进而提出一类零阶极小极大三次正则化牛顿算法。分析算法的收敛性,并得到算法达到一个二阶平稳点时的迭代复杂度为O（ε-3/2）,其中ε是算法终止所达到的精度。数值仿真实验结果表明：在相同的精度下,所提出的算法在CPU运行时间上优于极小极大三次正则化牛顿算法。     

非凸-凹极小极大问题的双尺度交替梯度下降上升算法

针对一类非凸-(强)凹极小极大问题,基于双尺度梯度下降上升算法,用交替梯度更新来替代同步梯度更新,从而提出了一种新算法-双尺度交替梯度下降上升算法.通过数值实验结果表明,新算法在MNIST数据集上的分类准确率明显高于原算法,从而验证了新算法的有效性.     

多目标优化问题的非单调对角最速下降算法

【目的】为了更高效的求解多目标优化问题,得到更有效的Pareto前沿面。【方法】通过引入非单调Armijo准则,得到新的步长搜索方式,进而提出了多目标优化问题的非单调对角最速下降算法。【结果】在目标函数无凸性、梯度Lipschitz连续性和下有界假设下,证明了算法产生序列的每个聚点均是多目标优化问题的Pareto弱有效解,并在适当条件下证明了算法的次线性收敛性。【结论】数值实验表明提出的算法目标函数值的平均值更小。     

强Wolfe线搜索下一种混合的PRP-WYL共轭梯度法（英文）

【目的】为了结合Polak-Ribière-Polyak(PRP)共轭梯度法和Wei-Yao-Liu(WYL)共轭梯度法良好的理论和计算特性。【方法】通过分段函数,一种混合的PRP-WYL共轭梯度法被提出。【结果】在强Wolfe线搜索条件下,算法具有充分下降性和全局收敛性。【结论】初步数值结果表明,PRP-WYL算法比某些现有的包括PRP和WYL的共轭梯度算法更有效。     

强Wolfe线搜索下一种混合的PRP-WYL共轭梯度法

【目的】为了结合Polak-Ribière-Polyak (PRP) 共轭梯度法和Wei-Yao-Liu (WYL) 共轭梯度法良好的理论和计算特性。【方法】通过分段函数一种混合的PRP-WYL共轭梯度法被提出。【结果】在强Wolfe线搜索条件下，算法具有充分下降性和全局收敛性。【结论】初步数值结果表明，PRP-WYL算法比某些现有的包括PRP和WYL的共轭梯度算法更有效。     

一类新的随机三项共轭梯度算法

针对经验风险最小化(ERM)这一无约束优化问题,使用随机优化算法.为了提高损失函数值的下降速度,考虑三项共轭梯度法的优点,提出一类新的随机三项共轭梯度算法.并将新算法与经典的随机梯度下降(SGD)类算法和已有的随机共轭梯度算法CGVR进行比较,数值结果表明新算法比SGD类算法在求解ERM问题上更有优势.     

求解随机变分不等式问题的修正外梯度随机逼近算法

【目的】研究求解随机变分不等式问题的基于外梯度的随机逼近算法。【方法】依据求解经典变分不等式问题的外梯度算法,给出求解随机变分不等式问题的修正外梯度随机逼近算法。【结果】在适当的假设下,证明了修正外梯度随机逼近算法具有全局收敛性,初步的数值试验结果表明算法具有有效性。【结论】修正外梯度随机逼近算法是对已有的外梯度随机逼近算法的进一步推广,并且可在更弱的假设下获得它们的全局收敛性结果。     

多目标优化问题近似解的一类标量化方法

【目的】研究多目标优化问题近似解的一类标量化方法。【方法】利用Ehrgott和Ruzika提出的多目标优化问题的标量化模型。【结果】建立了基于co-radiant集定义的(C,ε)-近似解和改进集定义的E-近似解的一些标量化结果,并提出了一些例子对主要结果进行了解释。【结论】所得结果为设计求解多目标优化问题近似解的最优算法提供理论与方法基础。     

基于Bandit反馈的分布式在线对偶平均算法

为解决梯度信息难以获取的分布式在线优化问题,提出了一种基于Bandit反馈的分布式在线对偶平均(DODA-B)算法。首先,该算法对原始梯度信息反馈进行了改进,提出了一种新的梯度估计,即Bandit反馈,利用函数值信息去近似原损失函数的梯度信息,克服了求解复杂函数梯度存在的计算量大等问题。然后,给出了该算法的收敛性分析,结果表明,Regret界的收敛速度为O(T~(max{k,1-k})),其中T是最大迭代次数。最后,利用传感器网络的一个特例进行了数值模拟计算,计算结果表明,所提算法的收敛速度与现有的分布式在线对偶平均(DODA)算法的收敛速度接近。与DODA算法相比,所提出算法的优点在于只考虑了函数值信息,使其更适用于梯度信息获取困难的实际问题。     

一种基于跳出局部最优机制的自适应响应面方法

【目的】针对昂贵黑箱函数优化问题提出一种能够更好平衡局部搜索和全局搜索的响应面方法。【方法】对径向基函数响应面约束优化算法进行了改进,首先增加了判断陷入局部最优的机制,然后引入填充函数方法辅助选择新采样点,进而利用新采样点跳出局部最优。【结果】在37个公开的全局优化算法测试问题上的数值实验表明,本文提出的基于填充函数跳出局部最优机制的自适应响应面算法能够收敛到更好的近似全局最优解。【结论】基于填充函数方法的局部最优解跳出机制能够提升算法的全局搜索能力。     

彩色图像的边缘检测

彩色图像的边缘检测算法有很多,但检测结果仍存在细节丢失、抗噪性差的问题。本文提出一种新的彩色图像的边缘检测算法。首先,在RGB空间下,采用矢量梯度算法,分别在三个通道中求出像素的梯度值。然后,采用自适应双阈值算法,对梯度值进行判断,筛选出图像的边缘点。最后,只采用筛选后的边缘点的信息,构造新的模糊矩阵的隶属函数,从而形成新的模糊算法。利用该算法,检测出最终的图像边缘信息。实验证明,该算法得到的图像检测结果,不仅对比度高、边缘连续、细节保存完整,而且具有较强的抗噪性。     

时间表理论中LPT算法在装箱问题中的应用

本文利用二分搜索法和时间表理论中LPT算法求解装箱问题的近似最优解;给出了一个直观性算法,并研究这个算法的最坏情形,最后说明此算法在某些方面优于著名的FFD算法。     

自适应滤波算法综述

基于二阶统计量即相关函数的自适应滤波算法在自适应信号处理中有着 广泛的应用，本文就国内外对这些算法的研究进行了综述。     

EM算法理论及其应用

EM算法是一种迭代算法,主要用来计算后验分布的众数或极大似然估计,广泛地应用于缺损数据、截尾数据、成群数据、带有讨厌参数的数据等所谓的不完全数据的统计推断问题。在介绍EM算法的基础上,针对EM算法收敛速度慢的缺陷,具体讨论了加速EM算法：EMB算法和MEMB算法;针对EM算法计算的局限性,给出了EM算法的推广：GEM和MCEM算法。最后给出了EM的实值实例,结果精确。     

基于老化算法的分布式文件缓存算法

为提升数据检索读的性能, 基于老化算法采取Cache方法, 通过设计合理的缓存结构, 给出一种新的分布式文件缓存算法. 该算法在缓存实现部分, 使用了LRU算法中常用的老化算法, 并将其由一个页面置换算法改进为一个文件缓存替换算法, 且在该过程中完好地继承了老化算法的优点. 评测结果显示了改进方法的有效性.     

几种模式匹配算法的效率分析

分析几种模式匹配算法如KMP、BM、RK、SO。通过上机实验对这些算法的匹配时间进行测试,结果表明在这些模式匹配算法中BM算法是速度最快效率最高的算法。     

一种改进的KR模式匹配算法

在分析BF、KMP和KR等模式匹配算法的基础上提出一种改进的KR算法(IKR),在产生哈希冲突时利用双向比较法进行匹配.实验结果表明,该算法可以快速有效地进行模式匹配.     

排课系统中混合算法的应用研究

排课系统比较复杂又具有智能特点,其算法主要有模拟手工算法、回溯算法、遗传算法、贪心算法等.在软件开发过程中,发挥每种算法优点以提高排课的科学性、高效性和合理性是个重要课题.结合成功研制排课系统的经验,阐述了不同算法的应用,提出了通过所有算法的混合应用解决排课问题的方法.     

基于Bresenham算法的四步画直线算法

通过分析计算机图形学中的画直线的Bresenham算法，以及由此改进的“对称算法”、“二步法”，提出将“对称算法”和“二步法”结合形成“4—点画线算法”，与Bresenham算法相比，该算法可以将画线效率提高近2倍。     

大数快速模幂算法的研究

大数模幂在现代密码学领域有着广泛的应用,它是RSA．ELGamal等公钥密码的基本运算。对目前具有典型代表的各种大数模幂算法进行分析,从基本设计原理和实现角度对这些模幂算法进行分类,归纳并给出了各类算法的实现方法、优缺点和研究现状。