凸-凹极小极大优化问题的零阶梯度下降上升算法

【目的】为了解决基于梯度下降上升算法在某些应用中,目标函数的梯度信息计算昂贵或难以获取的问题。【方法】基于此,针对一类凸-凹极小极大优化问题,在梯度下降上升算法(OGDA)的框架下,基于均匀分布的平滑化方法用差商来近似函数梯度信息,提出了一类零阶梯度下降上升算法(ZO-OGDA)。【结果】基于带误差的邻近点算法的收敛性分析理论,证明得到所提算法ZO-OGDA取得ε-稳定点的迭代复杂度为O(ε^-1)。【结论】最后通过数值仿真,实验结果表明所提出的算法ZO-OGDA在数值上与算法OGDA表现相近。     

无约束优化的非单调三次正则BB算法

先利用BB(Barzilai Borwein)类型参数构造目标函数Hessian矩阵的近似矩阵, 通过极小化当前迭代点处的三次正则化近似梯度模型求解试探步, 再结合非单调线搜索策略提出一个非单调三次正则BB算法, 最后给出算法的收敛性证明. 数值实验结果表明, 该算法数值性能良好.     

无约束优化的非单调三次正则BB算法

先利用BB(Barzilai Borwein)类型参数构造目标函数Hessian矩阵的近似矩阵, 通过极小化当前迭代点处的三次正则化近似梯度模型求解试探步, 再结合非单调线搜索策略提出一个非单调三次正则BB算法, 最后给出算法的收敛性证明. 数值实验结果表明, 该算法数值性能良好.     

基于负曲率方向的复数域共轭梯度法

共轭梯度法是优化大规模目标函数的一种经典方法.根据复梯度、复Hessian阵与实梯度、实Hessian阵之间的关系,将共轭梯度法推广到复数域,用于解决复数域的优化问题.针对共轭法的一些缺点,如每步迭代利用线性搜索来确定优化的步长及可能寻找到的极值点不一定为极小值等缺点,提出在Hessian阵不正定时利用负曲率方向作为搜索方向,利用实数域二阶导数简化思想,使寻找下降负曲率方向简单化,同时根据目标函数信息调节搜索步长,保持函数值单调下降.对该算法进行复数域优化数值仿真,结果表明:该算法与复数域的SCG算法及Quasi-Newton算法相比,计算较为简单且优化效果更优.     

修正阻尼牛顿算法

对一般目标函数极小化问题,本文提出一类新的修正阻尼牛顿法,此算法能保证目标函数Hessian矩阵的正定性,并证明了对一般的非凸目标函数,该算法是全局收敛的。     

一种改进的三维子空间极小化共轭梯度法

利用满足修正割线方程的Hessian矩阵近似二次模型中的Hessian阵, 通过在三维子空间中极小化此二次模型导出搜索方向, 并结合非单调线搜索策略和重启技术, 提出一种改进的三维子空间极小化共轭梯度算法, 并在一些合理假设下, 证明了算法的全局收敛性. 针对Andrei测试函数集, 数值实验验证了新算法的有效性.     

基于模拟退火粒子群算法的MIT图像重建方法

为了改善逆问题病态性又能提高图像重建质量,提出了一种基于模拟退火粒子群算法的MIT图像重建方法.根据Hessian矩阵的维度,构建了一种Tikhonov和NOSER型混合多参数正则化算法.将模拟退火算法和粒子群算法进行组合,以广义交叉准则构建目标函数,进行正则化多参数寻优.结果表明,所提方法不仅有效克服了MIT重建图像数值解的不稳定性,增强了抗噪性能,而且所获得的重建图像的质量优于Tikhonov正则化和混合正则化算法,为MIT技术应用提供了理论参考.     

超记忆梯度法在大规模信号重构问题中的应用

研究了用基于非单调线搜索技术的超记忆梯度算法解决大规模信号恢复问题。利用平滑切片绝对偏差惩罚函数(SCAD)代替1正则化最小二乘问题的1范数惩罚函数,因SCAD的一个局部二次逼近是凸且可微的,所以目标函数的梯度和海瑟阵易计算。该算法的特点:每一步迭代充分利用前面多步迭代信息,避免目标函数海瑟阵的储存和计算,因此它适合解决大规模信号恢复问题。在某些假设下,证明了提出算法的收敛性,数值实验表明本文提出的算法是可行的。     

一类求解极小极大问题的算法

无约束非线性极小极大问题是最优化数值计算领域中十分活跃的研究课题之一,因此,对于无约束非线性极小极大问题,如何设计快速有效的算法一直都是优化工作者十分关心的问题.文中介绍了无约束非线性极小极大问题算法的研究意义及应用领域,分析了现有极小极大问题算法的研究现状,针对极大值函数的特性,给出了极大值函数的次梯度与ε次梯度之间及极大值函数的次梯度的凸锥与次梯度之间的一种包含关系,得到了计算极大值函数的ε次梯度的数值方法,从而构造出了一种求解极小极大问题的ε-算法,并且证明了算法的收敛性,初步的数值例子表明算法是有效的,且具有大范围收敛的特点.     

解奇异无约束优化问题的改进张量法

给出一个解奇异无约束优化问题（极小点的Hessian矩阵奇异）的改进张量法。张量方法是标准牛顿模型方法的推广,它扩充目标函数的Taylor展式到四阶项,弥补了牛顿模型在极小点处的Hessian矩阵奇异时失去快速收敛性的缺陷。与标准张量法相比,本文主要的改进是,用梯度和二阶导数的差来替代函数与梯度差来构造张量模型。8个标准函数被奇异化后进行了数值试验,数值试验结果表明这个改进张量法是有效的。     

彩色图像的边缘检测

彩色图像的边缘检测算法有很多,但检测结果仍存在细节丢失、抗噪性差的问题。本文提出一种新的彩色图像的边缘检测算法。首先,在RGB空间下,采用矢量梯度算法,分别在三个通道中求出像素的梯度值。然后,采用自适应双阈值算法,对梯度值进行判断,筛选出图像的边缘点。最后,只采用筛选后的边缘点的信息,构造新的模糊矩阵的隶属函数,从而形成新的模糊算法。利用该算法,检测出最终的图像边缘信息。实验证明,该算法得到的图像检测结果,不仅对比度高、边缘连续、细节保存完整,而且具有较强的抗噪性。     

时间表理论中LPT算法在装箱问题中的应用

本文利用二分搜索法和时间表理论中LPT算法求解装箱问题的近似最优解;给出了一个直观性算法,并研究这个算法的最坏情形,最后说明此算法在某些方面优于著名的FFD算法。     

自适应滤波算法综述

基于二阶统计量即相关函数的自适应滤波算法在自适应信号处理中有着 广泛的应用，本文就国内外对这些算法的研究进行了综述。     

EM算法理论及其应用

EM算法是一种迭代算法,主要用来计算后验分布的众数或极大似然估计,广泛地应用于缺损数据、截尾数据、成群数据、带有讨厌参数的数据等所谓的不完全数据的统计推断问题。在介绍EM算法的基础上,针对EM算法收敛速度慢的缺陷,具体讨论了加速EM算法：EMB算法和MEMB算法;针对EM算法计算的局限性,给出了EM算法的推广：GEM和MCEM算法。最后给出了EM的实值实例,结果精确。     

基于老化算法的分布式文件缓存算法

为提升数据检索读的性能, 基于老化算法采取Cache方法, 通过设计合理的缓存结构, 给出一种新的分布式文件缓存算法. 该算法在缓存实现部分, 使用了LRU算法中常用的老化算法, 并将其由一个页面置换算法改进为一个文件缓存替换算法, 且在该过程中完好地继承了老化算法的优点. 评测结果显示了改进方法的有效性.     

几种模式匹配算法的效率分析

分析几种模式匹配算法如KMP、BM、RK、SO。通过上机实验对这些算法的匹配时间进行测试,结果表明在这些模式匹配算法中BM算法是速度最快效率最高的算法。     

一种改进的KR模式匹配算法

在分析BF、KMP和KR等模式匹配算法的基础上提出一种改进的KR算法(IKR),在产生哈希冲突时利用双向比较法进行匹配.实验结果表明,该算法可以快速有效地进行模式匹配.     

排课系统中混合算法的应用研究

排课系统比较复杂又具有智能特点,其算法主要有模拟手工算法、回溯算法、遗传算法、贪心算法等.在软件开发过程中,发挥每种算法优点以提高排课的科学性、高效性和合理性是个重要课题.结合成功研制排课系统的经验,阐述了不同算法的应用,提出了通过所有算法的混合应用解决排课问题的方法.     

基于Bresenham算法的四步画直线算法

通过分析计算机图形学中的画直线的Bresenham算法，以及由此改进的“对称算法”、“二步法”，提出将“对称算法”和“二步法”结合形成“4—点画线算法”，与Bresenham算法相比，该算法可以将画线效率提高近2倍。     

大数快速模幂算法的研究

大数模幂在现代密码学领域有着广泛的应用,它是RSA．ELGamal等公钥密码的基本运算。对目前具有典型代表的各种大数模幂算法进行分析,从基本设计原理和实现角度对这些模幂算法进行分类,归纳并给出了各类算法的实现方法、优缺点和研究现状。