一种自适应步长的复合梯度加速优化算法

自适应步长加速(Adam)类算法由于其计算效率高、兼容性好的特点，成为近期相关领域的研究热点.针对Adam收敛速度慢的问题，本文基于当前梯度、预测梯度以及历史动量梯度，提出一种新型Adam类一阶优化算法——复合梯度下降法(C-Adam)，并对其收敛性进行了理论证明.与其他加速算法的区别之处在于，C-Adam将预测梯度与历史动量区别开，通过一次真实的梯度更新找到下一次迭代更精准的搜索方向.利用两组常用测试数据集及45钢静拉伸破坏实验的实验数据对所提算法进行验证，实验结果表明C-Adam与其他流行算法相比较具有更快的收敛速度及更小的训练损失.     

基于自适应动量因子的区间神经网络建模方法

区间神经网络建模是区间控制的核心部分,也是提高系统鲁棒性的重要方法.针对区间神经网络算法收敛速度慢的问题,提出一种自适应动量因子算法.算法利用区间运算建立输入与输出数据的映射模型,通过引入具有自适应特性的动量项,使用最速下降法对动量项进行自适应更新,在加快系统收敛速度的同时,克服系统稳态误差大和容易陷入局部最小值的弊端.典型算例实验表明:区间神经网络能够较为精确地建立区间网络模型,自适应动量因子算法提高了区间神经网络整体性能.     

基于动量因子优化学习率的BP神经网络PID参数整定算法

针对传统BP神经网络学习过程中学习率选取过大导致振荡的问题, 提出一种新的BP神经网络PID(比例-积分-微分)参数自适应整定算法. 采用BP神经网络对PID参数进行自适应调节和优化, 并利用动量因子优化学习率和增加动量项抑制BP神经网络训练中出现的振荡现象, 以加快收敛速度. 实验结果表明, 该算法有效缓解了振荡现象, 加快了算法的收敛速度.     

基于动量因子优化学习率的BP神经网络PID参数整定算法

针对传统BP神经网络学习过程中学习率选取过大导致振荡的问题, 提出一种新的BP神经网络PID(比例-积分-微分)参数自适应整定算法. 采用BP神经网络对PID参数进行自适应调节和优化, 并利用动量因子优化学习率和增加动量项抑制BP神经网络训练中出现的振荡现象, 以加快收敛速度. 实验结果表明, 该算法有效缓解了振荡现象, 加快了算法的收敛速度.     

基于动量BP神经网络的英文字符识别

英文字符识别已经广泛地应用于很多重要领域.已有的英文字符识别算法很多,一种典型的算法是BP神经网络算法.但是,BP神经网络算法有时不收敛,或陷入震荡.这就导致识别率下降.为此,本文研究了一种改进的称为动量BP神经网络算法用于英文字符识别.这种算法在BP神经网络算法的网络参数控制中添加一个动量系数和一个动量项.这样可以避免迭代的震荡,加快收敛速度.提高识别率.利用动量BP神经网络算法,对52个英文大小写字符进行了识别试验.实验结果表明,这种算法能获得满意的识别率.     

改进状态转移策略的蚁群算法求解TSP问题

针对蚁群算法在求解TSP问题中易出现算法易早熟难收敛的问题,基于历史搜索信息提出了一种改进状态转移策略的蚁群算法,并引入自适应信息素更新机制引导信息素的更新。实验表明,改进的蚁群算法较传统蚁群算法改善了在求解TSP问题上易早熟难收敛的问题,求解效果和求解稳定性上提升显著。     

一种具有自适应动量因子的BP算法

为提高神经网络的训练速度,提出一种自适应确定带动量项BP算法中动量因子的方法.在学习率为常数情况下,根据误差函数关于权值向量的梯度变化情况,自适应调节动量因子.数值试验表明,该方法对离线和在线训练均有效,且在收敛速度和算法稳定性上优于常动量因子的BP算法.     

基于复合正交神经网络的广义通用模型自适应控制

在自适应逆控制中应用复合正交神经网络具有算法简单、学习收敛速度快等优点,将复合正交神经网络与广义通用模型控制器策略相结合,提出了一种基于神经网络的广义通用模型自适应控制方法.该控制方法中的参考轨迹为一条典型的二阶曲线,控制器参数具有明显的物理意义,参数整定方便.仿真实验验证了该控制策略的有效性.     

用于训练神经网络的自适应梯度下降优化算法

由于神经网络规模的扩大,模型训练变得越来越困难.为应对这一问题,提出了一种新的自适应优化算法——Adaboundinject.选取Adam的改进算法Adabound算法,引入动态学习率边界,实现了自适应算法向随机梯度下降(SGD)的平稳过渡.为了避免最小值的超调,减少在最小值附近的振荡,在Adabound的二阶矩中加入一阶矩,利用短期参数更新作为权重,以控制参数更新.为了验证算法性能,在凸环境下,通过理论证明了Adaboundinject具有收敛性.在非凸环境下,进行了多组实验,采用了不同的神经网络模型,通过与其他自适应算法对比,验证了该算法相比其他优化算法具有更好的性能.实验结果表明,Adaboundinject算法在深度学习优化领域具有重要的应用价值,能够有效提高模型训练的效率和精度.     

改进的Elman网络在非线性系统辨识中的应用

通过对Elman网络的研究,提出一种新型的基于输入层、隐层、输出层神经元递归的动态递归神经网络,给出Elman网络的标准BP学习算法,针对标准BP算法的收敛速度慢和容易收敛于局部极小点的缺点,利用非线性动量项自适应变步长的BP算法进行改进,从而提高算法的收敛速度,避免陷入局部极小点的问题.通过在系统辨识中的应用,表明该网络收敛速度快,模型精度高,并具有较强的自适应性和鲁棒性,适合于动态系统的实时辨识.     

基于动态多子族群自适应群居蜘蛛优化算法

为了提高群居蜘蛛优化算法(SSO)样本多样性和算法收敛性能,提出了一种基于动态多子族群自适应群居蜘蛛优化算法(DMASSO).根据算法样本多样性和算法进化程度,动态的将蜘蛛种群分成若干个主导子族群和辅助子族群,在不同子族群中分别引入自适应学习因子和高斯扰动因子改进算法个体更新方式,实现提高算法全局寻优能力和保持群体样本多样性.针对具有典型特点的测试函数仿真结果表明,较SSO算法、MSFLA算法等优化算法相比,新算法在收敛速度和收敛精度上均有明显改善.     

自适应逃逸动量粒子群算法的数据库多连接查询优化

为了提高数据库多连接查询的优化效率,针对粒子群算法存在的早熟、局部最优等缺陷,提出一种自适应逃逸动量粒子群算法的数据库多连接查询优化方法.该算法首先将遗传算法的交叉机制引入粒子群算法中,以保持粒子群的多样性,避免早熟现象出现;然后,引入动量算法平滑粒子搜索轨迹,加快粒子群的收敛速度;最后,将该算法应用于数据库多连接查询优化求解,以获得最优的数据库多连接查询方案.仿真结果表明,该算法提高了数据库查询效率,缩短了查询响应时间.     

基于改进樽海鞘群算法的到达时间差定位

针对室内到达时间差(time difference of arrival, TDOA)位置估计中的非线性最优化问题, 提出用改进的樽海鞘群算法搜索目标位置. 通过选择最优主基站构造改进的适应度函数, 使适应度函数可以更好地反映解的优劣程度, 提高了搜索精度. 在初始樽海鞘种群中引入近似解, 使全局搜索的步骤得到简化, 加快了算法前期收敛速度. 采用自适应跟随策略更新追随者位置, 解决局部开发低效问题, 加快了算法后期收敛速度. 仿真结果表明, 基于改进樽海鞘群算法的 TDOA 定位技术相比其他元启发式算法具有更高的定位精度和更快的收敛速度.     

基于自适应调整权重和搜索策略的鲸鱼优化算法

针对鲸鱼优化算法(WOA)收敛速度慢、收敛精度低、易陷入局部最优的问题,提出一种基于自适应调整权重和搜索策略的鲸鱼优化算法(AWOA).设计一种随着鲸鱼种群变化情况而自适应调整权重的方法,提高了算法的收敛速度; 设计一种自适应调整搜索策略,提高了算法跳出局部最优的能力.利用23个标准测试函数,分别针对高维和低维问题进行测试,仿真结果表明,AWOA在收敛精度和收敛速度方面总体上明显优于其他多种改进的鲸鱼优化算法.     

基于自适应多态融合蚁群算法的无人机航迹规划

为解决传统航迹规划最短路径算法易陷入局部最优及复杂地形情况下的无人机航迹规划问题,提出了一种基于自适应多态融合蚁群算法的航迹规划方法。通过对航迹规划问题进行描述,建立数学模型,将自适应和蚁群算法相结合,与多态蚁群形成了全局、局部并行搜索模式,以提高算法寻找全局最优值的能力;提出自适应并行策略和自适应信息更新策略,以提升其全局搜寻能力。仿真结果表明,自适应多态融合蚁群算法较传统蚁群算法和多态蚁群算法具备更好的性能,能有效地提高搜索路径的长度和收敛速度,从而避免在求解过程中陷入局部最优,因此在求解最优航迹规划问题上有很好的应用前景。     

基于改进差分进化的高精度粒子滤波算法

针对智能优化粒子滤波算法精度较低和收敛速度慢的问题,提出一种改进适应度函数和搜索策略的差分进化粒子滤波算法(IDE-PF).该算法通过自适应融合粒子权值和量测误差得到适应度函数,并利用该函数评价粒子的可信度,引导粒子向后验概率密度取值高的位置移动,同时引入新的搜索策略,不仅保持了粒子多样性,还加快了算法收敛的速度.仿真结果表明,该算法可有效提高智能优化粒子滤波对于非线性系统状态估计的精度和实时性.     

面向绿色再制造系统的AGV路径规划研究

为了解决绿色再制造系统中的自动导引运输车(AGV)路径规划问题的问题,提出一种粒子群遗传融合的AGV全局路径优化的自适应算法.该方法集成了遗传算法(GA)和粒子群算法(PSO)二者的优点,为了改善传统PSO-GA融合算法迭代前期寻优速度慢的问题,引入了自适应惯性权重;为了提高算法进入迭代后期的收敛精度,提出了一种双重交叉变异策略,使得改进的PSO-GA融合算法比传统的PSO-GA融合算法搜索能力更强,进化速度更快,收敛精度更高.为了验证改进后算法的优越性,采用栅格法模拟自动导引运输车运行环境并通过MATLAB对标准粒子群、遗传、传统的PSO-GA融合、改进PSO-GA融合四种算法解决路径优化问题进行试验对比,结果证明了改进后的PSO-GA算法的可行性和有效性.     

改进的PSO优化SVM的病理图像分类算法

为了提高医学病理图像分类的准确率,提出了一种带有粒子位置权重和粒子之间相关度函数的PSO(particle swarm optimization)参数寻优算法.首先,在经典PSO算法的基础上提出了一种基于适应性原则的位置更新策略.然后,在粒子进行参数寻优的过程中,设计了一个增加粒子之间相关性的函数.该算法可以在不考虑速度影响的情况下进行参数最优解的搜索.最后,用经过PSO优化的支持向量机(SVM)算法分类检测病理图像.实验结果表明,该算法的分类准确率达到了98.5%,较高于另外几种算法.分类检测结果符合临床诊断结果,满足医学研究要求.