基于代价敏感系数的混凝土抗压强度预测

针对传统自适应增强学习算法训练过程中只关注预测误差率最小的缺陷,本文提出了一种基于代价敏感系数的改进自适应增强学习算法并应用于混凝土抗压强度预测。首先考虑影响混凝土强度的8种参数作为特征变量,通过自适应增强学习算法集成回归树,依据样本权值抽样建立多个弱回归学习器。同时引入线性敏感系数与指数敏感系数来优化增强学习过程中样本权值的更新问题,采用引力搜索算法对代价敏感系数的基数进行最优选取。最后,根据权重比集成弱学习器得到最终预测模型。通过对所提出的两组不同代价敏感系数组合策略下的预测模型与随机森林、BP神经网络算法等模型的预测结果进行对比分析,验证了所提预测模型具有更好的预测性能。     

基于自适应动量因子的区间神经网络建模方法

区间神经网络建模是区间控制的核心部分,也是提高系统鲁棒性的重要方法.针对区间神经网络算法收敛速度慢的问题,提出一种自适应动量因子算法.算法利用区间运算建立输入与输出数据的映射模型,通过引入具有自适应特性的动量项,使用最速下降法对动量项进行自适应更新,在加快系统收敛速度的同时,克服系统稳态误差大和容易陷入局部最小值的弊端.典型算例实验表明:区间神经网络能够较为精确地建立区间网络模型,自适应动量因子算法提高了区间神经网络整体性能.     

基于动量自适应学习率PSO-BP神经网络的钻速预测模型研究

机械钻速(rate of penetration, ROP)是钻井作业优化和减少成本的关键因素,钻井时有效地预测ROP是提升钻进效率的关键。由于井下钻进时复杂多变的情况和地层的非均质性,通过传统的ROP方程和回归分析方法来预测钻速受到了一定的限制。为了实现对钻速的高精度预测,对现有BP (back propagation)神经网络进行优化,提出了一种新的神经网络模型,即动态自适应学习率的粒子群优化BP神经网络,利用录井数据建立目标井预测模型来对钻速进行预测。在训练过程中对BP神经网络进行优化,利用启发式算法,即附加动量法和自适应学习率,将两种方法结合起来形成动态自适应学习率的BP改进算法,提高了BP神经网络的训练速度和拟合精度,获得了更好的泛化性能。将BP神经网络与遗传优化算法(genetic algorithm, GA)和粒子群优化算法(particle swarm optimization, PSO)结合,得到优化后的动态自适应学习率BP神经网络。研究利用XX8-1-2井的录井数据进行实验,对比BP神经网络、PSO-BP神经网络、GA-BP神经网络3种不同的改进后神经网络的预测结果...     

基于融合算法优化的卷积神经网络预测方法

由于不同气象条件会影响太阳辐照度的有效利用,这制约了太阳能的应用和发展.为了基于不同站点不同采样时刻的气象属性预测中尺度站的太阳能辐照度,依据传统卷积神经网络的框架,建立了一种新型的卷积神经网络结构幵用于太阳能辐照度预测.为了缓解新型网络由超参数选取不当导致预测性能差的问题,利用融合算法对新型网络的超参数进行优化.为了提高融合优化算法的全局搜索能力,引入帐篷映射对粒子的初始位置和初始速度进行混沌初始化.首先,导入训练集更新新型卷积神经网络框架,训练结束后导入验证集检验当前模型参数下新型卷积框架的性能.其次,混沌融合算法依据新型卷积神经框架在验证集上的预测性能更新模型的超参数.对更新模型的超参数多次检验,直至最优的预测模型在验证集上的性能趋于收敛.最后,辒出模型的最优超参数,建立太阳能辐照度预测模型.基于气象实测数据建立太阳能辐照度预测实验,引入其他两种预测方法进行对比仿真研究,幵尽可能复现了Eustaquio and Titericz团队的预测方法(GBRT)作为太阳能辐照度预测性能的评估基准.实验数据表明:混沌融合算法可以有效地提高新型卷积神经网络的预测性能,所提出预测方法的全年太阳能辐照度的均方误差较GBRT降低25.9%,绝对平均误差较GBRT降低了10.7%;全年太阳能辐照度平均误差率降低了18.4%,误差率小于0.1的样本量增加了21.1%.     

基于动量因子优化学习率的BP神经网络PID参数整定算法

针对传统BP神经网络学习过程中学习率选取过大导致振荡的问题, 提出一种新的BP神经网络PID(比例-积分-微分)参数自适应整定算法. 采用BP神经网络对PID参数进行自适应调节和优化, 并利用动量因子优化学习率和增加动量项抑制BP神经网络训练中出现的振荡现象, 以加快收敛速度. 实验结果表明, 该算法有效缓解了振荡现象, 加快了算法的收敛速度.     

基于动量因子优化学习率的BP神经网络PID参数整定算法

针对传统BP神经网络学习过程中学习率选取过大导致振荡的问题, 提出一种新的BP神经网络PID(比例-积分-微分)参数自适应整定算法. 采用BP神经网络对PID参数进行自适应调节和优化, 并利用动量因子优化学习率和增加动量项抑制BP神经网络训练中出现的振荡现象, 以加快收敛速度. 实验结果表明, 该算法有效缓解了振荡现象, 加快了算法的收敛速度.     

基于自适应粒子群优化算法的神经网络的优化研究

针对传统的神经网络训练算法收敛速度慢和泛化性能低的缺陷,提出一种新的自适应粒子群优化算法用于神经网络的训练.该算法通过改进自适应搜索策略以提高网络泛化性能,并结合Ionosphere雷达信号分类数据集进行仿真测试.研究结果表明:基于自适应粒子群优化算法训练的神经网络在分类准确率和分类误差上明显优于传统的BP算法,且很好地提高了网络泛化能力和优化效果.     

基于一种改进自适应模糊神经技术的PEMFC系统建模和控制

从质子交换膜燃料电池(PEMFC)实际应用的角度出发，应用自适应模糊神经网络技术对PEMFC系统进行建模与控制．在建模过程中，同时应用实验数据和专家经验对模型进行辨识，使模糊节点具有明确的物理意义和初始参数的选择更加容易．在控制过程中，将训练好的网络模型作为PEMFC控制系统的参考模型，采用自适应神经网络学习算法(ANA)在线对控制器参数进行自适应调整，采用最近邻聚类算法(NCA)对控制器的模糊规则库进行更新．在仿真实验中，将自适应模糊控制算法与PID和传统模糊算法进行比较，结果表明本算法控制性能优良．     

一种基于最大间隔的偏标记学习算法

在机器学习中,偏标记学习是一类重要的弱监督学习框架;在该框架中训练示例不再具有单一明确的标记,每个训练示例的真实标记被隐藏在一个候选标记集中并且在学习过程中不可获知。为了解决从训练示例的候选标记集中学习真实标记的问题,基于最大间隔准则提出了一种新的偏标记学习算法;该算法是通过优化模型在候选标记集中最大输出与非候选标记集中最大输出之间的间隔,以及优化模型在候选标记集中最大输出与候选标记集中其他输出之间的间隔进行偏标记学习。采用改进的次梯度Pegasos算法完成模型参数的优化学习。在四组人工改造的UCI数据集中,在平均65%的情况下优于其他对比算法。在四组真实偏标记数据集中,相比其他对比算法,取得了4.4%~10.2%的性能提升。实验证明,具有更好的泛化性能。     

改进BP神经网络在交通事故预测中的研究

交通事故严重程度受多种因素的影响,适合用人工神经网络来建模预测.因为标准BP(Back Propagation,BP)神经网络具有收敛较慢的缺陷,所以在自适应学习和附加动量因子改进BP神经网络~([1])基础上做了进一步的优化改进,使附加动量因子也具有自学习性.利用改进后的BP神经网络算法,选取英国利兹市的公开交通事故数据集,用影响交通事故严重程度的多种影响因素和事故严重程度构建并训练神经网络,并对最新数据进行预测.通过大量的实验对比收敛速度和预测结果,验证了改进后的算法具有更快的收敛速度和更高的预测准确率.     

基于混沌天牛群算法优化的神经网络分类模型

针对传统BP神经网络受初始权阈值影响大且易陷入局部极值,标准天牛须搜索算法局部搜索能力差、寻优精度低等问题,提出一种自适应步长因子的混沌天牛群算法用于优化BP神经网络分类模型。通过增加天牛种群,引入自适应步长更新策略优化天牛须搜索算法的局部搜索能力,使其跳出局部最优,提高算法的计算精度;利用Logisitic混沌映射产生新个体,替换性能较差的个体,增强全局搜索效果。为了改善BP神经网络对非均衡数据集中少数类的分类效果,采用SMOTE算法处理非均衡数据集。将改进的天牛须搜索算法用于优化BP神经网络中的初始权值和阈值,建立IBAS-BPNN（Improved Beetle Antennae Search and Back Propagation Neural Network）分类模型,提高BP神经网络分类模型的准确率。为验证分类模型的性能,将改进的BP神经网络分类模型与其他六种典型的分类算法进行比较,实验结果表明IBAS-BPNN分类模型的平均分类正确率高于其他算法。改进的混沌天牛群算法泛化能力强,鲁棒性好,具有一定的优越性。     

基于动态分类算法的入侵检测系统

为了使分类方法适合网络入侵检测系统在线、实时的特点,根据自适应谐振理论提出了基于联想和竞争学习的动态分类算法。算法采用改进的胜者全得方法训练神经网络,通过估算类别数目方法优化初始系数。该算法能防止分类时丢弃特殊模式,并能对未知类别数量的数据动态进行分类,实验采用相同的数据集训练自适应谐振理论网络和动态分类网络。结果证明,动态分类算法具有良好的收敛性和模式分类能力。将该算法应用于入侵检测系统的网络行为智能学习,其误报率仅为10%左右。     

改进神经网络自适应滑模控制的机器人轨迹跟踪控制

为了提高机器人轨迹跟踪控制性能,在神经网络滑模控制方法的基础上,提出了一种改进型神经网络自适应滑模控制方法.该方法将神经网络作为控制器,利用其非线性映射能力来逼近各种未知非线性,同时通过在控制律中加入鲁棒项来消除逼近误差.考虑到隐含层单元数和网络结构参数对神经网络映射有效性的影响,将降低抖振作为优化目标,采用粒子群优化算法对网络结构参数进行优化.最后在Matlab/Simulink环境下进行了仿真实验,并与其他控制方法进行了对比分析.仿真结果表明,基于该方法所设计的控制系统具有良好的鲁棒性和控制精确度,同时有效地削弱了抖振.     

基于深度置信网络的车辆交通流预测

提出了一种新的基于深度置信网络的交通流预测方法,利用深度置信网络良好的训练和预测性能,能够很好地学习时序数据集的内部特征,从而准确地预测交通数据流.为了验证算法的有效性,在PeMS数据集上对算法进行了实验测试,并同其他相关预测和分析方法进行了比较,实验结果表明新算法具有较好的预测性能.     

模糊神经网络模型参考自适应控制及其应用

提出一种模糊神经网络的自适应控制方案，给出了一种模糊神经网络模型和快速的优化学习算法（ＦＬＡ），通过网络的在线自学习不断修正模糊神经网络控制器的隶属函数和权值，实现了模糊逻辑规则的自动更新，经仿真结果和倒立摆控制表明，这类自适应控制具有良好的控制性能。     

基于加权元学习的节点分类算法

受注意力机制和直推式学习方法的启发,提出一种基于加权元学习的节点分类算法.首先利用欧氏距离计算元学习子任务间数据分布的差异;然后利用子图的邻接矩阵计算捕获子任务间数据点的结构差异;最后将二者转化为权重对元训练阶段更新元学习器过程进行加权,构建优化的元学习模型,解决了经典元学习算法在元训练阶段所有元训练子任务的损失是等权重更新元学习器参数的问题.该算法在数据集Citeseer和Cora上的实验结果优于其他经典算法,证明了该算法在少样本节点分类任务上的有效性.     

一种基于非线性系统的动态感知系数的自适应粒子群优化算法

在优化非线性复杂系统问题中,智能算法已成为一种重要手段.提出了一种基于动态感知系数的自适应粒子群优化(particle swarm optimization,PSO)算法(self-tuning PSO,SPSO),将PSO算法的感知系数与神经网络算法结合,并于在线学习训练过程中动态调整感知系数,改善了PSO算法的计算效率以及全局收敛效率.进一步将2个相互关联的神经网络——比例积分微分(proportion integration differentiation,PID)神经网络及SPSO神经网络结合起来,使其能有效解决非线性控制模型的问题.为了验证该算法,引入了4个仿真例及2种PSO优化算法——传统PSO(conventional PSO,CPSO)和修正PSO(modified PSO,MPSO),来比较SPSO算法在解决控制问题中的非线性复杂系统的高效性,结果显示SPSO算法有较好的全局收敛性能、收敛速度以及较强的鲁棒性.     

持续自适应的Web服务组合方法

针对基于过程组合方法对Web环境缺乏持续适应性的问题, 将强化学习机制应用于该类服务组合, 提出一种持续自适应的服务组合算法. 该算法将对现有Web服务性能数据的利用与对新服务组合持续的探索相结合, 根据服务的实际QoS性能, 逐渐逼近与过程模型相对应的优化服务组合策略. 结果表明, 该学习算法对Web环境的适应具有可连续性, 可在每次运行时不仅能感知Web服务及其性能的变化, 而且还能利用以往算法执行所获得的Web服务性能数据, 调整服务组合策略. 通过对熵取值范围的讨论, 阐明了对以往策略的利用与持续探索之间的关系; 通过在静态和动态两种环境下的实验, 验证了算法对环境的适应能力.     

优化算法在人脸表情识别中的应用研究

在人脸表情识别任务中,适用的优化算法可以有效地提高表情识别的效率。针对人脸表情识别任务中的优化算法选择问题,比较研究了SGD、Momentum以及Adagrad、Adadelta、Adam 3种自适应学习率方法在人脸表情识别任务上的表现。特别是为了检验结果的可靠性,采用相同方法在MNIST数据集上进行手写数字识别测试。实验结果显示,在人脸表情识别与其他任务中,自适应学习率方法和动量法性能优于SGD方法,且自适应学习率方法在提高模型准确率上更为突出,Adadelta在表情识别和手写数字识别任务上的准确率达到了96.12%和99%。研究表明,在人脸表情识别任务中,自适应学习率的优化算法具有明显优势。     

基于EfficientDet的高效目标检测算法研究

针对神经网络训练时收敛慢和模型泛化能力差的问题,文章首先分析传统的和基于深度学习的目标检测算法各自的优势和不足,接着概括梯度下降法各种变体优化算法和现阶段主流数据增强方法对应的优缺点,最后对训练时的优化问题提出组合使用AdaMod和AdamW的训练优化方案,提高了训练网络收敛效率。针对深度神经网络性能表现比较依赖于数据集从而导致泛化能力差的问题,该文使用基于线性插值的数据增强方案,对类别不同的样本之间的领域关系进行建模,增强了神经网络的健壮性。在VOC07+12数据集上实验结果表明EfficientDet-d0检测算法模型参数量、浮点计算量、精度和泛化性能比较均衡,泛化能力得到增强,训练过程收敛更快,验证了该文提出的训练优化方案和使用的数据增强方法是有效的。