基于Wasserstein距离的在线机器学习算法研究

本文主要研究基于Wasserstein距离的在线机器学习算法,并分别针对分类和回归问题,提出两个鲁棒的在线学习算法.本文首先在特征-标签空间中对Wasserstein距离进行变形,得到了易于处理和计算的变形式.进而,将在线梯度下降(online gradient descent, OGD)算法和Wasserstein距离变形式结合,分别针对在线分类问题和在线回归问题提出了两种具有较好鲁棒性的在线机器学习算法.文章对提出的新算法累积误差值(Regret,后面用Regret指代)进行了分析,证明了算法的Regret与训练轮次T满足O(■)关系.算法的收敛性可基于算法Regret分析得到,可证明在算法训练轮次T趋于无穷时,算法训练出的模型会收敛到理论最优模型.最后,将所提出算法与FTRL(follow-the-regularized-leader)算法、OGD算法、采用批量学习训练方法的机器学习算法进行数值实验对比.在模拟数据集和真实数据集的实验中,所提出在线学习算法准确率、鲁棒性和模型泛化性能均优于FTRL算法和OGD算法;针对大规模数据集时,虽然所提出的在线学习算法准确率与批量学习相关算...     

基于广义能量函数的快速自适应主分量提取

通过引入一个任意对角矩阵, 提出了一种广义能量函数(GEF)来优化一个两层线性神经网络的连接权矢量, 推导出一种递归最小二乘(RLS)算法, 不需要设计非对称电路, 即能并行提取一个输入协方差矩阵的多个主分量. 分析了算法在平衡点的局部稳定性能. 实验结果表明该算法具有收敛快、稳健性好等优点.     

基于进化算法的递归神经网络系统辨识方法

针对传统的递归神经网络学习算法存在的缺陷,本文利用进化算法对递归神经网络进行优化设计,提出了一种基于改进进化算法的递归神经网络系统辨识方法.该方法利用高斯变异和柯西变异相结合的方式进行变异操作,利用个体适应度和种群多样性指标使交叉概率和变异概率进行自适应调整,可以保证变异操作按一定的幅度均匀地分布在整个网络上,提高算法的收敛速度,避免早熟现象.给出了算法的具体步骤,通过仿真实验证明了该算法的有效性.     

基于变分的图像分割算法

提出了一种新的基于变分的图像分割算法. 该算法以图像的边缘点为插值点，通过极小化一个能量函数产生光滑的阈值曲面，进而实现图像分割. 为了使所产生的阈值曲面保有原图像的边缘信息，同时又不过度锐化图像的边缘，采用非凸的能量函数，并通过引入二元能量函数，提出一种全局收敛的松弛算法，将一个非凸优化问题转化为一系列本质上的凸优化问题，从而克服了采用传统的梯度下降法会出现收敛速度较慢、甚至不收敛的困难. 实验结果验证了算法的有效性. 此外还初步探讨了相应优化问题求解过程中的参数确定问题.     

一种基于PIO改进强化学习的航天器复杂多约束姿态机动规划新方法

本文针对多个姿态约束条件下的航天器姿态机动规划问题进行了研究,提出了一种基于鸽群算法的改进的策略梯度强化学习算法(PIOPGRL).首先,针对强制指向约束和禁止指向约束,建立了基于角度的姿态约束模型,根据约束模型建立了强化学习的回报函数.然后,使用适应度函数替代策略评价函数,将鸽群算法与强化学习相融合.针对策略梯度强化学习算法计算量大、收敛速度慢的问题,使用鸽群算法求解策略梯度,极大减少了计算量.仿真结果表明,相比于策略梯度强化学习算法,基于自PIO改进强化学习的航天器姿态机动规划算法(PIOPGRL)在极大减少计算量的同时,有更优的规划结果,更小的机动代价,适用于微小航天器解决多个姿态约束条件下的姿态机动规划问题.     

结合交替分离(AS)和交替投影(AP)算法的ASAP算法

分析了交替分离(AS)算法与交替投影(AP)算法的一些性质. 根据这些分析结果, 提出了将交替分离与交替投影算法有机结合形成所谓ASAP算法, 以克服交替分离算法收敛速度较慢而交替投影算法又易于陷入最大似然代价函数的局部极值的缺陷. 分析了这种结合的逻辑合理性. 计算机仿真也验证了ASAP算法能够以较少的迭代次数得到信号参数较理想的估计.     

激活函数可调的神经元模型及其有监督学习与应用

提出一种激活函数可调的新神经元模型(tunableactivationfunction,简记为TAF)模型,并给出这类模型的一般形式.该模型用于多层前向神经网络MFNN时,其激活函数可借类似BP算法进行训练而求得.通过几个具体例子给出了对激活函数进行训练的算法.试验结果表明,采用TAF模型的多层前向神经网络的网络容量和性能,优于采用通常M-P模型的网络.     

基于RBF神经网络的烧结终点预测模型

本文提出一种基于径向基函数(RBF)神经网络的烧结终点预测模型.该模型首先采用改进的最近邻聚类算法确定径向基函数中心,接着应用递推最小二乘法训练网络的权值.通过现场采集数据对该模型进行仿真,其实验结果表明,该模型具有较好的学习能力和泛化能力,为烧结终点的预测提供了一种新的解决方法.     

粒子群优化算法在确定河流水质参数中的应用

将粒子群优化（PSO）算法应用于求解分析瞬时投放示踪剂情况下的一维河流水团示踪试验数据，以及确定河流水质参数的函数优化问题。分别就粒子数目和待估水质参数的初始取值范围对算法运算过程的影响进行了数值实验。结果表明：①PSO算法能够有效地应用于求解分析河流水质试验数据，确定水质参数的函数优化问题；②粒子数目的多少对迭代次数、运算时间和算法是否收敛有一定的影响，在粒子数目较大的情况下，可以保证运算过程收敛；③待估参数初始猜测值的选取范围对迭代次数也有一定的影响，选取范围越大，需要的迭代次数越多。最后，指出了需要进一步研究的问题。     

改进果蝇优化算法优化广义回归神经网络的预测问题研究

为提高传统非线性预测模型的预测精度,提出一种基于改进果蝇优化算法优化广义回归神经网络的预测方法,将果蝇群体分两部分分别进行迭代寻优,从而改进了果蝇优化算法的寻优性能,进而避免了在寻优过程中陷入局部最优。该方法利用改进果蝇优化算法优化广义回归神经网络的径向基函数扩展参数,然后用训练好的广义回归神经网络预测模型进行预测,最后通过订单预测算例进行实证研究。实证研究结果显示,该方法在解决订单预测问题中与未改进的果蝇优化算法优化广义回归神经网络和传统的广义回归神经网络方法对比,具有更高的预测精度和更好的非线性拟合能力。     

关于极大熵聚类算法的收敛性定理的反例

追溯了极大熵聚类算法的历史渊源, 指出了张志华等提出的算法本质上缺少新意, 并构造了两个具体例子说明了极大熵聚类算法得到的迭代序列不一定收敛到目标函数的局部极小值, 有可能收敛到鞍点. 在此基础上,指出了他们关于极大熵聚类算法的收敛性定理一般不能成立的理论理由.     

基于粗粒度单元的离群点检测算法研究

对现有的基于单元的算法进行改进,利用KNN算法思想得到距离与比例参数的合理先验值,以加快离群点检测的收敛速度;同时通过扩大单元粒度,减少了单元区域查询次数与算法的空间复杂度,从而在整体上提高了离群点的检测效率。通过实验,验证了改进后算法的可行性,同时比较了其与原算法在不同参数下的性能优劣。     

一种适用于IPv6网络的可用带宽测量方法

可用带宽测量是网络测量的重要内容,它为网络性能优化、网络资源分配与管理提供依据.本文分析了当前可用带宽测量的研究现状,并提出了适用于IPv6网络的可用带宽测量算法SR-SLoPS.该算法在使测试报文对网络正常业务流的影响减至最低,并保证测试路径唯一的基础上,利用发送端与接收端的速率差值实现对网络单向可用带宽进行测量.实验证明,该算法结果准确,网络开销小,收敛时间较短.     

数据挖掘中决策树算法的研究

决策树算法是数据挖掘中重要的分类算法,本文首先阐述了数据挖掘中决策树的基本思想,然后针对ID3算法倾向于取值较多的属性的缺点。对ID3算法予以改进,并通过实验对改进前后的算法进行了比较,实验表明改进后的算法是有效的。     

UMHexagonS算法的研究与改进

对UMHexagonS算法进行了介绍,对其特点及造成其独特优越性能的原因进行了初步分析,并提出了一种改进方法.即在预测起点处增加一个内容自适应的中止搜索阈值判断,以判断是否可立即结束搜索.模拟实验表明,相比原算法,改进后的算法明显节省了编码时间,并保持了原算法率失真特性良好的特点.     

激活函数可调的神经元模型及其有监督学习与应用

提出一种激活函数可调的新神经元模型（tunable act ivation function，简记为TAF）模型，并给出这类模型的一般形式，该模型用于多层前向神经网络MFNN时，其激活函数可借类似BP算法进行训练而求得，通过几个具体例子给出了对激活函数进行训练的算法，试验结果表明，采用TAF模型的多层前向神经网络的网络容量和性能，优于采用通常M－P模型的网络。     

基于改进的克隆算法的机构运动链同构识别

以节点表示构件、以边表示运动副建立拓扑图唯一表示机构运动链,并运用图论中两同构图的邻接矩阵可相互转换特性,提出判定机构运动链同构的准则.本文运用克隆算法优化目标函数求解,并提出保留更新算子 仿真结果表明,改进后的克隆算法收敛速度和运算效率大大提高,具有高效性和优越性,是一种机构运动链同构识别的很好途径.     

基于进化势博弈的多无人机传感器网络K-覆盖

针对多无人机传感器网络K-覆盖问题,提出了基于势博弈与Log-linear学习的分布式最优传感器配置方法.介绍了传感器最优配置的国内外研究现状,特别对基于进化势博弈理论的方法进行了详细的阐述.利用博弈理论对无人机分布式传感器配置问题进行建模,通过个体局部收益函数与全局性能函数的设计将问题构造成网络势博弈.提出了一种基于时变Log-linear学习的分布式求解方法,并利用非齐次马尔可夫链理论对收敛性与最优性进行了证明.仿真对比实验证明了所提算法的可行性、有效性和优越性.     

并行延时LMS算法

通过将并行处理方法引入延时LMS(DLMS) 算法, 提出一种新的并行延时LMS(PDLMS) 算法. 与DLMS算法相比, PDLMS算法具有更小的延时, 更高的数据吞吐率, 更快的收敛速度, 同时对相关输入具有一定去相关作用. 特别适用于滤波器阶数高, 要求系统收敛速度快的应用场合. 同时它可以直接映射到具有高速、高流水特性的硬件结构中.     

环境一号B星热红外波段单通道算法温度反演

文中在考虑环境一号B星(HJ-1B)热红外波段(infrared scanner,IRS4)光谱响应函数和有效波长的基础上,通过MODTRAN4模型模拟,对Jimenez-Munoz和Sobrino(JM&S)单通道算法中的大气函数进行改进,重新计算得到了适合HJ-1B星IRS4地表温度(land surface temperature,LST)反演的3个大气函数公式,并反演了福州地区的地表温度.采用基于星上辐亮度法对反演的地表温度进行精度评价,并将反演的地表温度与JM&S算法、段四波等修正的JM&S算法反演的地表温度进行对比分析.结果表明:使用文中改进后的大气参数对HJ-1B星IRS4进行地表温度反演,可取得较好结果.