基于卡尔曼滤波器的背景抑制及小目标检测

提出了一种采用卡尔曼滤波器作为杂波背景预测器的小目标检测方法,相比较于传统的梯度下降算法,该方法充分利用了假设的杂波图像模型,并且算法中也没有影响检测性能的步长参数,因而具有更好的检测性能,实验表明,该方法能有效地抑制杂波,并同时增强小目标的信号。     

新型梯度倒数加权滤波器及其性质

该文从经典梯度倒数加权滤波器出发，通过重新定义合适的模板结构和参数提升梯度模，提出了一种应用于信号去噪和图像增强的新型梯度倒数加权滤波器。分析该滤波器的迭代过程，揭示了该数字滤波器解决了整体变分的全局最优解问题。该文既以实验说明了该滤波器优良的去噪和边缘保持能力，又从理论上证明了该滤波器和整体变分模型存在本质联系的若干理论结果。     

自适应IIR滤波器的韧性梯度估计算法

对于自适应ＩＩＲ滤波器的输出误差模型结构。ＨＡＲＦ算法和ＲＰＥ算法是两种基本算法。ＨＡＲＦ算法受严格正实条件限制。ＲＰＥ算法则有稳定性问题；经分析，其原因在于其梯度的不坚韧性。为此，提出了一种能够稳定收敛的韧性梯度估计算法；其计算量小，是一种实时算法。     

非凸-凹极小极大问题的双尺度交替梯度下降上升算法

针对一类非凸-(强)凹极小极大问题,基于双尺度梯度下降上升算法,用交替梯度更新来替代同步梯度更新,从而提出了一种新算法-双尺度交替梯度下降上升算法.通过数值实验结果表明,新算法在MNIST数据集上的分类准确率明显高于原算法,从而验证了新算法的有效性.     

分组随机梯度下降法：掉队和延迟的平衡

分布式随机梯度下降法被广泛应用于大规模机器学习,同步随机梯度下降法和异步随机梯度下降法是两个典型的分布式随机梯度下降法.在同步随机梯度下降法中,所有的工作节点都需要互相等待,导致训练速度受限于最慢的工作节点.在异步随机梯度下降法中,延迟的梯度会造成最终训练得到的模型很差.为此提出一种新的分布式随机梯度下降法:分组随机梯度下降法.该方法将通信和计算性能相近的工作节点划入同一组,这样就会将工作节点划分成若干的组.在同一组的工作节点以同步的方式工作,不同的组之间以异步的方式工作.由于组内的工作节点只需互相等待很短的时间,该方法可以缓解同步随机梯度下降法的掉队问题.由于组的数目远小于工作节点的数目,该方法梯度的延迟也很小.理论分析证明了该方法的收敛性.仿真结果表明,在异质集群中该方法的收敛速度比同步随机梯度下降法和异步随机梯度下降法更快.     

一类新的随机三项共轭梯度算法

针对经验风险最小化(ERM)这一无约束优化问题,使用随机优化算法.为了提高损失函数值的下降速度,考虑三项共轭梯度法的优点,提出一类新的随机三项共轭梯度算法.并将新算法与经典的随机梯度下降(SGD)类算法和已有的随机共轭梯度算法CGVR进行比较,数值结果表明新算法比SGD类算法在求解ERM问题上更有优势.     

不同海拔梯度马尾松天然群落结构特征研究

为定量分析不同海拔梯度上马尾松(Pinus massoniana)天然群落的结构特征,采用物种丰富度R、Simpson指数和Shannon-Wiener指数对马尾松天然群落生物多样性进行了测定,并对群落垂直结构、主要优势种重要值、群落生活型等进行了探讨.结果表明:(1)马尾松天然群落有植物11 746株,分属51科97属116种,物种随海拔梯度上升而增加.其中,中海拔梯度(Ⅱ、Ⅲ)的物种多样性最丰富,山杜英(Elaeocarpus sylvestris)在低海拔梯度和高海拔梯度中均有分布;(2)随海拔梯度上升,4个海拔梯度乔木层主要优势种的种类依次为5种、13种、6种、8种.其中每个海拔梯度中均有马尾松分布,其重要值随海拔梯度上升呈现"下降-上升-下降"趋势;(3)随海拔梯度上升,群落物种丰富度呈"上升-下降-上升"趋势;群落物种多样性随海拔上升呈线性增长;(4)群落树高随海拔梯度上升而增高,其中群落平均树高多在9 m以上,主要分布在5~10 m区间.(5)群落中落叶型植物多于常绿型.随海拔梯度上升,落叶乔木呈"下降-上升"趋势,常绿乔木呈"上升-下降-上升"趋势;常绿灌木呈上升趋势,落叶灌木呈"下降-上升"趋势.海拔梯度的变化使马尾松天然群落的结构特征存在一定差异,这为马尾松天然林的经营管理、生物多样性保护等方面提供了指导意义,也为揭示此类森林群落结构特征变化规律提供了重要的参考价值.     

修正Hestenes—Stiefel共轭梯度及其收敛性

利用CD共轭梯度法和NCG共轭梯度法分别给出了相应的修正Hestenes-Stiefel(HS)共轭梯度法。在无充分下降性的条件下,证明了修正HS共轭梯度法具有全局收敛性。     

一种特殊的下降算法——分裂梯度法

求解无约束优化问题,常用的方法有下降算法,牛顿法,共轭梯度法等。当目标函数为几个光滑函数的和时,一些学者提出并研究了增量梯度算法。其基本思想是循环选取单个函数的负梯度作为迭代方向。增量梯度算法的迭代方向不一定是下降方向,所以不能用下降算法的一维搜索确定步长,因为受限于步长的选择,收敛效率不高。本文结合了下降算法和增量梯度算法的思想,提出了分裂梯度法。简单的说,分裂梯度法循环考虑单个函数的负梯度方向,如果这一方向是下降方向,则选择这一方向为迭代方向;否则选取函数的负梯度方向为迭代方向。最后通过数值实验与最速下降算法、随机下降算法以及增量梯度算法进行对比,结果表明对于某些优化问题,采用分裂梯度法更有效。     

一类修正DY共轭梯度法及其全局收敛性

对DY共轭梯度方法进行修正,使得修正的共轭梯度方法(MDY*)在Wolfe线搜索下满足充分下降条件和全局收敛性.     

蛋白质三维结构预测问题的求解方法

对蛋白质结构预测问题进行了描述,根据蛋白质结构预测问题在三维欧氏空间的连续模型,通过拟物策略找到了相应的数学模型.由于引入了弹性势能和嵌入势能,将一个有约束的问题转化为一个无约束的问题,并在梯度下降法求解的基础上,设计出一种变步长梯度下降的求解方法.通过实例检测,变步长梯度下降法比梯度下降法大大节省了计算时间,且所得结果的能量比梯度下降法所得结果的能量更低.     

凸-凹极小极大优化问题的零阶梯度下降上升算法

【目的】为了解决基于梯度下降上升算法在某些应用中,目标函数的梯度信息计算昂贵或难以获取的问题。【方法】基于此,针对一类凸-凹极小极大优化问题,在梯度下降上升算法(OGDA)的框架下,基于均匀分布的平滑化方法用差商来近似函数梯度信息,提出了一类零阶梯度下降上升算法(ZO-OGDA)。【结果】基于带误差的邻近点算法的收敛性分析理论,证明得到所提算法ZO-OGDA取得ε-稳定点的迭代复杂度为O(ε^-1)。【结论】最后通过数值仿真,实验结果表明所提出的算法ZO-OGDA在数值上与算法OGDA表现相近。     

基于热重启学习率的NAG算法在图像分割中的应用

文章针对水平集演化模型的梯度下降法收敛速度较慢,且对局部极小值较为敏感的问题,提出一种热重启学习率和Nesterov加速梯度(Nesterov accelerated gradient, NAG)算法相结合的水平集演化方法,以替换Chan-Vese(CV)模型中用于演化水平集函数的梯度下降法,对2种算法的图像分割速度以及分割精准度进行了对比。首先根据CV模型和距离保持惩罚项建立初始的水平集演化方程;然后对NAG算法增加学习率动态变化项计算梯度来演化水平集函数;最后不断更新得到水平集函数直到收敛。使用ground truth(GT)图像评估分割精准度,通过与传统梯度下降法得到的实验结果对比,改进算法的CPU运行时间减少了30%以上且分割精确度明显提升,表明其可对图像进行有效且快速地分割。     

共轭梯度法和最速下降法的混合算法

将共轭梯度法与最速下降法有机地结合起来,构造了一种共轭梯度法和最速下降法的混合算法,并证明了该算法的全局收敛．混合算法既提高了共轭梯度算法的收敛速度,又解决了目标函数“性态不优”时,最速下降法难以求解的问题．同时也可以看到共轭梯度法与最速下降法仅仅是混合算法的特例．     

一种新的运动估计算法

基于搜索起点的预测和梯度下降搜索,提出了十字交叉梯度下降搜索(CCGDS)算法。该算法根据运动矢量的中心分布特性设计了相应的匹配搜索模板。仿真结果表明:该算法可以用较小的搜索代价取得与全搜索相当的效果,且在搜索速度与搜索效果方面优于三步法(TSS)、四步法(FSS)和钻石法(DS)。     

不均衡数据对卷积神经网络的影响及改进算法

通过不同的数据分布、激活函数和网络结构对卷积神经网络(convolutional neural networks,CNN)的训练过程进行试验分析发现,数据不均衡会造成CNN训练过程收敛慢、泛化能力差的负面影响。针对这一问题,结合过抽样和欠抽样各自的优点,在随机梯度下降算法的基础上,提出均衡小批量随机梯度下降算法(equilibrium mini-batch stochastic gradient descent,EMSGD),保证小批量内的数据均衡,精确调整更新参数的梯度方向。试验结果表明,均衡小批量随机梯度下降算法可以在数据不均衡条件下提高CNN训练误差收敛速度,提高泛化性能。     

基于局部熵的Active Demons多模医学图像配准

针对Active Demons算法只能配准同模态图像,并且图像的灰度梯度不太明显时形变方向无法确定从而导致误配准的问题,提出了一种基于局部熵改进的Active Demons多模医学图像配准算法.该算法首先将原图像转换为局部熵图像,然后使用改进的Active Demons算法进行配准,该算法在Active Demons分母上分别加入浮动图像与参考图像的灰度梯度值平方.正则化变换时以双边滤波器代替高斯滤波器,使得图像边缘的细节信息保持较好.多模态医学图像配准的实验结果说明该方法精确度高,使图像质量得以提升.     

多传感器人体检测的FHOG图像特征融合

提出了一种新的基于方向梯度直方图(HOG)的图像特征融合方法. 该方法采用视觉激活度(VAM)来选择具有显著方向性的局部梯度统计值,构成融合的方向梯度直方图(FHOG),有效地解决了多分辨率(MR)图像融合存在的不足. 文中把这些融合特征输入线性支持向量机(SVM),训练得到人体/背景二元分类器用于人体检测. 实验表明,与传统多分辨率图像融合方法相比,在参考点处本文提出方法漏检率下降3～10%,虚警率平均下降20%以上.      

曲指数族流形在无线传感器网络定位中的应用

利用信息几何中的统计流形理论和自然梯度流形学习定位方法,研究了基于接收信号强度(RSS)的无线传感器网络自定位问题.首先,通过概率密度函数构造了一个曲指数族定位模型;然后,针对给定初始状态值的未知目标节点定位问题,结合梯度下降法,提出了基于此模型的最优非线性估计方法及其改进算法.梯度下降法的良好性质和仿真结果表明,这些算法有很好的收敛效果和更高的定位精度.     

一类具有充分下降性的DL共轭梯度法

针对无约束优化问题,利用两项共轭梯度法(DL方法)去逼近改进的HS三项共轭梯度法,提出了改进的DL共轭梯度法即MDL共轭梯度法.该方法相对于DL方法具有一个更好的性质,即该共轭梯度法的搜索方向不依赖任何线搜索就可满足充分下降条件,理论上证明了该方法在Wolfe线搜索条件下对一般函数具有全局收敛性.