一种修正的MPS预条件共轭梯度算法

对于大型线性系统Ax=b来说,共轭梯度法依赖于系数矩阵的条件数,可能导致迭代计算的收敛速率无法满足实际需求.预条件共轭梯度法是一种加速技术,采用适当的预条件矩阵来降低系数矩阵的条件数.本文针对一种具有特殊结构的线性系统,提出了一种新的预条件共轭梯度算法,并对新算法进行了分析.初步数值实验说明新算法具有较好的收敛速率.     

一种求解无约束优化问题的新混合共轭梯度法

在现有共轭梯度方法的基础上,提出一种新混合共轭梯度法来求解无约束最优化问题.该方法采用近似方法去逼近Hessen矩阵,克服了传统牛顿法求解Hessen矩阵中存在的计算量大等问题,并在强wolfe线搜索技术下给出该共轭梯度算法的全局收敛性证明.实验结果表明,与PRP(Polak-Ribiere-Polyak)方法和HYBRID(混合)方法相比较,该文提出的新混合共轭梯度算法的迭代时间少于前两者方法,说明该文方法可行、有效.     

用于电容层析成像技术的共轭梯度算法

针对电容层析成像技术中的“软场”效应和病定问题,基于灵敏度矩阵的奇异值分解理论,提出共轭梯度图像重建算法及其改进算法———正则化共轭梯度法.仿真实验得知:经过 200次迭代后,Landweber算法残差为0. 139 5,未加正则化的共轭梯度算法残差为 1. 357 7×10-4;完成同样操作,Landweber算法迭代耗时 9. 3s,共轭梯度法只需 6. 8s.可见,共轭梯度法是一种比其他的迭代算法收敛更快、成像效果更好的图像重建算法.     

带子矩阵约束的二次逆特征值问题的最小二乘埃尔米特广义斜哈密顿矩阵迭代解

针对带子矩阵约束的二次逆特征值问题的最小二乘埃尔米特广义斜哈密顿结构矩阵解问题,给出了一种共栀梯度迭代算法.首先提出了带子矩阵约束的二次逆特征值问题的最小二乘问题及其最佳逼近问题;然后分别给出了基于共轭梯度的迭代算法,证明了算法的收敛性.对于任意初始约束矩阵,在不存在舍入误差的情况下,用该迭代算法可以在有限步迭代中得到...     

一类新的混合共轭梯度算法

共轭梯度算法在无约束最优化问题中有着广泛应用.现给出的一类新的共轭梯度算法,在迭代过程中保持了下降性质;在一般Wolfe线搜索条件下,新算法是全局收敛的.     

子矩阵约束下三类矩阵方程的迭代解法

讨论了子矩阵约束下三类矩阵方程的双反对称迭代解.利用广义共轭梯度法构造迭代算法,并证明了算法的有限步终止性.所得算法能自动判定解的情况.当矩阵方程(组)相容时,得到矩阵方程(组)的解;当矩阵方程(组)不相容时,得到矩阵方程(组)的最小二乘解.     

一类充分下降的谱共轭梯度法

首先基于共轭梯度法的共轭条件和下降性,提出了一类充分下降的谱共轭梯度法.该方法将经典共轭梯度法中搜索方向由原来的只满足一个共轭条件改变为同时满足一个共轭条件和一个下降条件;然后,在Wolfe线搜索下用反证法证明了新算法的全局收敛性;最后,通过12个算例,将新算法和已有SHS算法在迭代次数和计算时间方面进行了数值比较实验,比较结果表明新算法在这两个方面都明显优越于SHS算法.算法的全局收敛性和数值结果的优越性表明,新算法是一个值得研究的方法.     

一种新线性搜索下的共轭梯度法

文章给出了一种新的非精确线性搜索下的共轭梯度法,说明了在新线性搜索下每次迭代能够产生下降方向.证明了新线搜索下FR共轭梯度算法的全局收敛性.     

基于GPU的对称正定稀疏矩阵复线性方程组迭代算法

提出一种基于图形处理器（GPU）的对称正定稀疏矩阵复线性方程组迭代算法. 首先, 采用基于GPU的共轭梯度法和双共轭梯度法, 实现GPU上的矩阵向量乘操作, 并充分优化相应的算法步骤; 其次, 实现基于GPU的对角元预处理、 不完全Cholesky分解和对称超松弛3种预处理方法, 提出一种基于GPU的求解三角方程组并行算法; 最后, 实验分析各种预处理方法的优劣. 实验结果表明, 该算法较CPU串行迭代算法与经典的直接法速度提升较大, 最高可达到76倍的加速比.     

不完全左共轭梯度法及其数值表现

由于左共轭梯度算法没有短迭代公式,因而计算左共轭梯度方向的代价会随着迭代次数的增多而不断提高.为了节约存贮量、减少计算成本,有效的不完全左共轭梯度技巧显得非常必要.本文介绍两种不完全左共轭梯度的基本算法:有限内存左共轭梯度法和重开始的左共轭梯度法,并从不同角度对两种方法进行数值分析.此外,我们还给出相应的块左共轭梯度算法的不完全格式,也恰好是克服不完全左共轭梯度法中断的一个有效技巧.     

支持向量机增量学习中模型参数选择问题研究

支持向量机性能主要受模型参数的影响,而支持向量机增量学习中模型参数选择问题研究较少。针对这一问题,提出一种支持向量机增量学习中模型参数选择方法。将鲁棒度作为增量学习的性能估计准则,用拟合误差和比例系数调节解空间取值范围,采用梯度下降法搜索参数,用初始模型参数作为梯度下降法的初始值。用该方法对Logistic模型和航空发动机振动监控进行实验。结果表明：与基本遗传算法和梯度法进行比较,所提方法能充分利用历史学习的结果,缩小解空间的搜索范围,加快收敛速度。     

一个新的无约束优化下降算法

提出了一种新的无约束优化下降算法，在每步迭代中算法以当前点负梯度和前一点负梯度的线性组合为搜索方向，用Armijo搜索定义步长，在适当条件下证明了算法的全局收敛性。     

修正的迭代近似梯度投影算法在压缩感知中的应用

通过设计一种新的Hessian矩阵的近似,得到函数在当前迭代点的二次近似模型,并利用该模型与延迟策略得出一种新步长.结合新步长,提出一种求解压缩感知中稀疏信号重构问题的修正迭代近似梯度投影算法,并给出收敛性证明.实验结果表明,该算法不仅能较好地恢复原始信号中的非零元素,有效地重构信号,而且与经典算法相比,重构效率较高.     

一种自适应步长的复合梯度加速优化算法

自适应步长加速(Adam)类算法由于其计算效率高、兼容性好的特点，成为近期相关领域的研究热点.针对Adam收敛速度慢的问题，本文基于当前梯度、预测梯度以及历史动量梯度，提出一种新型Adam类一阶优化算法——复合梯度下降法(C-Adam)，并对其收敛性进行了理论证明.与其他加速算法的区别之处在于，C-Adam将预测梯度与历史动量区别开，通过一次真实的梯度更新找到下一次迭代更精准的搜索方向.利用两组常用测试数据集及45钢静拉伸破坏实验的实验数据对所提算法进行验证，实验结果表明C-Adam与其他流行算法相比较具有更快的收敛速度及更小的训练损失.     

耦合Sylvester矩阵方程的改进的梯度迭代算法

本文通过构造矩阵分裂,结合线性系统的迭代方法,提出了求解耦合Sylvester矩阵方程的两种梯度迭代算法,并研究了这两种算法在满足初始迭代条件下的收敛性.最后给出数值算例验证了这两种算法的有效性.     

基于可解空间法的视景路径规划仿真系统设计

提出一种新的可解空间粒子群寻路算法,并实现Vega Prime(VP)三维视景路径规划仿真系统。算法假设初始化的每个粒子都是一个潜在的可行解,都可到达终点。每个粒子在迭代的过程中不断更新位置,并记录下它们所经过的路径点的个数;迭代结束后,找出到达终点的粒子中路径点个数最少的粒子,将该粒子每次迭代时所经过的最优位置作为寻路路线。同时在VP大地图场景中,为矩形障碍物添加一个圆形的坡度,较好地解决了算法易陷入局部最优解的缺陷。该仿真系统的正确运行验证了算法的有效性及系统的实用性。     

基于自适应Barzilai-Borwein步长的直接搜索共轭梯度法

利用最新迭代点附近的函数值信息,估计该点的单纯形梯度,并计算当前点的Barzilai-Borwein(BB)步长,提出一种基于自适应BB步长的网格步长更新策略,有效解决了网格步长下降过快的问题,同时结合新的正基更新策略提出一种新的直接搜索算法.数值结果表明,该算法在稳定性和效率上有较大改进.     

基于弹性接触的共轭梯度算法

为了解决有约束的基于共轭梯度二次规划算法的多次迭代问题,结合共轭梯度算法和有效集策略,提出了一个新的算法模型,通过对变量的截取(使用Polak-Bibiere公式)来避免重新开始共轭梯度算法,在大规模的弹性接触问题中,大量的结果表明了这个算法的有效性。     

基于全变分正则最大后验估计的高光谱图像亚像元快速定位方法

针对高光谱亚像元定位应用中光谱解混这一病态问题的求解,改进了结合空间分布先验全变分（TV）的最大后验估计（MAP）光谱解混模型,以保证算法的可扩展性和解的唯一性.同时,针对TV先验固有的非线性特性导致的求解过程繁琐的问题,提出了一种快速求解算法,将原始复杂的非线性运算转化成几步较简单的有闭合解的运算,对这些子问题结合运用快速迭代收缩阈值算法（FISTA）和分裂Bregman算法来分别求解.结果表明,提出的新方法保持了与传统梯度下降方法相一致的定位精度,但将迭代速度提高了10倍以上,具有更高的运算效率.