瞬态场研究的时间步进法与共轭梯度法

本文以任意形状细导线散射问题为例讨论了时间步进法与共轭梯度法及其在瞬态场问题研究中的应用,我们发现了这两种方法之间的联系,并对Rao等人提出的改进型共轭梯度法做了进一步简化.数值计算结果与相关文献结果吻合很好.     

一种新的基于梯度动力学的协同神经网络学习算法

在研究协同神经网络梯度动力学过程的基础上，针对学习过程收敛速度缓慢的缺点，介绍了一种改进的基于梯度动力学的协同神经网络学习算法。该算法分析了非平衡注意参数对学习过程的影响，简化了初始伴随向量的选取；并引入最优化理论，将该问题归结为求解非线性最优化问题，提出了适时地用共轭梯度法代替梯度下降法的算法，加快了学习过程的收敛。通过对标准人脸图像库的图像识别实验表明该算法较之其他学习算法有较高的识别率，并能较快地收敛到极小值。     

一种混合的HS—FR共轭梯度算法

给出了一个混合的ＨＳ－ＦＲ共轭梯度算法,其中参数βｋ＝ｍａｘ｛０,ｍｉｎ,（β＾ＨＳｋ,β＾ＦＲｋ）｝,在无充分下降性条件下,得到两个收敛性定理－定理３与定理４．其中定理３在下降条件与强Ｗｏｌｆｅ搜索准则下证明了梯度序列必有零聚点;定理４是定理３的改进,它的表明在没有下降条件下定理３的结论仍然成立。     

一类共轭梯度算法的收敛性

对无约束最优化问题minfx∈R^n（x）,提出了一类与βk^HS相关的共轭梯度算法,采用强Wolfe搜索,在较弱的条件下,证明了其充分下降性和全局收敛性．     

一种共轭梯度算法的全局收敛性

本文提出了一种计算βk的新公式，即提出了一种新的共轭梯度法，证明了一种非精确线性搜索能够保证这种算法的下降性和全局收敛性．     

在Wolfe步长搜索下的一类新的共轭梯度算法

研究利用共轭梯度法求解无约束最优化问题.为了保证共轭梯度方向是目标函数的充分下降方向,对共轭梯度算法中的共轭梯度方向参数确定了一个取值范围并与Wolfe步长搜索相结合,提出了新的共轭梯度算法,使算法具有更好的收敛速度,特别是在求解大规模无约束最优化问题时,此算法只需要较小的存储.     

一类混合共轭梯度算法

改进了戴志锋,陈兰平提出的HS-DY混合共轭梯度法,扩大了参数凤的取值范围,基于同样的考虑,给出了DY与PRP算法相结合的混合共轭梯度法,在Wolfe线搜索下不需给定下降条件即证明了它们的全局收敛性,数值实验表明这类的算法十分有效。     

混合共轭梯度技巧

将ＰＲ法与ＦＲ法混合得到一个混合共轭梯度算法，并证明了全局收敛性。     

基于共轭梯度法的函数优化混合遗传算法

综合遗传算法的全局搜索能力和共轭梯度法的局部搜索能力,提出了一种混合算法,该算法具有全局最优性和收敛性。同时,数值仿真表明算法是有效的。     

共轭梯度法研究与展望

共轭梯度法是介于最速下降法和牛顿法之间的一种最为常用和有效的最优化方法,它具有收敛速度快、所需存储量小和算法简便的特点,在线性和非线性优化中都有十分重要的应用.共轭梯度法根据搜索方向选取参数不同可再细分为几个不同的算法,这些算法在不同的线性搜索下收敛性也有所不同,因此有必要对此方法进行进一步的研究和完善.     

线性组合模型及在人口预测中的应用

介绍了线性组合模型并以江西省人口数预测为例,分别利用线性回归预测模型、灰色预测模型、Logistic人口预测模型进行预测,并把这3种预测模型进行最优组合和线性组合,用共轭梯度法性求预测模型的系数。然后对这5种预测模型的结果进行比较,结果表明线性组合预测模型的效果比单一预测模型效果好,也比最优组合预测模型的精度高。     

有约束优化中结合Fisher函数的梯度投影算法

利用Fisher函数的特性,对求解约束优化问题提出一种新的结合Fisher函数的梯度投影算法。并且证明在通常的假设条件下,该算法在非精确线搜索下具有全局收敛性。     

梯度下降优化模糊系统的接触电阻预测方法

根据接触电阻的特点,将结合模糊逻辑的预测方法引入电气领域,提出基于模糊系统的接触电阻预测新方法.根据接触电阻与各影响因素之间的关系及研究目的进行试验,得到足量试验数据,将所有试验数据分成两部分,训练数据和测试数据.通过训练数据运用梯度下降算法训练模糊系统,调整模糊系统参数,建立相应的接触电阻模型,利用训练数据建立接触电阻的回归分析模型.通过测试数据对两种模型进行测试,基于模糊系统的接触电阻模型的测试结果优于回归分析.预测与比较结果表明:若能得到足量训练数据,用梯度下降算法训练模糊系统建立的接触电阻模型精确可靠.     

基于步长优化和共轭梯度法的改进BP算法

本文针对传统ＢＰ算法存在的两个常见问题进行了讨论，提出了基于步长优化和共轭梯度法的改进ＢＰ算法。新的算法避免了目前由人为经验确定迭代步长的缺陷，并能有效克服局部极小值。这样可使网络加快收敛，稳定性变好。     

一个修正的既约梯度算法及其收敛性

本文给出一个修正的既约梯度算法,同以往既约梯度算法的不同处在于下降方向的选取以及收敛性质的改进。     

改进的线性受限共轭梯度常模算法

提出了一种改进的线性受限共轭梯度常模算法,称之为M-LCCGCMA.其核心是采用最优自适应步长的方法对已有算法进行优化,并推导出步长的解析形式,确保了算法收敛于期望用户,提高了系统性能.通过对算法代价函数的理论分析,得出了算法收敛的条件.将算法在加性白高斯和多径衰落信道的环境中进行了仿真,结果表明,该算法的信干比性能和误码率性能均比现有的自适应步长常模算法要好.     

多层感知器的加速算法

基于多层感知器(Multi-Perceptron)的反向传播(BP:Backpropagation)算法,本文提出了一种新的改进算法——加速度算法。其基本思想是交替使用负梯度方向[S~t:=—△E(W~(?))]和加速梯度方向[S~k(?)=W~k—W~(k-2)(k≥2)]作为搜索方向。理论分析与模拟实验表明,与基本BP算法比较,它有很快的收敛速度。     

Stein方程数值解的黎曼梯度算法

基于正定矩阵流形的信息几何结构, 使用黎曼梯度算法来获得Stein方程的数值解. 利用弯曲的黎曼流形上的测地距离作为算法的目标函数,并将流形上的测地线作为算法的收敛路径. 通过数值实验讨论了算法的步长和收敛速度的关系,从而得到算法的最优步长.      

基于梯度向量的变步长LMS算法

传统的最小均方误差(Least Mean Square)算法难以同时获得较快的收敛速度和较小的稳态误差。本文在对传统LMS算法、变步长LMS算法及其改进算法分析的基础上,通过建立步长参数与梯度向量之间的一种新的非线性函数关系,提出一种改进的变步长LMS算法。分析和仿真表明,改进后的算法收敛速度更快,均方误差更小,同时也具有良好的抗噪性能。