基于遗传算法的最小一乘回归新算法

最小一乘在稳健性上比最小二乘好,使得最小一乘在工程中得到广泛的应用,但求解最小一乘的算法并不理想;本文根据最小一乘的性质,把最小一乘问题变为组合优化问题.将遗传算法用在最小一乘模型的求解上,在后面的仿真实验中得到了较好的效果.     

几类最小一乘估计模型的求解

本文探讨了应用最小一乘准则的多种线性和非线性回归模型,推导了各种模型中未知参数的最小一乘估计形式,并给出最小一乘准则求解的基本过程,实现了未知参数最小一乘估计求解的统一.     

灰色预测模型参数估计的优化方法

基于拟合误差绝对值和最小及折扣系数建立了GM(1，1)模型参数估计的折扣最小一乘法，给出了求解折扣最小一乘法的小生境遗传算法，它克服了用线性规划方法求解时，折扣系数靠经验确定而易导致偏差的问题。     

最小一乘估计的几个性质

定义了最优极点和稳定极点2个概念,在非退化模型下讨论了它们与最小一乘估计间的等价关系,得出了稳定极点就是最优极点的结论,有利于找到求解最小一乘估计更简单的算法.     

模糊最小一乘线性回归

针对输入和输出的模糊数据, 根据最小一乘准则,提出了基于对称三角模糊数的模糊最小一乘线性回归模型, 并将它转化成线性规划问题,应用Matlab进行求解,通过实例, 并与Tanaka, Diamond, Kim-Bishu, Kao-Chyu, Nasrabadi, Chang等模型相比较,验证了我们的模型具有更优的拟合性和良好的稳定性.     

最小一乘估计性质的讨论

解决某些问题时,最小一乘准则在很大程度上优于最小二乘准则.通过对最小一乘准则与最小二乘准则的比较分析,给出了最小一乘估计的一些优良性质,如无偏性、渐近正态性、有效性等,并做了相应的理论证明.     

全最小一乘法

先介绍最小二乘法、最小一乘法与全最小一乘法,论述它们的异同;然后举例说明全最小一乘法在经济方面的应用,并将它与最小二乘法及最小一乘法进行比较,同时给出了利用LINGO10软件计算全最小一乘法的程序;最后,简单叙述了全最小一乘法在理论上的进一步发展.     

组合预测模型的回归分析方法

给出求解组合预测权系数的回归分析方法，文章首先给出了基于最小二乘和最小一乘准则的线性回归组合预测模型，然后应用最小二乘原理得到权系数最小二乘估计值。由于最小一乘准则下，目标函数不可微，传统的优化规则方法无法求解，故文中提出用基于最小二乘的逐步变权方法进行求解。同时，还给出了百分误差绝对值最小为目标的组合预测模型及权系数求解方法。通过实例分析，表明组合预测模型的预测精度很高，回归效果很显著。     

正弦余弦算法求解含有异常值的非线性数据拟合

针对非线性数据拟合问题，建立以残差的平方和与绝对值和为目标的最小二乘与最小一乘模型，采用正弦余弦算法计算模型参数.计算结果表明：如果数据的分布是对称且无异常值，则最小二乘得到的结果与最小一乘得到的结果基本一致；如果数据存在异常值，则异常值对最小二乘有着较大的影响，而对最小一乘的影响较小.     

用松驰变量解最小一乘问题

本文通过引入“松驰变量”,将最小一乘问题归结为线性规划问题,并利用线性理论讨论了最小一乘问题的一些基本性质,提出了此[1]更为方便的、按 MSAE 准则的多元线性逐步回归的方法.     

一类求解退化凸二次规划的投影神经网络

借助变分不等式和Kuhn—Tucker条件,构造了一类投影神经网络求解线性约束的退化凸二次规划问题．与已有的求解退化凸规划问题的神经网络系统相比,系统的适用范围更广;在理论方面,系统是全局收敛的;数值实例显示了所得结论的有效性和正确性．     

反馈网络在优化问题应用中的理论研究

针对反馈网络在优化问题求解中的问题,探讨了反馈网络与能量函数之间的关系,证实了构造的神经网络只有满足一定条件时,网络态才可能对应能量函数极小点,同时文中给出了3条用于优化求解网络设计的设计准则和方法。     

广义离散神经网络模型及启发式算法

对Hopfield离散网络的操作方式进行了推广，使其可以实现局部并行操作，并给出了相应的稳定条件。构造了一种用于最大独立集（MIS）问题求解的广义离散神经网络模型（GDHN）。模拟计算表明，所提出的算法在求解MIS问题时，比单纯的Hopfield神经网络算法有更好的优化性能。     

求解线性等式与不等式组的神经网络模型

提出了一种求解线性等式与不等式组的神经网络模型，该模型避免了惩罚函数模型的缺点，当模型达到稳态时，网络输出将给出问题的精确解。作为一个应用，从本文提出的模型可以导出解一类线性规划问题的神经网络模型     

二次最小化问题的有限时间递归神经网络求解

利用一类递归神经网络模型来求解二次最小化问题，在该模型的基础上加入双符号幂激励函数，以加快递归神经网络的收敛速度，甚至达到有限时间收敛.通过调节设计参数λ的取值，递归神经网络的收敛性能可进一步提高.利用MATLAB软件对有限递归神经网络模型进行仿真，数值仿真结果验证了模型求解二次最小化问题的有效性和优越性.     

一种识别手写字符的多分类器集成方法

提出了一个识别手写字符的综合网络集成模型,该模型由2个B-小波神经网络分类器和一个Morlet-小波神经网络分类器构成,实验的结果充分显示了该方法的有效性。     

求解一类奇异非线性凸优化问题的神经网络方法

一类奇异非线性凸优化问题近年来受到很多关注。解决该问题现有的大多数方法是迭代法,但计算复杂、效果不理想。本文提出了一种解决奇异非线性凸优化问题的新型神经网络模型,介绍了一个等价的非奇异模型和一个增广的拉格朗日函数。通过利用LaSalle’s不变性原理,证明了所提出的网络是全局收敛的,这就保证了所提出的模型对于解决奇异非线性最优化问题的有效性,数值模拟则进一步证实了该神经网络方法的有效性。     

机车二系弹簧载荷均匀性分配调整的混合建模方法

针对机车二系弹簧载荷均匀性分配调整的建模问题,提出综合运用机理建模和神经网络建模的混合建模方法。该方法在刚性车体假定下采用经典力学和数学方法建立机车车体-二系弹簧系统的机理模型,作为调簧主规律模型;用人工神经网络方法建立BP网络误差补偿模型来弥补机理模型的建模误差;二者并联组成混合模型,其输出为机理模型和BP网络模型输出的叠加。研究结果表明:混合建模方法用于二系调簧的多维连续空间系统建模,可大幅提高模型精度;实际调簧过程中使用混合模型可进一步提高调簧精度和效率,使载荷分布最大误差较机理模型减少8%～15%,平均调簧时间缩短25%以上。