基于Matlab的最小一乘回归的线性规划实现

对基于最小二乘准则的回归方法进行了分析,指出该方法容易受到野点信号的干扰.最小一乘准则虽然克服了最小二乘准则的不足,但如何在其基础上建立与实现回归算法一直是一个难题.论文中提出利用线性规划的方法建立该算法,并采用Matlab语言予以实现.     

一种组合预测模型及其应用

在分析宏观经济灰色预测模型、BP神经网络预测模型、回归分析预测模型等基础上,结合西安市宏观经济预测模型指标GDP的历史数据,采用最小二乘法求权系数的方法,建立并检验了一种组合预测模型.实验证明该模型的预测精度有显著提高.     

基于最小一乘准则的非线性回归模型研究

给出基于最小一乘准则的非线性回归模型的参数估计算法。该算法利用泰勒级数和最小一乘准则的性质,得到模型的参数估计值。文中用实例验证了该算法的正确性和有效性,同时也证实了最小一乘的稳健性。     

回归分析中的目标函数极小化准则

指出了最小二乘回归分析中存在稳健性不好的问题,讨论了用线性规划法计算回归系数的最小一乘准则和极小极大化准则,通过实例计算得出最小一乘准则误差绝对值小,最大误差最大和极小极大化准则误差绝对值之和最大,最大误差最小的结果,指出在实际应用中可以把三种准则下的计算结果进行比较,从中选出最优回归方程。     

基于最小一乘准则的非线性回归模型研究

给出基于最小一乘准则的非线性回归模型的参数估计算法.该算法利用泰勒级数和最小一乘准则的性质,得到模型的参数估计值.文中用实例验证了该算法的正确性和有效性,同时也证实了最小一乘的稳健性.     

基于最小二乘支持向量机的风速组合预测模型

探讨了基于最小二乘支持向量机的组合预测模型在风速短期预测中的可行性.该模型以BP神经网络、RBF神经网络、粒子群BP神经网络3种预测模型的风速预测值作为组合预测模型的输入,实际风速值为输出,利用最小二乘支持向量机回归算法构造风速间的非线性关系,以实现风速多步预测.将该模型的预测性能与BP神经网络组合预测模型、线性组合预测模型进行比较,通过平均绝对误差、误差平方和、平均相对误差3个指标进行评价.结果表明,最小二乘支持向量机预测模型的平均相对误差低于6%,其他误差指标也明显低于其他预测模型.因此,最小二乘支持向量机组合预测模型预测精度不仅高于任一单项预测模型预测精度,而且高于传统的线性组合预测模型与一般BP神经网络组合预测模型.验证了该模型在风速预测中的可行性.     

几类最小一乘估计模型的求解

本文探讨了应用最小一乘准则的多种线性和非线性回归模型,推导了各种模型中未知参数的最小一乘估计形式,并给出最小一乘准则求解的基本过程,实现了未知参数最小一乘估计求解的统一.     

电力系统短期负荷组合预测

基于三种单一预测模型，给出了电力系统短期负荷组合预测模型。为求解固定权系数，引入智能优化算法求解。通过计算结果比较表明，组合预测法具有较强的实用性和优越性。     

最小一乘估计性质的讨论

解决某些问题时,最小一乘准则在很大程度上优于最小二乘准则.通过对最小一乘准则与最小二乘准则的比较分析,给出了最小一乘估计的一些优良性质,如无偏性、渐近正态性、有效性等,并做了相应的理论证明.     

基于遗传算法的最小一乘回归新算法

最小一乘在稳健性上比最小二乘好,使得最小一乘在工程中得到广泛的应用,但求解最小一乘的算法并不理想;本文根据最小一乘的性质,把最小一乘问题变为组合优化问题.将遗传算法用在最小一乘模型的求解上,在后面的仿真实验中得到了较好的效果.     

最小二乘支持向量机在害虫预测中的应用

针对害虫发生量数据的小样本、非线性特点,提出一种最小二乘支持向量机的害虫预测方法.首先采用多元线性回归分析法选择害虫发生量的影响因子,然后通过遗传算法对最小二乘支持向量机参数进行优化,最后建立害虫发生量与影响因子之间复杂的非线性关系模型.采用二代玉米螟百株幼虫虫量对模型性能进行检验,结果表明,相对于多元线性回归、BP神经网络模型,最小二乘支持向量机提高了二代玉米螟发虫量的预测精度,是一种有效的害虫变化预测方法.     

三种计算层次分析法中权值的方法

分析了几种计算权值的常见的方法,在分析最小二乘法的基础上,分别以"残差平方之和最小"、"残差绝对值之和最小"和"最大残差绝对值最小"准则的建立了计算权值的三种新方法。通过实例给出了计算方法和结果。     

基于矢量基学习的自适应迭代最小二乘支持向量机回归算法

为增强最小二乘支持向量机(LS-SVM)回归建模的稀疏性、鲁棒性和实时性,在加权LS-SVM的基础上,提出了基于矢量基学习的自适应迭代回归算法。在训练过程中,该算法通过矢量基学习和自适应迭代相结合的方法得到1个小的支持向量集,同时采用加权方法确定权值以减小训练样本中非高斯噪声的影响。回归学习和动态系统辩识的仿真结果表明:在回归建模精度相似的情况下,该算法确定的支持向量为全部学习样本的4.9%~8.9%,训练时间为标准LS-SVM的0.011%~0.383%;由于能够鲁棒跟踪时变非线性系统的动态特性,适合在线实时训练;可进一步用于非线性系统的建模和实时控制研究。     

基于最小二乘支持向量机的BLT方程孔缝散射模型

孔缝电磁散射效应分析是开展复杂电子系统电磁防护研究的重要组成部分. 基于微波二端口网络分析理论和电磁拓扑理论,构建了孔缝散射数学模型和广义散射矩阵,并提出了一种新的孔缝散射矩阵进化求解算法. 对单矩形孔腔体HFSS数据进行了仿真分析,结果表明:散射矩阵对反射效应和透射效应的预测绝对误差均值为±1.2 mVm和±3.3 mV/m,相对误差均值为±0.17%和±8.29%;当预测精度为90%时,对反射效应和透射效应的最大预测绝对误差为±2.9 mV/m和±0.763 5 mV/m,最大预测相对误差为±0.39%和±0.93%,实现了孔缝散射效应的准确预测,验证了模型可靠性和实用性.      

一个求解非线性最小二乘问题的新方法

在Gauss-Newton(G-N)方法和Levenbery-Marquardt(L-M)方法(阻尼最小二乘法)的基础上给出了一种新的求解非线性最小二乘问题的方法，它是通过寻求新的非线性方程组的数值方法来实现的，首先给出了不用计算导数的求解非线性方程组的收敛迭代方法，该方法是建立在求解动力系统的稳定点的基础上，采用了较稳定的常微分方程初值问题的数值方法进行迭代求解，并采用Steffensen加速技术以提高收敛速度，最后，给出了用Matlab试算的数值例子、试验结果表明了该方法的有效性。     

最小二乘Littlewood-Paley小波支持向量机在发酵过程建模中的应用

针对谷氨酸发酵过程一些关键参数不能在线测量而导致的建模精度不高问题,利用最小二乘支持向量机(LSSVM)和小波的理论,建立了一种新的模型.首先,选取Littlewood-Paley小波函数作为LS-WSVM的核函数,进而设计出最小二乘小波支持向量机(LS-WSVM),然后利用该算法对谷氨酸发酵过程进行建模.通过实际应用,实现了对残糖浓度、菌体浓度、谷氨酸浓度等不能在线测量变量的较准确预测,相对于LSSVM建模而言,提高了一个数量级,预测误差也明显得到改善,说明了该建模方法的有效性,具有一定的推广和应用价值.     

MapReduce框架下基于线性回归的短期负荷预测

为解决负荷预测时因数据量大、数据种类繁多带来的计算速度慢、预测精度低等问题,在MapReduce并行编程框架下,提出基于小批量随机梯度下降法的线性回归模型.首先,为清理智能配电终端产生的重复数据和不良数据,提出利用自适应近邻排序算法清除重复记录的数据,并利用K均值聚类的方法剔除异常数据和记录不完整的数据,然后利用F检验法来检验该数据集能否线性表征负荷,再利用T检验法检验特性向量与负荷间线性关系的显著性,并剔除与负荷线性关系较弱的特性向量.根据以上方法建立短期负荷预测模型,并将其用在甘肃武威某区域配电网短期负荷预测中.结果表明,所提出的短期负荷预测模型的平均绝对百分误差为2.043%,均方根误差为3 112.62.这些预测误差满足负荷预测的要求,极大地提高了负荷计算的速度,缩短了负荷预测时间.     

张量方法在非线性最小二乘问题中的应用

本文利用张量方法求解非线性最小二乘问题ｍｉｎｆ（ｘ）＝１／２Ｒ（ｘ）＾ｒＲ（ｘ）。主要讨论其奇异问题的算法，提出求解非线性最小二乘问题一种张量算法，并讨论了张量算法中解的存在性。     

对最小二乘问题的研究

给出了一种新的求解非线性最小二乘问题的方法，它是通过寻求新的非线性方程组的解法来实现的。他给出了不用计算导数的求解非线性方程组的收敛迭代方法，他是建立在求解动力系统的稳定点的基础上，采用了较稳定的常微分方程初值问题的数值方法进行迭代求解，在离解较近的区域采用Steffensen加速技术以提高收敛速度。