张量方法在非线性最小二乘问题中的应用

本文利用张量方法求解非线性最小二乘问题ｍｉｎｆ（ｘ）＝１／２Ｒ（ｘ）＾ｒＲ（ｘ）。主要讨论其奇异问题的算法，提出求解非线性最小二乘问题一种张量算法，并讨论了张量算法中解的存在性。     

投影方法在线性最小二乘问题中的应用

采用正交投影方法推导了最小二乘问题的法方程。首先求出了到最小二乘问题系统矩阵的列空间的正交投影矩阵,然后根据正交投影的性质求出了最小二乘问题的解。该方法可以迁移到带有权重的最小二乘问题。     

移动最小二乘法在 PIV迭代过程中的应用

提出了一种增强粒子图像测速（PIV）技术中图片变形迭代查询算法稳定性的方法,在迭代计算过程中用移动最小二乘法（MLS）来拟合互相关计算得到的位移场．合成图片的评估显示：MLS能很好地增强算法的稳定性,并且有很好的空间分辨率特性,在一定程度上改善了算法的精度．真实流场的评估也显示MLS能增强算法的稳定性．同时MLS的加入不会明显增加计算时间．     

极小最小二乘问题在神经网络中的应用

为了解决在神经网络的前馈算法中矩阵的极小最小二乘的失效问题,在Matlab和C 的平台上研究并比较了奇异值分解(SVD)、超松弛迭代(SSOR)和共轭梯度法(CG)几种算法在解上千阶矩阵最小二乘问题的优劣。SSOR算法在百阶的条件下,具有实用性;CG算法和SVD算法在千阶的条件下,可以取得比较好的收敛速度和比较高的精度。这两种算法还可以继续完善。CG算法可加预处理方法使其更加稳定,收敛更快。该文研究表明SVD和CG算法可以有效的解决经典算法如QR算法在大中规模矩阵条件下,解最小二乘问题失效的问题。     

CARMA模型离线最小二乘迭代辨识方法

基于迭代最小二乘原理,提出了辨识CARMA模型和输出误差模型参数的最小迭代算法。两个最小二乘迭代算法分别比递推增广最小二乘算法和辅助模型递推算法具有更高的参数精度和具有很快的收敛速度。最小二乘迭代辨识的基本思想是:采用交互估计理论和递阶辨识原理,在每步迭代计算中,参数估计依赖于噪声估计,反过来噪声估计通过前一次迭代的参数估计计算,二者执行了一个递阶计算过程。最后用仿真例子验证了提出的算法。     

求解大型稀疏最小二乘问题的MSOR方法及其收敛性

文章讨论了求解大型稀疏最小二乘问题的ＭＳＯＲ方法，考虑了２－ＢＭＳＯＲ和３－ＢＭＳＯＲ方法的收敛区域，并且基于‖Ａ２Ａ－１１‖２给出了最佳２－ＢＭＳＯＲ松弛参数和相应的收敛谱半径     

稀疏最小二乘支持向量机及其应用

提出基于特征向量选择(feature vector selection,FVS)的稀疏最小二乘支持向量机(sparse least squares support vector machine,SLS-SVM)模型,解决最小二乘支持向量机(least squares support vector machine,LS-SVM)稀疏化问题。采用FVS在特征空间构建特征向量子集,对训练样本进行稀疏线性重构;将稀疏化的特征向量作为支持向量,从而实现对LS-SVM稀疏化建模。将SLS-SVM模型进行弓网系统的仿真对比实验,结果表明SLS-SVM模型在取得高预报精度的同时,可实现支持向量的高度稀疏化,从而加快模型预报速度。     

广义逆在最小二乘问题求解中的应用

文中应用矩阵的广义逆讨论了相容线性方程组Ax=b的解,并用Penrose广义逆给出了矛盾方程组Ax=b的最小二乘解及极小范数最小二乘解的Moore-Penrose逆表示。     

动态调节模型的最小二乘迭代辨识方法

为了改进参数估计精度,利用递阶辨识的交互估计理论,提出了辨识动态调节模型的最小二乘迭代辨识方法。其基本思想是:在每步迭代计算中,将信息向量中或信息矩阵中不可测噪声项用其估计值代替,而噪声估计值又是用前一次迭代参数估计进行计算的,二者执行了一个递阶计算过程。与流行的递推广义最小二乘算法相比,提出的迭代算法在每一步计算中,同时利用了系统所有量测数据信息,因而具有更高的参数估计精度和更快的收敛速度。进行了仿真计算。     

最小二乘法在计算地基沉降中的应用方法

在计算地基沉降量过程中,根据已获得的沉降观测资料,找出具有一定实用价值的沉降规律,可以更准确地确定地基沉降与时间关系。采用线性回归（最小二乘法）,确定最佳拟合曲线,从而计算出沉降规律具有十分重要的意义。     

自适应整形正则化迭代最小二乘谱反演方法

提出一种基于自适应整形正则化的迭代最小二乘谱反演方法(ILSSI-ASR)。该方法从反演思想出发,将整形正则化引入到迭代最小二乘谱反演中,基于反演的谱分析方法构造一种自适应整形算子,并对正则化参数进行自动优选,获得信号在时-频域的分布特征。结果表明：该方法较好地解决了反演过程中遇到的多解性及稳定性等问题,拥有更高的时频分辨率及更好的能量聚集性,可对储层进行更精确地刻画。     

最小二乘法在测配色中的应用

尝试用最小二乘法求解测配色过程中的K／S—℃曲线拟合问题和测配色中的初始理论浓度配方问题，并通过实验证明此算法求解出的理论值与真宾值之间的色差值是很小的。     

遗传算法在最小二乘法求解中的应用

遗传算法进行全空间并行搜索,并将搜索重点集中于性能高的部分,从而能提高效率且不易陷入局部极小,具有固有的并行性,通过对种群的遗传处理可处理大量的模式,并且容易并行实现。重点研究遗传算法以及混合遗传算法在传统数学中的应用:最小二乘法问题。通过大量的实验研究,证明遗传算法在传统数学的研究问题中有很高的应用价值。     

递推最小二乘估计在林业中的应用

<正>本文试图将递推最小二乘估计引用于林业工作,以弥补林业上通行的最小二乘估计的不足,通过的阐释,并对所举两例计算的结果,说明了它既保持最小二乘估计的优良特性,又能在森林资源动态监测工作中充分发挥其特有作用。     

最小二乘法在认知诊断模型中的应用

与传统测验相比,认知诊断测验的优势就在于它能够揭示每个被试的具体认知状况,并且有效地、有针对性地对个体进行补救,规则空间模型（RSM）与属性层级方法（AHM）两认知诊断模型都只能诊断被试掌握与未掌握某属性,而不能反应被试对属性的掌握程度,而被试掌握属性的概率却能够揭示被试对属性的掌握程度,所以可以把这个概率作为诊断报告的一部分,可见进一步研究被试对属性的掌握概率是有必要的。     

最小二乘法在无损检测中的应用

用最小二乘法拟合电雷管点火头的理想温升曲线作为无损检测的判据，从而有效地判断电雷管的爆炸性能。     

最小二乘估计中法方程的迭代解法

从求解严重病态线性代数方程组的实际出发，提出了一种求解最小二乘估计中法方程的迭代方法－谱修正迭代法，该迭代公式不仅直观、简单，而且适用于良态，病态和奇异系数阵的各种情况，最后通过实例验证了上述结论。     

信赖域方法的收敛性质及其在非线性最小二乘问题中的应用

本文在Fletcher和Shultz,Schnabel & Byrd等工作的基础上,考察一类信赖域方法的收敛性质,并将其应用于分析处理零残量非线性最小二乘问题算法的全局收敛性.1 算法描述及其对稳定点的收敛性考虑求解无约束优化问题minf(x),x∈R~n的信赖域算法;其第k次迭代为(a) 确定f(x)在其极小点x~*的估计x_k的近似qk(x)=f(x_k)+ψ_k(s),ψ_k(s)=g_k~Ts+ 1/2s~TB_ks.其中gk满足lim‖gk-?f(x_k)‖=0;     

新的求解大规模线性最小二乘问题的随机算法

目的针对传统的求解线性最小二乘问题方法的计算、存储复杂度大,不适于大规模问题的缺点,提出新的随机算法近似求解大规模线性最小二乘问题。方法通过随机采样对超大规模线性最小二乘问题的系数矩阵进行约减,利用快速Walsh-Hadamard对问题进行变换来保留原问题的重要信息,再用QR分解算法求解约减问题,得到原问题的近似解。结果该方法有效降低了问题的求解复杂度和存储复杂度。结论数值实验表明新算法和相关算法相比求解精度可接受,但大大减少求解时间且在同等计算平台下可处理更大规模的问题。     

递推部分最小二乘方法

部分最小二乘(PLS)回归可较好地解决多元线性回归中的共线性问题,目前被广泛地应用于过程建模和监控.作者首先给出核PLS算法,然后在此基础上推出递推部分最小二乘(RPLS)方法,可以基于新数据和旧的PLS模型参数更新PLS模型.将该递推PLS方法和传统PLS方法同时用于仿真研究,结果表明递推算法性能和传统方法的相近,而计算量大大减少.