递推最小二乘算法的补充性证明

在使用递推最小二乘算法时，通常考虑的情况是训练样本所构成的方程组为矛盾方程组时该算法的收敛情况。本研究对递推最小二乘算法进行了理论证明及分析，指出了在任意第k步，未知参数估计值收敛于前k组数据的极小范数解(如果前k组数据所组成方程组为相容方程组)或者极小范数最小二乘解(如果前k组数据所组成方程组为矛盾方程组)，并且此解是唯一的；仿真结果同样也验证了该结论的正确性。     

非线性递推部分最小二乘及其应用

部分最小二乘回归(PLS)可较好地解决变量间的共线性问题,目前被广泛地应用于过程建模和监控.本文将递推PLS(RPLS)算法同RBF网络相结合,给出了一种非线性递推PLS方法(NRPLS),可根据在线数据自适应地调整模型结构和参数,使模型适应非线性过程的变化.在确定RBF网络的隐层节点参数时,采用了一种改进的k-means聚类算法,自动确定最优的聚类区数.该递推算法用于聚丙稀熔融指数软测量模型的在线修正,取得了较好的效果.     

递推最小二乘算法在新型无源探测系统中的应用

针对新型无源探测系统的要求,在原有最小二乘算法的基础上,为缩短定位时间,减少运算量,提出了递推最小二乘算法。同时引入自适应卡尔曼滤波算法对原始定位结果进行了处理。多次计算机仿真结果表明该算法有效地提高了定位的实时性、可靠性和定位精度,能够满足新型无源探测系统的技术要求。     

基于加权最小二乘的字典学习算法

冗余字典学习是信号稀疏表示理论中的一个重要研究方面。首先,针对各训练样本稀疏表示误差各不相同的现象,建立了误差加权的信号稀疏表示数学模型,根据该模型提出一种基于加权最小二乘的字典学习算法,推导了算法闭式解和讨论了最优加权矩阵的选取。其次,为避免闭式解中矩阵求逆运算,进一步推导了算法的在线计算形式,对训练样本依次学习,每学习一个样本,字典进行一次更新,直至样本结束。此外,对算法收敛性进行了理论分析。最后,分别从信号稀疏表示和已知字典恢复两个方面仿真验证了理论分析的正确性和算法的可行性和优越性。     

基于频控阵的递推最小二乘波束形成算法

频控阵通过在阵元间加入远小于载频的频率增量,使波束的空间分布距离角度二维相关。基于频控阵基本结构,引入两种接收信号处理机制,并对其进行理论推导分析,仿真表明两种机制均能有效接收信号。针对指向误差存在,导向矢量失配导致主瓣发生偏移问题,采用递推最小二乘波束形成算法处理。仿真结果表明,存在指向误差时,该算法在两种机制中均能在目标位置形成主瓣,在干扰位置形成零陷,验证了算法在频控阵中应用的稳健性。     

一种优化的自适应总体最小二乘系统辨识算法

对于监督信号和训练信号都含有噪声的系统辨识问题,如果采用经典的最小均方和迭代最小二乘算法进行估计,会带来较大的误差,而直接求解又会有较大的计算量,不利于在线计算.将权向量的求解转化为增广输入向量自相关矩阵瑞利商的受限最佳化问题,对增广输入向量进行遮代估计,同时建立了步长因子和误差信号问的函数关系,这个函数关系是建立在代价函数相对于步长梯度的基础上,而不是基于经验公式.所提算法结构简单,具有更好的稳健性,仿真表明这种算法相对于同类总体最小二乘算法和其他自适应算法有更快的收敛速度和更高的收敛精度.     

基于软约束模式的加权最小二乘节点定位算法

当节点初始坐标精度较差时,大多数基于负梯度搜索的最小二乘类迭代定位算法容易陷入局部最优,产生较大的定位误差.作者通过引入网络部署时先验的限制性条件,提出了一种基于软约束模式的加权最小二乘节点定位算法(SCLS).该算法根据2跳邻居节点问必须满足的最小和最大测距限制性条件,在加权最小二乘优化代价函数中引入惩罚项,迫使负梯度搜索往节点真实位置方向前进,从而提高定位算法精度.仿真实验结果显示,SCLS定位算法精度明显优于经典加权最小二乘定位算法.在测距误差较大或节点初始坐标精度较低情况下,SCLS算法具有良好鲁棒性.     

小型直升机航向模型的增广递推最小二乘辨识

分析确定了模型直升机航向通道结构,考虑了噪声模型的存在,采用增广最小二乘法进行了参数辨识,从而避免了一般最小二乘法把误差模型隐含在系统模型中所造成的辨识精度不高的缺点。结果表明,虽然采用增广最小二乘法要考虑噪声模型,但是它具有速度快、辨识结果准确的特点,所得模型直升机的航向模型很好的表示了其系统特性,可以用来进行控制系统的设计和直升机的分析理解。     

一种改进的加权最小二乘排序方法

本文对层次分析法中权的最小平方排序方法进行改进,提出一种新的改进的加权最小二乘排序方法,并从理论上进行证明。文章最后通过一个实例将两种排序方法与特征根排序方法进行对比分析,结果表明,改进的加权最小二乘排序方法可导出与特征向量排序方法相同的排序结果,克服了权的最小平方排序方法与特征向量排序方法排序结果不一致的缺点。     

基于加权最小二乘算法的DME/DME RNAV精度分析

DME是一种通过询问应答的方式为飞行员提供飞机到地面站距离指示的距离测量设备,用于飞机整个航行阶段.而DME/DMERNAV是一种至少利用两台DME共同工作实现在区域导航航线上授权使用的导航方式.为了准确判别DME/DME的运行是否满足我国区域导航航线授权运行规范,优化选择地面DME台站,通过建立水平定位精度模型和运行精度模型,采用加权最小二乘算法分别对DME/DME的水平定位精度和RNAV三种常用运行方式的定位精度进行了仿真分析,通过仿真给出了影响DME/DMERNAV运行精度的两个重要因素,DME测距精度和两DME台站内夹角,为RNAV飞行管理系统选取满足RNAV运行规范DME和台站切换提供了可靠的判决依据.     

多新息最小二乘法辨识水下机器人动力学模型

水下机器人动力学模型辨识是水下机器人运动控制、状态监测和系统设计开发的基础.把6自由度动力学模型适当简化,给出Falcon水下机器人的动力学模型,在最小二乘算法(LS)和递推最小二乘算法(RLS)的基础上,提出基于多新总最小二乘算法(MILS)的水下机器人动力学模型辨识方法,最后给出MILS辨识算法、RLS算法和LS辨识算法仿真实验结果,证明所提算法的可行性与优越性.利用多新息最小二乘算法得到的水下机器人动力学模型参数更接近于理想参数,能够更好的描述水下机器人的动态特性,对于水下机器人的操纵与自适应控制的研究有较大的实际意义.     

基于加权最小二乘支持向量机的温室小气候建模与仿真

分析了温室小气候系统结构,采用加权最小二乘支持向量机回归方法在线建立温室小气候模型,并进行仿真研究,取得了较好的效果.最小二乘支持向量机中引入加权因子,使其回归估计对非高斯分布噪声及野点数据具有较好的鲁棒性.最后将此方法和带有智能监督级的渐消记忆递推增广最小二乘方法的在线建模及仿真结果进行了对比分析.     

An Exact Solution and its Extensions for Generalized Linear Least Squares Problems

ＡｎＥｘａｃｔＳｏｌｕｔｉｏｎａｎｄｉｔｓＥｘｔｅｎｓｉｏｎｓｆｏｒＧｅｎｅｒａｌｉｚｅｄＬｉｎｅａｒＬｅａｓｔＳｑｕａｒｅｓＰｒｏｂｌｅｍｓＬＩＵＸｉａｏｍｉｎＤｅｐｔｏｆＡｐｐｌｉｅｄＭａｔｈ．，ＢｅｉｊｉｎｇＵｎｉｖｅｒｓｉｔｙｏｆＡｅｒｏｎａ...     

基于偏最小二乘通径模型的农民工信息能力综合评价

针对农民工信息能力建立评价指标体系,利用偏最小二乘通径模型,建立了农民工信息能力PLS通径模型,并以广东省8个城市的农民工群体为例,计算分析了模型通径系数和各城市农民工信息能力的综合排名。结果表明信息运用能力、信息吸收能力和信息创新能力是影响农民工信息能力的关键因素,广州市农民工信息能力位于广东省的首位。     

无线感知网络最小二乘法定位算法的误差分析与优化

无线感知网络(WSN,wireless sensor networks)中位置信息及其位置可信度对于感知数据至关重要,目前针对WSN定位的可信度分析很少见.利用误差分析理论对最常用的最小二乘法定位算法进行理论分析,并提出一种简化误差分析算法,在给出节点预测位置同时给出定位误差范围;而且,利用误差分析对循环定位的锚点选择进行优化,能够显著提高定位精度;最后,采用模拟试验的方法对误差分析及其简化算法和优化算法的有效性进行验证.     

最小二乘支持向量机在强化学习系统中的应用

将连续状态空间下的Q学习构建为最小二乘支持向量机的回归估计问题,利用最小二乘支持向量机良好的泛化以及非线性逼近性能实现由系统状态-动作对到Q值函数的映射。为了保证计算速度以及适应Q学习系统在线学习的需要,最小二乘支持向量机的训练样本是窗式移动的,即在Q学习系统学习的同时获取样本数据并进行最小二乘支持向量机的训练。小车爬山控制问题的仿真结果表明该方法学习效率高,能够有效解决强化学习系统连续状态空间的泛化问题。     

Research for the Algorithm of Nonlinear Two Stage Least Squares Estimator

ＲｅｓｅａｒｃｈｆｏｒｔｈｅＡｌｇｏｒｉｔｈｍｏｆＮｏｎｌｉｎｅａｒＴｗｏＳｔａｇｅＬｅａｓｔＳｑｕａｒｅｓＥｓｔｉｍａｔｏｒＺＨＯＮＧＤｅｎｇｈｕａ；ＷＡＮＧＲｅｎｃｈａｏ；ＬＩＵＢａｏ；ＺＨＡＮＧＳｈｉｙｉｎｇ（ＴｉａｎｊｉｎＵｎｉｖｅｒｓｉｔｙ...     

基于最小二乘支持向量机的非线性系统建模

探讨了利用支持向量机进行非线性系统建模的方法。首先,利用相空间重构,将非线性时间数据序列映射到高维空间,以便把时间序列中蕴藏的信息充分显露出来。其次,基于最小二乘支持向量机(RLS-SVM)对系统进行建模,仿真结果表明,支持向量机具有良好的非线性建模能力和泛化能力,原始时间数据序列和重建时间数据序列相似,说明提出的算法能够有效的对非线性动态系统的时间序列进行建模。