加权最小二乘支持向量机与最小二乘问题的关系

研究了加权最小二乘支持向量机与最小二乘法的关系．证明了用加权最小二乘支持向量机作函数估计与在特征空间中用最小二乘法得到的解是一致的．加权最小二乘支持向量机选择核相当于最小二乘法选择基函数组．由此提出了采用加权最小二乘支持向量机解决最小二乘法问题的思想,保证解具有良好的推广性、鲁棒性与稀疏性．     

最小二乘双胞支持向量回归机的研究

 利用最小二乘方法和临近支持向量机(PSVM)算法,并结合双胞支持向量机(TSVR),提出了最小二乘双胞支持向量回归机(LSTSVR).作为对照,TSVR需要求解2个二次规划问题,而LSTSVR仅需求解2个线性方程组.最后利用不同的实例验证了所提算法的可行性和有效性.     

最小二乘支持向量机在人脸识别中的应用

 支持向量机(SVM)模式识别方法具备良好的分类性能和鲁棒性,在介绍了典型支持向量机与最小二乘支持向量机(LS_SVM)原理的基础上,给出最小二乘支持向量机的算法实现过程,将其应用于人脸识别当中,取得较典型支持向量机在时间上较好的效果.在OPL人脸库中的实验结果表明,基于LS_SVM的人脸自动识别系统更能适用于实时性要求较高的场合.     

一种改进的最小二乘支持向量机算法

最小二乘支持向量机是标准支持向量机的一种扩展,它是支持向量机在二次损失函数下的一种形式.它用等式约束代替不等式约束,求解过程变为解一组等式方程,避免了求解耗时的二次规划问题,但同时也丧失了标准支持向量机的稀疏性,影响了二次学习的效率.针对上述问题,本文提出了一种改进的最小二乘支持向量机增量学习方法.改进的最小二乘支持向量机算法采用自适应剪枝方法对解进行稀疏,根据每次训练得到的分类器性能来设定剪枝阚值和样本增量的大小,如果得到的分类器性能好,剪枝阈值和样本增量就大,反之,剪枝阚值和样本增量就小,从而提高了最小二乘支持向量机训练效率,解决了稀疏性问题.最后,仿真实验表明该算法方案可行.     

基于最小二乘支持向量机回归的基坑变形预测

将最小二乘支持向量机回归用于基坑变形预测.根据基坑位移的实测时间序列资料,应用最小二乘支持向量机回归建立了基坑位移与时间的关系模型.研究结果表明,最小二乘支持向量机回归用于基坑变形预测,具有较高的预测精度.与通常采用的BP神经网络相比,该方法具有预测误差小、计算快速、所需数据少等优点.     

基于最小二乘支持向量机的压印字符识别方法

将最小二乘支持向量机引入到小字符集压印字符识别中.首先介绍最小二乘支持向量机的基本原理和主要算法,然后在实验中采用最小二乘支持向量机训练软件,针对标牌上的压印字符的数字集进行仿真,同时与神经网络等其他分类方法进行比较.实验结果表明此方法的识别率较高,在小字符集识别中具有较强的实用性.     

基于最小二乘支持向量机的滤波器设计

为了改善传统方法设计滤波器的幅频响应性能,提出了基于最小二乘支持向量机的滤波器设计方法．优化选择最小二乘支持向量机参数,以理想滤波器的幅度响应作为学习样本,通过最小二乘支持向量机训练,使得实际滤波器的幅度响应逼近理想滤波器的幅度响应．仿真结果表明,由该方法设计的一维和二维滤波器性能接近于理想滤波器．     

构造稀疏最小二乘支持向量机的网络入侵检测模型

从最小二乘支持向量机的稀疏表达出发,构建高效的基于稀疏最小二乘支持向量机的网络入侵检测模型,提出了一种通过基于核空间近似策略的有效低秩逼近来有效减小原始训练样本集中的支持向量数来实现最终模型的稀疏表达.以MIT KDD99数据集为基础,对所提出方法进行有效性验证,并与利用剪枝策略通过递归过程中不断减少模型中支持向量个数的稀疏化方法、基本最小二乘支持向量机以及标准支持向量机方法的性能进行对比.结果表明:基于核空间近似的最小二乘支持向量机稀疏化与标准最小二乘支持向量机相当;此外稀疏最小二乘支持向量机能够提高入侵检测响应速度.     

直觉模糊最小二乘支持向量机

将直觉模糊集的相关理论引入到最小二乘支持向量机中, 建立了直觉模糊最小二乘支持向量机的数学模型, 并对模型的求解过程进行推导. 为验证该算法的有效性, 在人工数据集和标准数据集上进行仿真实验. 实验结果表明, 直觉模糊最小二乘支持向量机算法可降低分类时样本中噪声和野点对分类效果的影响.     

基于优化最小二乘支持向量机的数控机床热误差建模分析

数控机床热误差是降低加工精度的主要因素之一.针对热误差建模问题, 结合布谷鸟算法的随机莱维飞行机制和最小二乘支持向量机结构风险最小化与线性规划等优点, 提出基于布谷鸟算法优化最小二乘支持向量机的热误差建模方法.在最小二乘支持向量机将低维非线性问题转化为高维线性问题时, 构建了混合核函数.同时,采用布谷鸟算法对最小二乘支持向量机惩罚因子γ、核宽度参数σ和混合核权值λ进行了优化.以GMC2000A机床为实验对象, 分别对热误差数据进行了聚类分析和建模分析.通过误差预测对比分析得出结论, 基于布谷鸟算法优化混合核最小二乘支持向量机建立的误差模型取得了良好的预测效果, 且明显优于BP神经网络模型和未优化的最小二乘支持向量机模型的预测效果.     

KPCA-KPLS方法在pH中和过程建模中的应用

针对化工过程中的具有严重非线性、不确定性、时变性的复杂pH中和过程系统建模问题,提出一种基于核主元分析(KPCA)与核偏最小二乘(KPLS)相结合的建模方法.在高维特征空间内,该方法通过KPCA有效地提取输入数据的非线性主元,利用KPLS方法将输入变量投影在潜在变量上,再用输入与输出变量之间的协方差信息提取潜在特征建立pH中和过程模型.为验证其有效性,将KPCA-KPLS方法应用到弱酸强碱中和过程、强酸强碱中和过程实例中,并与核偏最小二乘、核主元分析_支持向量机(KPCA-SVM)、核极限学习机(KELM)、极限学习机(ELM)、最小二乘支持向量机(LSSVM)、SVM等方法进行比较.实验结果表明:KPCA-KPLS方法具有很高的动态建模精度.     

基于特征联合和偏最小二乘降维的手势识别

针对以往手势识别研究中更关注识别率而弱化实时性的情况,首次将偏最小二乘降维思想引入手势识别领域,提出一种基于特征联合和偏最小二乘降维的手势识别方法。首先进行手势分割,在此基础上提取手势样本的梯度方向直方图和局部二值模式特征,并将二者进行联合。然后采用偏最小二乘法对手势联合特征进行降维,并将降维后的手势训练样本特征输入到支持向量机中进行分类训练。最后用训练好的支持向量机对降维后的手势测试样本进行识别测试。基于Jochen Triesch手势库及自制手势库的实验结果表明,同已有方法相比,本文所提方法在取得较高手势识别率的同时也取得了较好的实时性。     

基于最小二乘孪生支持向量机的图像拼接检测

图像篡改最基础的手段便是拼接,为了恢复人们对数字图像的信任,图像拼接检测变得非常重要.论文提出一种基于最小二乘孪生支持向量机的图像拼接检测算法,算法对待测图像进行对偶数复小波变换以获取不同的子带图像,对子带图像提取其马尔科夫状态转移概率矩阵,将该概率矩阵作为拼接特征向量送入最小二乘孪生支持向量机训练以获取预测模型,最后根据该模型来判断待测图像是否经过拼接.在哥伦比亚大学无压缩图像拼接检测评估库和哥伦比亚大学图像拼接检测评估库上分别进行实验,与传统算法做对比,实验结果充分证明论文所提算法具有更高的拼接检测准确率.     

基于改进自适应粒子群算法的混合核函数最小二乘支持向量机大坝变形预测

针对大坝变形影响因素的复杂性以及监测数据的非线性、随机波动大和预测难度大等问题,提出一种改进自适应粒子群(particle swarm,PSO)算法的混合核函数最小二乘支持向量机(least squares support vector machine,LSSVM)模型,实现了大坝水平变形的时间序列预测方法.基于Mercer理论,将多项式核函数和高斯核函数进行线性组合,构建混合核函数,作为LSSVM模型的核函数,并以特征因子与大坝变形间的相互联系为基础,采用动态自适应惯性权重的PSO算法,对混合核函数的LSSVM模型进行参数寻优,以确保建立最佳LSSVM预测模型.将模型应用于丰满大坝,并与传统多项式核函数和传统高斯核函数的LSSVM模型进行对比仿真实验,对所提方法的有效性和准确性进行验证评估.结果表明,该模型在预测精度上有了明显提高,预测性能尤佳.可见改进自适应粒子群的混合核函数LSSVM模型对大坝变形的时间序列预测有良好的实用价值.     

基于改进最小二乘支持向量机的导弹备件消耗预测

在系统分析武器装备备件预测方法研究现状和导弹备件消耗特点的基础上,提出把粗糙集、熵权法、自适应粒子群优化算法与加权最小二乘支持向量机的组合预测模型应用于导弹备件消耗预测的构想。首先阐述了粗糙集、信息熵、自适应粒子群优化算法和加权最小二乘支持机的基本原理,并改进了自适应粒子群优化算法的搜索方式和最小二乘支持向量机的加权方法;然后建立了基于粗糙集、熵权法和自适应粒子群优化加权最小二乘支持向量机的导弹备件消耗预测模型,并分析了其实现过程。实例结果表明,所建立的组合预测模型在进行导弹备件消耗预测时具有较高的精度和重要的实用价值。     

一种基于支持向量机的PCA分析方法

提出一种更简洁的用于主要成分分析 (PCA)及其非线性分析的公式 .给出一个含有规则化项的原始权空间的约束最大优化问题 ,应用核技巧来解决其对偶问题 .该公式同最小二乘支持向量机 (LS SVM )分类器相似 .遵循常规的SVM方法 ,将输入空间的数据映射到高维特征空间 ,然后使用核技巧 ,利用主对偶约束最大优化来解释线性和非线性PCA分析问题 .其优点在于对偶问题适用于高维输入空间 ,而原始问题在N很大时能被更好地解决 .     

自适应加权最小二乘支持向量机的空调负荷预测

为了提高建筑空调负荷的预测精度,在分析空调负荷主要影响因素的基础上提出了一种基于自适应加权最小二乘支持向量机(AWLS-SVM)的建筑空调负荷预测方法。该方法根据预测误差的统计特性,采用基于改进正态分布加权规则,自适应地赋予每个建模样本不同的权值,以克服异常样本点对模型性能的影响。建模过程中采用粒子群优化(PSO)算法对模型参数进行优化,以进一步提高模型预测精度。基于DeST模拟数据将AWLS-SVM方法应用于南方地区某办公建筑的逐时空调负荷预测中,并与径向基神经网络(RBFNN)模型、LS-SVM模型及WLS-SVM模型作比较,其平均预测绝对误差分别降低了51.84%、13.95%和3.24%,并进一步基于实际空调负荷数据将该方法应用于另一办公建筑的逐日空调负荷预测中。预测结果表明:AWLS-SVM预测的累积负荷误差为4.56MW,亦优于其他3类模型,证明了AWLS-SVM具有较高的预测精度和较好的泛化能力,是建筑空调负荷预测的一种有效方法。     

基于自适应粒子群参数优化的最小二乘支持向量机用电量预测模型

为应对当前复杂非线性的宏观经济形势与电力消耗情况,本文提出了一种自适应粒子群算法改进的最小二乘支持向量机负荷预测模型。根据粒子群中粒子的成熟程度对其进行分类,对不同类别的粒子分别采取不同的位置更新方式,可以保持粒子种群多样性,避免造成局部最优。利用自适应粒子群算法优化最小二乘支持向量机的模型参数,经过实证分析能够一定程度提高模型的预测精度,可以为中长期负荷预测工作提供一些的参考。     

基于核主成分分析与最小二乘支持向量机结合处理时间序列预测问题

探讨了最小二乘支持向量机时间序列预测的方法,提出了用核主成分分析提取主元,然后用最小二乘支持向量机进行预测.通过实验表明,这种方法得到的效果优于没有特征提取的预测.同时与主成分分析提取特征相比,用核主成分分析效果更好.