一种改进的最小二乘支持向量机算法

最小二乘支持向量机是标准支持向量机的一种扩展,它是支持向量机在二次损失函数下的一种形式.它用等式约束代替不等式约束,求解过程变为解一组等式方程,避免了求解耗时的二次规划问题,但同时也丧失了标准支持向量机的稀疏性,影响了二次学习的效率.针对上述问题,本文提出了一种改进的最小二乘支持向量机增量学习方法.改进的最小二乘支持向量机算法采用自适应剪枝方法对解进行稀疏,根据每次训练得到的分类器性能来设定剪枝阚值和样本增量的大小,如果得到的分类器性能好,剪枝阈值和样本增量就大,反之,剪枝阚值和样本增量就小,从而提高了最小二乘支持向量机训练效率,解决了稀疏性问题.最后,仿真实验表明该算法方案可行.     

最小二乘支持向量机的短期负荷多尺度预测模型

提出了一种改进的电力负荷短期预测小波网络模型，该模型采用最小二乘支持向量机(LS-SVM)实现了小波分解系数的多尺度组合预测．首先使用多孔算法对短期负荷序列进行小波分解，得到指定尺度下的近似系数和相关尺度下的小波系数，然后利用LS-SVM对预测点的系数进行多尺度组合预测，通过小波重构可以求得相应的预测值．结合某地区短期负荷需求数据进行了仿真试验，研究了预测点与历史记录数据的相关关系．预测结果表明，使用本模型进行短期负荷预测同比传统小波神经网络方法可以获得更好的预测精度，同时LS-SVM的引入大大提高了模型的可计算性．     

尺度核函数在最小二乘支持向量机信号逼近中的应用

针对目前常采用高斯核的最小二乘支持向量机(LS-SVM)不能对信号多尺度逼近的问题,提出一种采用尺度核的LS-SVM.首先,在再生核希尔伯特空间的框架下构建了一种点积型的尺度核函数,它满足Mercer条件,并具备平移和扩张的特性,是尺度子空间的一组完备的基.然后,利用拉格朗日乘子法求解LS-SVM逼近的约束规划问题.在结构风险最小化逼近准则下获得了逼近系数.与传统核函数相比,采用尺度核的LS-SVM可以实现多尺度逼近任意信号,且应用时仅需对尺度参数调节选优,简便、实用.实验结果表明:所提算法的逼近性能与小波核性能相当;与传统的高斯核函数相比,其均方根误差提高8.4%.     

最小二乘支持向量机在人脸识别中的应用

 支持向量机(SVM)模式识别方法具备良好的分类性能和鲁棒性,在介绍了典型支持向量机与最小二乘支持向量机(LS_SVM)原理的基础上,给出最小二乘支持向量机的算法实现过程,将其应用于人脸识别当中,取得较典型支持向量机在时间上较好的效果.在OPL人脸库中的实验结果表明,基于LS_SVM的人脸自动识别系统更能适用于实时性要求较高的场合.     

最小二乘双胞支持向量回归机的研究

 利用最小二乘方法和临近支持向量机(PSVM)算法,并结合双胞支持向量机(TSVR),提出了最小二乘双胞支持向量回归机(LSTSVR).作为对照,TSVR需要求解2个二次规划问题,而LSTSVR仅需求解2个线性方程组.最后利用不同的实例验证了所提算法的可行性和有效性.     

基于最小二乘支持向量机的人脸识别算法

通过计算机对人脸进行分析,从而确定身份的技术统称为人脸识别,其具体内容包括图像预处理、特征选择和提取、分类。首先介绍了支持向量机和最小二乘支持向量机的基本思想和数学模型,推导了最小二乘支持向量机的算法步骤,在对人脸图像进行预处理的基础上,采用奇异值分解扩展算法提取人脸特征,然后再采用上述算法对人脸图像进行分类。通过实验可知本文中的算法可以对人脸图像进行有效分类,对解决小样本分类问题是有效的、可行的。     

直觉模糊最小二乘支持向量机

将直觉模糊集的相关理论引入到最小二乘支持向量机中, 建立了直觉模糊最小二乘支持向量机的数学模型, 并对模型的求解过程进行推导. 为验证该算法的有效性, 在人工数据集和标准数据集上进行仿真实验. 实验结果表明, 直觉模糊最小二乘支持向量机算法可降低分类时样本中噪声和野点对分类效果的影响.     

最小二乘支持向量机的一个快速近似算法

最小二乘支持向量机(Least Squares Support Vector Machine,LS-SVM)已成功地应用于许多分类问题上,但由于其解不具有稀疏性,该方法无法应用到大数据集的学习与测试上.提出了LS-SVM的一个快速近似HBILS-SVM算法.该算法结合Backfitting与Invfitting法则迭代增加或减少一个支持向量,这一过程重复直到满足给定的停止条件,从而构建出最终的分类决策函数.对比已有的稀疏化算法,HBILS-SVM算法的计算复杂度低,解更加稀疏,且支持向量更具有全局最优性.数值模拟试验表明:HBILS-SVM算法能在取得同样的泛化性能的前提下使得分类器更加稀疏.     

基于最小二乘支持向量机的教学质量评价模型

教学质量评价是教育教学中重要的工作,评价工作的核心是建立评价模型。本文利用最小二乘支持向量机这种新的机器学习工具,建立了教学质量评价模型,并与BP神经网络建模比较,分析表明模型在泛化能力、收敛速度和最优性均优于神经网络模型。将模型用于教学质量评价中,既克服了专家在评价过程中的主观因素,又得到了满意的评价结果,具有广泛的适用性。     

基于最小二乘支持向量机的滤波器设计

为了改善传统方法设计滤波器的幅频响应性能,提出了基于最小二乘支持向量机的滤波器设计方法．优化选择最小二乘支持向量机参数,以理想滤波器的幅度响应作为学习样本,通过最小二乘支持向量机训练,使得实际滤波器的幅度响应逼近理想滤波器的幅度响应．仿真结果表明,由该方法设计的一维和二维滤波器性能接近于理想滤波器．     

基于最小二乘支持向量机的压印字符识别方法

将最小二乘支持向量机引入到小字符集压印字符识别中.首先介绍最小二乘支持向量机的基本原理和主要算法,然后在实验中采用最小二乘支持向量机训练软件,针对标牌上的压印字符的数字集进行仿真,同时与神经网络等其他分类方法进行比较.实验结果表明此方法的识别率较高,在小字符集识别中具有较强的实用性.     

A Novel Soft Sensor Modeling Approach Based on Least Squares Support Vector Machines

Artificial Neural Networks (ANNs) such as radial basis function neural networks (RBFNNs) have been successfuUy used in soft sensor modeling. However, the generalization ability of conventional ANNs is not very well. For this reason, we present a novel soft sensor modeling approach based on Support Vector Machines (SVMs). Since standard SVMs have the limitation of speed and size in training large data set, we hereby propose Least Squares Support Vector Machines (IS_ SVMs) and apply it to soft sensor modeling. Systematic analysis is performed and the result indicates that the proposed method provides satisfactory performance with excellent approximation and generalization property. Monte Carlo simulations show that our soft sensor modeling approach achieves performance superior to the conventional method based on RBFNNs.     

基于LS-SVM的无人机费用预测

无人机费用预测是在装备研制设计阶段就必须考虑的重要问题。针对无人机费用预测小样本、具有不确定性等特点,提出了基于最小二乘支持向量机(LS-SVM,Least Squares Support Vector Machines)的无人机费用预测模型,并应用于研制费用、维修保障费用预测。应用结果表明,LS-SVM具有较高的费用预测精度。     

基于最小二乘支持向量机的非线性通用模型自适应控制

将模型参考自适应控制方法应用到基于最小二乘支持向量机的通用模型控制策略中,将非线性过程模型应用逆系统的方法可以在控制算法中直接嵌入过程模型,从而克服了通用模型控制器要求过程一阶微分模型应该有显式解的局限性,保证了通用模型控制策略的可实现性.另一方面,加入模型参考自适应环节,提高了该控制器的实时性和鲁棒性,其参数具有明显的物理意义,参数整定方便.仿真实验结果验证了该控制策略的有效性和更好的鲁棒性.     

基于混沌最小二乘支持向量机的软测量建模

提出一种改进算法,用来解决现有最小二乘支持向量机方法在处理大规模样本软测量建模问题时出现的模型结构复杂、失去支持向量稀疏性且正规化参数和核参数难以确定等问题.对样本集进行预处理,通过计算样本间欧氏距离进行样本相似程度分析,去除样本集中1/3的样本以简化支持向量机模型结构并提高计算速度.定义了一种混沌映射构成混沌系统并分析了其遍历性.应用改进的混沌优化算法优化最小二乘支持向量机模型参数以提高模型的拟合精度和泛化能力.将改进算法用于丙烯腈收率软测量建模中,仿真实验结果表明:模型精度较高,泛化性能好,满足现场测量要求.     

基于LS-SVM的交通流组合预测模型

智能交通系统是目前世界上公认的解决城市交通拥堵问题的最佳措施,而实时准确地交通流量预测则是实现智能交通系统和智能交通诱导控制的重要依据.针对城市交通"智能运输系统"和交通流的特性,在多元线性回归、支持向量机和改进的BP神经网络等三种预测模型的基础上,提出了基于最小二乘支持向量机方法的交通流组合预测模型.实验预测结果表明该组合预测模型具有较高的预测精度,为交通流量提供了一个更好的预测模型.     

最小二乘小波支持向量机在非线性系统辨识中的应用

基于小波分解和支持向量核函数的条件,提出了一种多维允许支持向量小波核函数.该核函数不仅是近似正交的,而且适用于信号的局部分析、信噪分离和突变信号的检测,从而提高了支持向量机的泛化能力.基于小波核函数和正则化理论提出了最小二乘小波支持向量机(LS WSVM)并将LS WSVM用于非线性系统的辨识,提高了辨识效果,减少了计算量.仿真结果表明:LS WSVM在同等条件下比传统支持向量机的辨识精度提高约13 1%,因而更适合于工程应用.     

组合最小二乘支持向量机与粒子群优化算法研究黄土湿陷性

通过静力触探试验指标结合扰动黄土试样的液限、塑限及含水量等指标用最小二乘支持向量机方法进行建模,提出了静力触探试验指标和湿陷系数的非线性关系模型,并引入粒子群优化算法进行模型反演分析,确定最优参数。通过6个对比勘探点的50组试样实例应用分析,显示了最小二乘支持向量机是一种较为有效的非线性建模方法,粒子群优化算法进行模型参数优化能够保证全局最优。验证结果表明模型的精度较高,有一定的实用价值。     

基于多核对称最小二乘支持向量机的永磁同步电机混沌建模

针对永磁同步电机在一定情况下呈现混沌特性且混沌模型难以精确获得的情况,提出了一种基于多核对称最小二乘支持向量机的回归建模方法.在最小二乘支持向量机模型中增加对称性的约束条件,构成对称最小二乘支持向量机.将多核学习的方法与对称最小二乘支持向量机相结合,构造由多个基本核函数线性组合而成的新的等价核,用于建立永磁同步电机的混沌回归模型.仿真结果表明,与一般最小二乘支持向量机相比,该方法能够降低单个核函数的选择对建模精度的影响,提高混沌建模精度.