支持向量机参数选择方法研究

针对支持向量机的参数选择问题,提出了一种最优化选择方法。通过分析支持向量个数与留一法的关系以及支持向量机参数的几何意义和对推广能力的影响,该算法利用支持向量机比例来衡量参数选择时推广能力的变化,使用不同的规则更新核参数和惩罚因子,简化了参数选择的难度。理论分析证明这种最小最大化参数选择方法可以选择支持向量机参数,仿真试验验证了该方法的有效性。     

Modified L-P小波最小二乘支持向量机及在动态系统辩识中的应用

为了提高动态系统的辩识品质,提出了-种新的可调带宽多维支持向量小波核函数-modifiedL-P小波核函数.理论E证明了这种核函数是满足平移不变核定理的支持向量核函数.由于该核函数具有平移伸缩正交性,而且适用于信号的局部分析、信噪分离和突变信号的检测,从而提升了支持向量机的泛化性能.应用Modified L-P小波核作为最小二乘支持向量机的核函数,可以简化计算复杂性,提高学习效率.回归实验和动态系统辩识的仿真结果表明,Modified L-P小波核函数最小二乘支持向量机的建模和逼近能力优于基于L-P小波核函数或高斯核函数最小二乘支持向量机,更适合工程应用.     

基于GA优化小波LS-SVR的惯性器件故障预报

为了提高最小二乘支持向量回归机的性能,将Morlet小波核函数引入其中,形成了最小二乘小波支持向量回归机模型。利用待优化的参数重构模型的目标函数和约束条件,并在此基础上通过遗传算法进行参数选择,从而提高了该模型的泛化能力。将最小二乘小波支持向量回归机应用于导弹陀螺仪的漂移趋势预测,仿真实验结果表明了该方法的有效性和可行性,因此可以为陀螺仪的故障预报、可靠性辅助决策提供依据。     

基于压缩感知的多核稀疏最小二乘支持向量机

为了提高稀疏最小二乘支持向量机对高维、异构数据的泛化性能,提出新型的基于压缩感知的稀疏多核最小二乘支持向量机算法。首先根据压缩感知理论,用正交匹配追踪算法对最小二乘支持向量机的支持向量进行稀疏化,再利用线性多核扩展法求出新的核函数矩阵。将新的核矩阵应用到最小二乘支持向量机,得到稀疏多核最小二乘支持向量机的解,用稀疏的支持向量实现函数回归。理论分析与数据实验对比结果表明该模型对于高维、异构数据能够更快更准确地进行训练,大大提高了模型的泛化能力和运算速度。     

基于遗传算法的改进径向基支持向量机及其应用

通过对径向基核函数进行分析后发现:根据样本各个特征的识别能力赋予其不同大小的核参数,可以提高支持向量机的推广能力。此结论基础上,提出了一种基于遗传算法的多核参数径向基支持向量机算法,通过遗传算法最小化验证误差,实现了根据各个特征的识别能力赋予其不同大小的核参数。将该算法用于轴承故障诊断,实验结果表明,与传统支持向量机相比,多核参数径向基支持向量机具有更好的推广能力,同时,核参数的大小反映了对应特征识别能力的大小。     

SVR在混沌时间序列预测中的应用

支持向量机是一种基于统计学习理论的新颖的机器学习方法，该方法已广泛用于解决分类和回归问题。将支持向量回归算法应用于混沌时间序列预测中，并同BP网络及RBF网络的预测结果进行了比较分析。仿真实验表明，支持向量回归方法具有很好的泛化能力和一定的噪声容忍能力。     

单参数支持向量回归算法

支持向量机是一种基于统计学习理论的新颖的机器学习方法，由于其出色的学习性能，该技术已成为当前国际机器学习界的研究热点．这种方法已广泛用于解决分类和回归问题．在回归中，标准的支持向量回归算法在采用ε-不敏感损失函数时引入两个参数．为了减小学习复杂性，给出一种单参数约束下的支持向量回归算法，该算法能够减少支持向量的数量，提高程序的运行速度．最后，以一个混沌时间序列预测为例，所给方法同标准支持向量回归算法进行了比较，运行速度明显提高．     

一种新隶属度函数的模糊支持向量机

传统的模糊支持向量机隶属度函数都是基于样本与类中心距离进行设计,这对非球形分布数据很不合理.使用类内超平面代替类中心,提出基于样本到超平面距离的新隶属度函数设计方法.该方法克服传统方法的不足,降低隶属度函数对样本集几何形状的依赖,提高模糊支持向量机的泛化能力.数值实验表明,与支持向量机和三种不同隶属度函数的模糊支持向量机相比,新隶属度函数的模糊支持向量机达到最好的分类效果,而且新隶属度方法的简单易行,计算时间少.     

基于机理知识与最小二乘支持向量机的诺西肽发酵过程混合建模方法

提出了一种综合先验机理知识与最小二乘支持向量机的发酵过程混合建模方法。机理知识由两部分组成,一部分是表示发酵过程的质量平衡方程;另一部分是简单的过程参数估计模型。采用最小二乘支持向量机模型对这种简单估计模型进行校正,弥补它的不精确性。这种混合模型被应用到诺西肽发酵过程中进行生物量浓度、基质浓度与产物浓度的估计中,结果表明加入先验机理知识的混合模型增加了单纯的支持向量机模型的泛化能力。     

LS-SVM与多层前向网络的非线性回归性能比较

在阐述支持向量机(SVM)和最小二乘支持向量机(LS-SVM)的原理并比较了两者的优缺点后,将LS-SVM与多层前向网络中的两种典型网络BP网络和RBF网络,分别应用于装载机载重动态测量的非线性函数回归估计中,对这三种网络在函数逼近和泛化能力两方面的性能进行比较研究。仿真结果表明,LS-SVM在精度和泛化性能两方面做到了最好的折衷,是用于非线性函数回归分析的一种很有效的方法。     

基于LWSVR的繁忙机场航班滑出时间预测

针对繁忙机场航班滑出时间预测准确率低的问题,结合局部回归和加权支持向量回归,提出基于局部加权支持向量回归的离港航班滑出时间预测模型。该模型采用K最近邻方法,减小训练样本集容量,并为每个预测样本构建一个预测模型。通过计算训练样本与预测样本间的马氏距离,来优化加权支持向量回归中高斯核加权函数的带宽参数,获得加权系数。结合某机场离港航班数据仿真分析,实验结果表明模型在误差允许范围内的预测准确率达到83.33%,模型更加稳定。     

The Alternative Property and Vector Optimization Problem in Ordered Locally Convex Topological Vector Spaces

ＴｈｅＡｌｔｅｒｎａｔｉｖｅＰｒｏｐｅｒｔｙａｎｄＶｅｃｔｏｒＯｐｔｉｍｉｚａｔｉｏｎＰｒｏｂｌｅｍｉｎＯｒｄｅｒｅｄＬｏｃａｌｙＣｏｎｖｅｘＴｏｐｏｌｏｇｉｃａｌＶｅｃｔｏｒＳｐａｃｅｓＷＡＮＧＱｉＤｅｐａｒｔｍｅｎｔｏｆＭａｔｈｅｍａｔｉｃｓａｎ...     

改进的稀疏孪生支持向量回归算法

相比传统支持向量机,尽管孪生支持向量机具有较快的计算速度,然而不具备结构风险最小化和稀疏性,易产生过拟合现象。针对这一问题,提出了一种具有稀疏性的改进的孪生支持向量回归算法。通过在目标函数中加入正则项将结构风险最小化原则引入到孪生支持向量回归算法中,改善了算法的回归性能|同时选择训练样本的一个子集代替全部的训练样本,使核函数由方阵转变成矩形阵,从而使算法具有稀疏性,有效减少运算时间。仿真结果证明了该算法的有效性。     

基于支持向量机的智能决策方法

分析多属性决策问题及现有方法,提出了基于支持向量机的智能多属性决策方法.首先,介绍了支持向量回归估计的学习算法.其次,探讨了基于支持向量机的智能决策原理.然后,提出了多属性决策支持向量机方法的实现算法.最后给出了一个算例.     

THE SECOND-ORDER CONDITIONS OF NONDOMINATED SOLUTIONS FOR C~(1,?) GENERALIZED MULTIOBJECTIVE MATHEMATICAL PROGRAMMING

In this paper,the generalized Hessian matrix and the generalized second-order directional(?)erivative for C~(1,1)vector functions are defined.The extension of the vector second-order Taylorexpansion is derived.The second-order necessary and sufficient conditions for the local nondominatedsolutions associated with the given convex cone and polyhedral convex cone of the generalizedmultiobjective mathematical programming problem with C~(1,1)constrained functions are discussed.     

支持向量回归机预测误差校正方法

针对传统的ε不敏感支持向量回归机(ε insensitive support vector regression, ε-SVR)未充分考虑局部支持向量对回归预测结果的影响,不利于提高回归预测精度的问题,提出了一种εSVR预测误差校正方法。该方法以期望预测值与εSVR回归预测值及局部支持向量间的欧氏距离和最小为目标函数,以ε不敏感损失带(εtube)宽度为约束条件,通过利用高维特征空间中εtube边界上和边界外的局部支持向量对εSVR的回归预测值进行误差校正。利用人工产生的不同分布数据集和UCI数据集进行的仿真结果表明,与传统的εSVR相比,该文方法具有更高的预测精度和更强的泛化能力。     

Application of wavelet support vector regression on SAR data de-noising

A new filtering method for SAR data de-noising using wavelet support vector regression (WSVR) is developed.On the basis of the grey scale distribution character of SAR imagery,the logarithmic SAR image as a noise polluted signal is taken and the noise model assumption in logarithmic domain with Gaussian noise and impact noise is proposed.Based on the better performance of support vector regression (SVR) for complex signal approximation and the wavelet for signal detail expression,the wavelet kernel function is chosen as support vector kernel function.Then the logarithmic SAR image is regressed with WSVR.Furthermore the regression distance is used as a judgment index of the noise type.According to the judgment of noise type every pixel can be adaptively de-noised with different filters.Through an approximation experiment for a one-dimensional complex signal,the feasibility of SAR data regression based on WSVR is confirmed.Afterward the SAR image is treated as a two-dimensional continuous signal and filtered by an SVR with wavelet kernel function.The results show that the method proposed here reduces the radar speckle noise effectively while maintaining edge features and details well.     

Novel algorithm for constructing support vector machine regression ensemble

1 .INTRODUCTIONRecently , support vector machine (SVM)[1]is anovel and promising technique in the fields of ma-chine learning and classification or regression pre-diction accompanying artificial neural network.InSVM,several learning algorithms can be obtainedgiven different inner-product functions named ker-nel functions ,such as polynomial approach,Bayes-ian classification、radial basic function method、multilayer perceptron network[2]. By now,it hasbeen successfully applied in many ar…     

用于回归估计的最小二乘广义支持向量机

提出了一种用于回归估计的最小二乘广义支持向量机.这种最小二乘广义支持向量机的核函数同标准的支持向量机相比没有或者只有很少的限制.将这种用于回归估计的最小二乘广义支持向量机表示成标准的二次规划(QP)问题,采用基于矩阵分裂的超松弛法同投影梯度法相结合的算法来解这一QP问题.根据超松弛法的特点,这一算法可以处理大量数据的情形.