模糊支持向量机与模糊模拟

研究当训练点的输出为模糊数时，支持向量机的构建问题。首先将模糊分类问题转化为求解带有模糊决策的机会约束规划问题。利用模糊模拟和基于模糊模拟的遗传算法，求解带有模糊决策的机会约束规划。在此基础上，构造模糊支持向量机(算法)。最后，给出显示模糊支持向量机特点的模糊支持向量集的定义。     

模糊偏最小二乘支持向量机的应用研究

基于偏最小二乘回归法和模糊隶属度函数,提出了一种模糊偏最小二乘支持向量机.传统最小二乘支持向量机引入模糊加权系数后,可以根据训练样本点的情况调整折衷系数,有效地提高了最小二乘支持向量机的抗噪性能.同时利用偏最小二乘回归法,克服了求解线性回归方程中自变量向量间的多重相关性问题.利用 sinc 函数对该建模方法进行了测试,并进一步对铜转炉吹炼时间的预测问题进行了仿真研究.仿真结果表明,该建模方法具有预测准确、跟踪性能好的优点.     

基于v-支持向量回归机的盲均衡算法

盲均衡可以看作模式分类问题,每一类由信源字符表的可能输出定义.由于支持向量回归机具有优良的泛化性能,提出了一种基于v-支持向量回归机的盲均衡算法,并且利用加权最小二乘方法求解v-支持向量回归机.计算机仿真结果表明提出的盲均衡算法具有计算复杂度低、适于实际应用的特点.     

SVR在混沌时间序列预测中的应用

支持向量机是一种基于统计学习理论的新颖的机器学习方法，该方法已广泛用于解决分类和回归问题。将支持向量回归算法应用于混沌时间序列预测中，并同BP网络及RBF网络的预测结果进行了比较分析。仿真实验表明，支持向量回归方法具有很好的泛化能力和一定的噪声容忍能力。     

基于支持向量机的逆动力学模型辨识及应用

建立系统逆动力学过程模型已经成为许多非线性系统控制问题研究与实现中的关键问题。该文应用支持向量机(SVM)回归方法实现了对热工对象的逆动力学过程在线辨识,并通过三个典型的仿真算例对基于SVM的非线性系统逆动力学过程模型的有效性进行了考察。仿真结果表明,基于SVM的逆动力学过程模型不仅具有较高的辨识精度,同时还具有较为理想的泛化性能和在线跟踪能力;利用所建立的系统逆动力学过程模型能够获得恰当的控制作用,保证系统的输出按照给定的轨迹达到设定值。     

基于压缩感知的多核稀疏最小二乘支持向量机

为了提高稀疏最小二乘支持向量机对高维、异构数据的泛化性能,提出新型的基于压缩感知的稀疏多核最小二乘支持向量机算法。首先根据压缩感知理论,用正交匹配追踪算法对最小二乘支持向量机的支持向量进行稀疏化,再利用线性多核扩展法求出新的核函数矩阵。将新的核矩阵应用到最小二乘支持向量机,得到稀疏多核最小二乘支持向量机的解,用稀疏的支持向量实现函数回归。理论分析与数据实验对比结果表明该模型对于高维、异构数据能够更快更准确地进行训练,大大提高了模型的泛化能力和运算速度。     

一类快速模糊支持向量机

由H.P.Huang、C.F.Lin等人和T.Inoue,S.Abe等人提出的两类模糊支持向量机是两种类型的改进支持向量机,分别克服了过学习问题和减少了多类问题分类时存在的不可分区域。如何处理异常数据和加速训练大规模数据集是支持向量机中的急需解决的两个问题。针对这两个问题,提出了一类将两类模糊支持向量机集成的快速模糊支持向量机。训练时,根据每类数据与其类中心的距离,定义隶属函数,以加大对容易被错分样本的惩罚,利用合适的参数λ选取了每类数据中隶属度值较大的边缘数据构造模糊支持向量机,测试时,利用1-a-1和模糊支持向量机的决策函数判定未知样本的类别。含有异常数据的两类问题和机器学习数据集中手写数字识别的多类问题的实验结果,验证了提出的快速模糊支持向量机减少了训练时间同时提高了学习机的推广能力。     

最小二乘支持向量机的预优共轭梯度法

针对Suyken等人提出的最小二乘支持向量机的共轭梯度法在输入样本的个数较大时,需要求解高阶线性方程组这一缺陷,提出了一种新算法。该算法利用分块矩阵的思想将该高阶线性方程组系数矩阵降阶,为了提高收敛速度,克服数值的不稳定性,采用条件预优共轭梯度法求解低阶的线性方程组。通过仿真试验证明用本文方法训练最小二乘支持向量机比共轭梯度法的训练速度提高了将近一倍。     

用于回归估计的最小二乘广义支持向量机

提出了一种用于回归估计的最小二乘广义支持向量机.这种最小二乘广义支持向量机的核函数同标准的支持向量机相比没有或者只有很少的限制.将这种用于回归估计的最小二乘广义支持向量机表示成标准的二次规划(QP)问题,采用基于矩阵分裂的超松弛法同投影梯度法相结合的算法来解这一QP问题.根据超松弛法的特点,这一算法可以处理大量数据的情形.     

一种集成logistic回归与支持向量机的判别分析规则

支持向量机的输出结果可以通过几何分析划分为六个连续的区间,并求得各个区间内训练样本的错误分类频率.本文以二分判别为例,将每个区间上的误分频率与logistic回归对预测样本的输出概率进行比较,提出了一种集成logistic回归与支持向量机的判别分析规则,并采用支持向量机效果验证的基准数据集进行实证分析.实证结果验证了所提出方法的有效性.     

改进的稀疏孪生支持向量回归算法

相比传统支持向量机,尽管孪生支持向量机具有较快的计算速度,然而不具备结构风险最小化和稀疏性,易产生过拟合现象。针对这一问题,提出了一种具有稀疏性的改进的孪生支持向量回归算法。通过在目标函数中加入正则项将结构风险最小化原则引入到孪生支持向量回归算法中,改善了算法的回归性能|同时选择训练样本的一个子集代替全部的训练样本,使核函数由方阵转变成矩形阵,从而使算法具有稀疏性,有效减少运算时间。仿真结果证明了该算法的有效性。     

Novel algorithm for constructing support vector machine regression ensemble

1 .INTRODUCTIONRecently , support vector machine (SVM)[1]is anovel and promising technique in the fields of ma-chine learning and classification or regression pre-diction accompanying artificial neural network.InSVM,several learning algorithms can be obtainedgiven different inner-product functions named ker-nel functions ,such as polynomial approach,Bayes-ian classification、radial basic function method、multilayer perceptron network[2]. By now,it hasbeen successfully applied in many ar…     

基于SVM的高技术装备制造业供应风险预测模型

通过对高技术装备制造业与供应商合作中供应风险的相关因素进行识别,确定了供应风险预测的指标体系。运用支持向量机(support vector machine, SVM)等数据挖掘方法和Libsvm(a library for support vector machine)技术建立了供应风险的预测模型。案例研究表明,预测模型的均方误差、平均差、整群剩余系数和确定系数等评价指标皆显现出较好的模拟效果,且系统误差不显著。预测模型在高技术装备制造企业供应风险管理的实践中具有较好的适用性和准确度。     

Local prediction of the chaotic fh-code based on LS-SVM

Support vector machine （SVM） is powerful to solve some problems such as nonlinear classification, function estimation and density estimation. To consider the chaotic fh （frequency hopping）-code＇s characters in chaotic dynamic system, the forecasting model of the support vector machine in combination with Takens＇ delay coordinate phase reconstruction of chaotic times is established and the least squares model for large-scale problems is used in local training for this model. Finally, a fh-code series generated by Logistic-Kent mapping is applied to verify the local prediction model. Simulation results show that the high accuracy and fault tolerant SVM model has an excellent performance in predicting the fh code, with a very low mean square error and a high relative coefficient.     

A sparse algorithm for adaptive pruning least square support vector regression machine based on globalrepresentative point ranking

Least square support vector regression(LSSVR)is a method for function approximation,whose solutions are typically non-sparse,which limits its application especially in some occasions of fast prediction.In this paper,a sparse algorithm for adaptive pruning LSSVR algorithm based on global representative point ranking(GRPR-AP-LSSVR)is proposed.At first,the global representative point ranking(GRPR)algorithm is given,and relevant data analysis experiment is implemented which depicts the importance ranking of data points.Furthermore,the pruning strategy of removing two samples in the decremental learning procedure is designed to accelerate the training speed and ensure the sparsity.The removed data points are utilized to test the temporary learning model which ensures the regression accuracy.Finally,the proposed algorithm is verified on artificial datasets and UCI regression datasets,and experimental results indicate that,compared with several benchmark algorithms,the GRPR-AP-LSSVR algorithm has excellent sparsity and prediction speed without impairing the generalization performance.     

New approach to training support vector machine

1.INTRODUCTIONThe support vector machine(SVM)[1]has been suc-cessful as a high-performance classifier in several do-mains including pattern recognition,data mining,and bioinformatics.It has strong theoretical founda-tions and good generalization capability.Ali mitationof the SVMdesign algorithm,particularly for largedata sets,is the need to solve a quadratic program-ming(QP)probleminvolving a densen×nmatrix,wherenis the number of points in the data set.Since QProutines have highcompl…