支持向量机回归与ν-支持向量机分类解的关系

讨论了支持向量机回归与v-支持向量机分类解的关系,证明了对给定的v-支持向量机分类问题的解,通过选择适当参数,存在一个支持向量机回归问题的解与它等价．     

支持向量机回归与分类解的关系

将线性Lp(p=1)和Lε损失函数下的支持向量机回归与分类解的关系及支持向量机回归与υ-支持向量机分类解的关系,推广到非线性Lp(p≥1)和Lε损失函数上,得到这些解关系更一般的形式.     

支持向量回归机二阶充分条件理论研究

支持向量回归机是数据挖掘的新方法。针对支持向量回归机所对应的回归问题给出了其解二阶充分条件成立的理论结果,结果表明支持向量回归机优化问题的解在一个很弱假设下即可满足二阶充分性;该理论为支持向量回归机优化问题解的灵敏度分析奠定了一定基础。     

v-支持向量机的收敛性

支持印量机是在统计学习理论最新发展的基础上产生的一个崭新的学习系统．支持向量机算法通过支持向量控制学习机器的容量．为了控制支持向量的数目，Schφlkopf等提出了v-支持向量机．研究了v-支持向量机的若干性质，并给出了相应算法的收敛性。     

基于支持向量机的遥感图像分类研究

支持向量机(Support Vector Machine,SVM)是一种基于统计学习理论的新型机器学习算法.通过解算最优化问题,在高维特征空间中寻找最优分类超平面,从而解决复杂数据的分类及回归问题.将支持向量机理论应用到遥感图像分类的研究还处在初级阶段,传统分类算法应用于遥感图像分类存在运算速度慢、精度比较低和难以收敛等问题.从支持向量机基本理论出发,建立了一个基于支持向量机的遥感图像分类器.用遥感图像数据进行实验,并将结果与其它方法的结果进行了比较分析.实验结果表明,利用SVM进行遥感图像分类的精度明显优于神经网络算法和最大似然算法分类精度.     

基于支持向量机的模糊回归估计

支持向量机是在统计学习理论上发展起来的新一代学习方法,该方法在模式识别、回归估计、概率密度函数估计等方面都获得了较好的应用.基于含有不确定性信息的问题,引入了模糊支持向量机.针对回归估计问题,利用支持向量机的基本思想提出单参数约束下的支持向量机模糊线性回归模型,并给出模型的解,实验结果表明,与其它的模糊回归估计相比该方法得到了更加满意的最优解并且缩短了运行时间.     

直觉模糊支持向量机

传统的模糊支持向量机难以区分具有相同隶属度的稀疏样本点和稠密样本点,进而可能降低分类精度.为了解决此类问题,利用直觉模糊集和模糊支持向量机,构建了直觉模糊支持向量机.仿真实验结果表明:与传统的支持向量机和模糊支持向量机相比,直觉模糊支持向量机的分类结果更精确.     

基于样本权重的v-支持向量机

v-支持向量机克服了传统支持向量机选取参数的困难问题,然而,该方法并未考虑不同样本在训练中的作用,从而导致该方法对噪声或孤立点具有较强的敏感性,使得训练易出现过拟合现象.为了解决这些问题,针对不同样本的作用,通过引入样本的权重,获得了一种改进的v-支持向量机模型,使用Lagrange方法对该模型求解,获得了一种支持向量机分类器.实验中选取来自于UCI数据库的10个标准数据集,针对2种不同的确定样本权重的方法,验证了提出方法的有效性,并与C-SVM和v-SVM进行了性能比较.     

用光滑的支持向量机解回归问题

解回归问题通常采用平方损失函数,传统方法在函数类的选择上是一个难点。采用ε-不敏感损失函数,用光滑的支持向量机解回归问题。数值实验表明,只需选一个核函数就可较好地解决这个难点,使支持向量的个数明显少于样本点的个数,简化了回归函数的表达式,回避了传统回归方法选择函数类的困难。所以,光滑支持向量回归机是解决回归问题的一个有效方法。     

边界向量下的支持向量机算法

针对传统支持向量机中存在原始数据量过大导致训练速度太慢的问题,同时考虑到非支持向量对支持向量机的训练性能无影响,且影响支持向量机性能的支持向量往往位于边界的特点,提出一种提取边界向量的支持向量机算法.数值实验表明:改进算法在保证支持向量机分类能力的前提下,有效提高了支持向量机的分类效率.     

线性支持向量分类机的平凡解

对二类分类问题,在线性可分或近似线性可分情况下,对线性支持向量分类机的平凡解进行了讨论,得出了解为平凡解的充要条件,说明了其几何意义,指出了避免出现这一现象的解决办法.该充要条件表明:对给定的训练集T,最优解是否为平凡解取决于训练集T的样本点在空间的分布位置,与惩罚参数C值的选取无关.一旦出现平凡解,线性支持向量分类机将会失效.为解决这一问题,可通过增加或减少训练集T中的样本点来实现.     

分类大规模数据的核向量机方法研究

标准的支持向量机算法需要求解二次规划问题,因此,在处理大规模样本的时候,求解二次规划问题的时间复杂度和空间复杂度就成为支持向量机应用的一个瓶颈.核向量机将传统支持向量机中的二次规划问题转化为求解最小包围球问题,从而显著降低了二次规划的复杂程度.使用核向量机对大规模数据进行分类,所选用的数据样本数均超过2000,并与标准的支持向量机作了对比实验结果表明:核向量机在处理大规模数据分类时,比标准的支持向量机计算复杂度低,训练速度快,耗费空间少.     

Support vector machine based on chaos particle swarm optimization for fault diagnosis of rotating machine

The performance of the support vector machine models depends on a proper setting of its parameters to a great extent. A novel method of searching the optimal parameters of support vector machine based on chaos particle swarm optimization is proposed. A multifault classification model based on SVM optimized by chaos particle swarm optimization is established and applied to the fault diagnosis of rotating machines. The results show that the proposed fault classification model outperforms the neural network trained by chaos particle swarm optimization and least squares support vector machine, and the precision and reliability of the fault classification results can meet the requirement of practical application. It indicates that chaos particle swarm optimization is a suitable method for searching the optimal parameters of support vector machine.     

基于优化最小二乘支持向量机的数控机床热误差建模分析

数控机床热误差是降低加工精度的主要因素之一.针对热误差建模问题, 结合布谷鸟算法的随机莱维飞行机制和最小二乘支持向量机结构风险最小化与线性规划等优点, 提出基于布谷鸟算法优化最小二乘支持向量机的热误差建模方法.在最小二乘支持向量机将低维非线性问题转化为高维线性问题时, 构建了混合核函数.同时,采用布谷鸟算法对最小二乘支持向量机惩罚因子γ、核宽度参数σ和混合核权值λ进行了优化.以GMC2000A机床为实验对象, 分别对热误差数据进行了聚类分析和建模分析.通过误差预测对比分析得出结论, 基于布谷鸟算法优化混合核最小二乘支持向量机建立的误差模型取得了良好的预测效果, 且明显优于BP神经网络模型和未优化的最小二乘支持向量机模型的预测效果.     

支持向量机在射频功率器件建模中的应用

针对现有射频功率器件建模方法的不足,运用支持向量机对射频功率器件进行建模.通过软件仿真对比了支持向量机和神经网络的不同结果,得出支持向量机建立的模型精确度更高,更适合小样本条件下的建模.并且针对实际测试中出现的特殊情况,提出引入领域知识的方法,将散射函数具有的约束条件同支持向量机结合,使得支持向量机具有相关领域知识的支撑.比较了原始和领域知识支持向量机建模的不同结果,得出领域知识支持向量机在该种情况下具有更好的模型精度.     

一个广义三次样条光滑半监督支持向量机

研究半监督支持向量机分类优化模型的非光滑问题。建立了光滑半监督支持向量机模型,采用广义三弯矩法导出零点二阶光滑的广义三次样条函数,并以此逼近半监督支持向量机优化中的非光滑部分。构造出基于上述样条函数的具有一阶光滑的半监督支持向量机,从而可以用优化中的光滑算法来求解该模型。分析了广义三次样条函数逼近对称铰链损失函数的逼近精度,证明了新模型的收敛性。数值实验显示新模型有较好的分类效果。     

支持向量机的最大间隔的一个估计

在分析支持向量机及其最大间隔法的基础上，给出了支持向量机的最大间隔的一个重要下界估计值．这个性质对于支持向量机的理论研究和应用都有重要意义。     

Support vector machine applied in QSAR modelling

Support vector machine （SVM）, partial least squares （PLS）, and Back-Propagation artificial neural network （ANN） were employed to establish QSAR models of 2 dipeptide datasets. In order to validate predictive capabilities on external dataset of the resulting models, both internal and external validations were performed. The division of dataset into both training and test sets was carried out by D-optimal design. The results showed that support vector machine （SVM） behaved well in both calibration and prediction. For the dataset of 48 bitter tasting dipeptides （BTD）, the results obtained by support vector regression （SVR） were superior to that by PLS in both calibration and prediction. When compared with BP artificial neural network, SVR showed less calibration power but more predictive capability. For the dataset of angiotensin-converting enzyme （ACE） inhibitors, the results obtained by support vector machine （SVM） regression were equivalent to those by PLS and BP artificial neural network. In both datasets, SVR using linear kernel function behaved well as that using radial basis kernel function. The results showed that there is wide prospect for the application of support vector machine （SVM） into QSAR modeling.     

稀疏最小二乘支持向量机及其应用

提出基于特征向量选择(feature vector selection,FVS)的稀疏最小二乘支持向量机(sparse least squares support vector machine,SLS-SVM)模型,解决最小二乘支持向量机(least squares support vector machine,LS-SVM)稀疏化问题。采用FVS在特征空间构建特征向量子集,对训练样本进行稀疏线性重构;将稀疏化的特征向量作为支持向量,从而实现对LS-SVM稀疏化建模。将SLS-SVM模型进行弓网系统的仿真对比实验,结果表明SLS-SVM模型在取得高预报精度的同时,可实现支持向量的高度稀疏化,从而加快模型预报速度。     

基于优化支持向量机的网络化制造安全检测

研究适用于小样本模式识别的新的通用学习方法最小二乘支持向量机,提出一种优化LS-SVM参数选择的方法.建立网络化制造安全检测多元分类模型,并进行仿真研究.结果表明:优化支持向量机具有优秀的小样本数据学习能力和预测能力,将其用于网络化制造安全检测是有效的、可行的.