回归函数的支持向量机估计法

回归估计是统计学中基本问题之一，本文在归纳了其经典的估计方法之后，总结了支持向量机估计回归函数方法。并从理论和应用角度阐述了支持向量机的基本思想。     

多输出支持向量回归算法

支持向量机是一种基于统计学习理论的新颖的机器学习方法,由于其出色的学习性能。该技术已成为当前国际机器学习界的研究热点．这种方法已广泛用于解决分类和回归问题．在回归中。目前的研究和应用都限于单输出的情况,而实际中有很多属于多输出回归问题．针对这一点,将支持向量回归算法推广到多输出情况．仿真实例说明了该算法的可行性．     

不同准则下的线性支持向量机回归模型

由于标准的支持向量机算法需要解一个二次规划问题,当训练样本较多时,其运算速度一般很慢,为了提高运算速度,根据不同的准则,提出了基于核函数的3种支持向量回归模型.基于使残差的平方和为最小准测的模型转化为解线性方程组运算,只需要矩阵乘积与求逆运算;基于使残差的最大绝对值为最小准则和使残差的绝对值之和为最小准则的2个模型转化为线性规划问题,并给出了线性规划的对偶问题.实验结果表明了该方法的有效性,且计算量明显降低.通过实例,对高斯径向基核函数和多项式基核函数进行了比较与分析,高斯径向基核函数的精度比多项式基核函数高.对高斯径向基核函数和多项式基核函数的不同参数也进行了比较和分析.     

基于最小二乘支持向量机的信号回归

基于支持向量机核函数的条件和Sobolev Hilbert空间H1(R;a,b)的再生核,提出了一种称为最小二乘支持向量机的新的回归模型,并将该回归模型应用于信号回归的仿真实验中.实验表明,最小二乘支持向量机的核函数采用再生核是可行的,它优于常用的高斯核函数.     

基于混合核函数支持向量机的回归模型

基于支持向量机核函数的条件,将Sobolev Hilbert空间的再生核函数和Sig核函数进行有效的线性混合,给出一种新的支持向量机的混合核函数,并提出一种基于再生核的混合核函数支持向量机回归模型,该回归模型兼具了全局核函数与局部核函数的优点,且算法的复杂度被降低.仿真实验结果表明:最小二乘支持向量机的核函数采用基于再生核的混合核函数是可行的,回归的效果比单核函数可以更为细腻.     

回归函数的小波支持向量机鲁棒估计法

小波网络具有小波的多尺度特性和神经网络的自学习功能,在回归估计中得到广泛的应用,但其性能受到样本中粗差的严重影响.虽然以M-估计作为目标函数可以解决这个问题,但由于其对应的影响函数由残差绝对值决定,因此如何选择初始参数值成为一个关键问题.为此,提出回归函数的小波支持向量机鲁棒估计方法(小波支持向量回归,WSVR,Wavelet Support Vector Regression).该方法中首先提出并证明了一种新的小波支持向量机(WSVM,Wavelet Support Vector Machine),用于确定初始参数值方法,这种方法能够确定合理的网络结构和合适的初始参数值,保证含有粗差的样本点的残差绝对值较大;然后使用一种构造的M-估计作为目标函数,并提出了自适应确定阈值方法.仿真结果表明,使用这种方法得到的回归模型不仅具有良好的多尺度逼近特性,而且有较好的鲁棒性和较高的推广性能,具有较高的理论和应用价值.     

支持向量训练算法研究

支持向量机（support vector machine，SVM）是在统计学习理论基础上发展起来的一种新的数据挖掘方法，并已广泛应用于模式识别与回归分析。针对一些主要的SVM训练方法，比较了它们的优缺点并重点阐述了其中最有代表性的序贯最小优化（SM0）算法及其多种改进算法，最后指出了进一步研究和应用亟待解决的一些问题。     

支持向量机的训练算法

大量数据下支持向量机(SVM)的训练算法是SVM研究的一个重要方向和广大研究者关注的焦点。该文回顾了近几年来这一领域的研究情况。该文从分析SVM训练问题的实质和难点出发,结合目前一些主要的SVM训练方法及它们之间的联系,重点阐述当前最有代表性的一种算法——序贯最小优化(SMO)算法及其改进算法。从中可以看到,包括SMO在内的分解算法通过求解一系列规模较小的子问题逐步逼近最优解,从而避免存储整个Hessian矩阵,是解决大规模SVM训练问题的主要方法。而工作集的选择对于分解算法的收敛与否和收敛速度至关重要。     

拮抗药化合物活性的支持向量机研究

支持向量机（SVM）算法是一种适用于有限的已知样本训练建模,进而预报未知样本属性的模式识别新方法,应用该方法对拮抗药化合物的生物活性进行了预报,讨论了化合物结构参数、计算核函数及参数的选择和优化问题,建立了药物活性预测的数学模型．研究表明,支持向量机（SVM）算法在小样本情况下,可获得令人满意的结果．     

基于支持向量机的中国石油需求量预测研究

根据1990—2011年中国历年石油消费量相关数据构造输入和输出向量,选用径向基函数(RBF)作为其函数,在MATLAB2.10工具箱中设置相应变量进行参数寻优,从而建立基于支持向量机的石油需求量预测模型.为了验证其效果,同时做出了最小二乘意义下的3种预测拟合曲线,数据误差分析结果表明,支持向量机模型的预测精度高、结果更为可靠.用支持向量机模型预测了2012—2015年我国的石油需求量.     

一种新型加权支持向量回归机

与统计学习理论结合,并把数据样本映射到高维空间,有时标准支持向量回归机运算速度和精度不理想.针对线性不可分的情况,在支持向量回归机目标函数中增加两个平方松弛项,这样可以减少两个约束条件.每个松弛项赋予不同的加权系数,可根据实际需要调节它们的权重.这种新算法称为新型加权支持向量回归机(weighted support vector regression machine,WSVRM),并把它用于函数逼近.实验结果表明,所提出的新型加权支持向量回归机具有良好的函数估计能力和数据预测能力.     

一种基于支持向量机的并行训练策略

针对基于支持向量机的分类器训练时间过长问题,提出一种并行训练策略.该策略在并行程序设计上采用主从模式,将训练任务划分成若干个子任务,分配到多个从节点上计算,最后由主节点将各从节点上的训练结果收集,生成分类器模型.采用这种算法,使用了多组稀疏型和连续型的数据集,经过在自强3000高性能计算机上测试,实验结果表明该算法不仅能够保证多分类的高准确率,而且缩短了训练时间.     

支持向量机及核函数研究

对核函数进行了初步探讨,从理论上研究了多项式核函数参数的选择问题,从实验角度对多项式核函数与径向基核函数进行了比较分析,并阐述了Sigmoid核函数的特点,可作为一般SVM分类问题选择核函数及核函数参数范围的依据.     

一种新的模糊支持向量回归方法

为克服传统的模糊支持向量机隶属度函数都是基于样本与类中心距离进行设计所带来的局限性问题,提出了基于样本到超平面距离的新隶属度函数设计方法。该方法从支持向量机的回归本质出发,通过更加合理地设计隶属度函数,提高支持向量机的回归的泛化鲁棒能力。仿真结果证明,该方法具有更好的鲁棒性,提高了模糊支持向量机的泛化能力。     

一种支持向量机的动态自适应加权算法

针对现有回归型加权支持向量机直接选择加权系数法存在的不足,提出了一种对加权系数进行寻优的新方法——动态自适应加权算法.通过对权系数进行的自适应迭代调整,以确定其最优值,并进行了实验仿真.仿真结果表明：采用该方法确定的最优加权系数,可以对预测样本数据进行更准确的回归估计.     

支持向量机回归与分类解的关系

将线性Lp(p=1)和Lε损失函数下的支持向量机回归与分类解的关系及支持向量机回归与υ-支持向量机分类解的关系,推广到非线性Lp(p≥1)和Lε损失函数上,得到这些解关系更一般的形式.     

支持向量机学习方法的选择与应用

介绍支持向量机中的核函数及其参数的选择和相关应用技术，以及SVM的应用研究。在不同的学习方法下进行了仿真实验，并对4种不同方法的分类特性进行了对比分析，给出了在不同模式识别问题中不同方法的选择条件。     

改进的粒子群算法的小波支持向量机预警模型

将小波函数引入支持向量机核函数,同时在支持向量机的学习算法上,引入了改进的粒子群优化算法,使得支持向量机的参数得到最优解,从而建立上市公司财务困境预警模型。实验结果表明,本文提出方法的预测准确率高于普通的小波支持向量机预警模型。