回归函数的支持向量机估计法

回归估计是统计学中基本问题之一，本文在归纳了其经典的估计方法之后，总结了支持向量机估计回归函数方法。并从理论和应用角度阐述了支持向量机的基本思想。     

基于多输出支持向量回归算法的股市预测

提出了一种新的多输出支持向量回归算法,给出了定义在超球上的损失函数,并将训练SVM转化为迭代解线性方程组,在求解过程中采用边计算边使矩阵降阶的方法,加快了运算速度.建立了该算法应用于股市预测的模型,对上证指数的建模与预测表明:与单输出支持向量回归算法建立的模型相比,该算法具有更好的整体预测精度和抗噪性能,是对股市进行分析和预测的一种可行而有效的方法.     

不同准则下的线性支持向量机回归模型

由于标准的支持向量机算法需要解一个二次规划问题,当训练样本较多时,其运算速度一般很慢,为了提高运算速度,根据不同的准则,提出了基于核函数的3种支持向量回归模型.基于使残差的平方和为最小准测的模型转化为解线性方程组运算,只需要矩阵乘积与求逆运算;基于使残差的最大绝对值为最小准则和使残差的绝对值之和为最小准则的2个模型转化为线性规划问题,并给出了线性规划的对偶问题.实验结果表明了该方法的有效性,且计算量明显降低.通过实例,对高斯径向基核函数和多项式基核函数进行了比较与分析,高斯径向基核函数的精度比多项式基核函数高.对高斯径向基核函数和多项式基核函数的不同参数也进行了比较和分析.     

基于最小二乘支持向量机的信号回归

基于支持向量机核函数的条件和Sobolev Hilbert空间H1(R;a,b)的再生核,提出了一种称为最小二乘支持向量机的新的回归模型,并将该回归模型应用于信号回归的仿真实验中.实验表明,最小二乘支持向量机的核函数采用再生核是可行的,它优于常用的高斯核函数.     

基于混合核函数支持向量机的回归模型

基于支持向量机核函数的条件,将Sobolev Hilbert空间的再生核函数和Sig核函数进行有效的线性混合,给出一种新的支持向量机的混合核函数,并提出一种基于再生核的混合核函数支持向量机回归模型,该回归模型兼具了全局核函数与局部核函数的优点,且算法的复杂度被降低.仿真实验结果表明:最小二乘支持向量机的核函数采用基于再生核的混合核函数是可行的,回归的效果比单核函数可以更为细腻.     

面向多输出系统的启发式支持向量机回归

针对面向多输出系统支持向量机回归算法训练时间较长的问题,提出一种面向多输出系统的启发式支持向量机回归算法。与多输出的支持向量机回归建模相比,该方法建立的模型结构较为简单,模型训练速度更快。将此方法和直接支持向量机回归算法分别应用到甲基丙烯酸甲酯的间歇聚合反应过程中,仿真结果表明了该方法的有效性。     

支持向量回归机训练集的并行预处理方法

为加快支持向量回归机在求解大样本集问题时的训练速度,提出了并行支持向量回归机。该方法根据核矩阵把数据集分成k个子集,通过并行预处理过滤掉非支持向量,再对剩余的支持向量进行训练得到决策函数。实验表明,本算法不仅预测准确度跟标准的分解算法基本一致,而且大大缩减训练时间,具有很高的加速比,同时需要的训练时间大大少于Graf等人提出的级联结构的算法,另外,算法还可有效地缩减支持向量的数目。     

回归函数的小波支持向量机鲁棒估计法

小波网络具有小波的多尺度特性和神经网络的自学习功能,在回归估计中得到广泛的应用,但其性能受到样本中粗差的严重影响.虽然以M-估计作为目标函数可以解决这个问题,但由于其对应的影响函数由残差绝对值决定,因此如何选择初始参数值成为一个关键问题.为此,提出回归函数的小波支持向量机鲁棒估计方法(小波支持向量回归,WSVR,Wavelet Support Vector Regression).该方法中首先提出并证明了一种新的小波支持向量机(WSVM,Wavelet Support Vector Machine),用于确定初始参数值方法,这种方法能够确定合理的网络结构和合适的初始参数值,保证含有粗差的样本点的残差绝对值较大;然后使用一种构造的M-估计作为目标函数,并提出了自适应确定阈值方法.仿真结果表明,使用这种方法得到的回归模型不仅具有良好的多尺度逼近特性,而且有较好的鲁棒性和较高的推广性能,具有较高的理论和应用价值.     

一种新型加权支持向量回归机

与统计学习理论结合,并把数据样本映射到高维空间,有时标准支持向量回归机运算速度和精度不理想.针对线性不可分的情况,在支持向量回归机目标函数中增加两个平方松弛项,这样可以减少两个约束条件.每个松弛项赋予不同的加权系数,可根据实际需要调节它们的权重.这种新算法称为新型加权支持向量回归机(weighted support vector regression machine,WSVRM),并把它用于函数逼近.实验结果表明,所提出的新型加权支持向量回归机具有良好的函数估计能力和数据预测能力.     

基于在线支持向量回归算法的短时交通流预测

实时准确的短时交通流预测在城市道路交通和高速公路交通中都十分重要,是交通控制与诱导系统的基础.应用在线支持向量回归算法对交通流进行预测,并对济南某高架路实测数据进行仿真运算.预测结果表明,在小样本下,与BP神经网络算法相比,在线支持向量回归算法明显优于BP神经网络算法,增大样本数,BP神经网络算法预测精度有所提高,但仍低于线支持向量回归算法;在运算时间上,BP神经网络算法运算时间更短.     

一种新的支持向量回归预测模型

运用支持向量机（SVM）理论，建立了一种新的支持向量回归（SVR）预测模型.模型的求解可转化为二次规划问题，并能实现模型参数的自动选择.用此模型对我国粮食产量增长率的预测表明，模型具有较好的概化能力.     

基于小波支持向量回归的遥感多光谱图像分辨率增强算法

利用小波支持向量回归,实现了遥感多光谱图像分辨率的增强。首先采用非下采样Contourlet变换对低分辨率的多光谱图像和高分辨率的全色图像进行多分辨率分解,再利用小波支持向量回归对分解系数进行学习和预测,获得分辨率初步提高的多光谱图像,最后再与传统的插值方法得到的结果进行融合来实现多光谱图像分辨率增强。实验结果表明:此方法借遥感全色图像的辅助获得丰富的高频细节信息,使得分辨率增强结果无论是最小均方误差还是峰值信噪比都要优于仅依靠原图像本身放大的传统方法以及其他的分辨率增强方法。     

基于正反馈的支持向量机

在分析现有的基于高斯核的支持向量机(包括基于K-邻域法的支持向量机)的优缺点的基础上,通过对支持向量机之所以能够描述数据集的分布特征的本质进行分析,突破目前在构造支持向量机中存在的"所有支持向量与样本之间的在特征空间中的内积所对应的核函数参数一定要相等"的这一苛刻要求,提出了用于模式识别的基于正反馈的支持向量机.给出了基于正反馈的支持向量机的算法.通过对人工数据和现实数据的仿真实验,表明基于正反馈的支持向量机在推广性能方面明显优于现有的支持向量机.     

模糊支撑向量回归

利用支撑向量回归几何方法实施的直接性和几何意义,在支撑向量回归几何方法中考虑了数据的置信度,建立了模糊支撑向量回归模型.数值分析表明,所提出的模糊支撑向量回归模型可根据数据置信度的大小有效地控制各训练数据在回归中的作用.     

基于多输出支持向量机和遗传算法的岩土参数反演方法

提出了基于多输出支持向量机(M-SVM)和遗传算法(GA)的岩土参数反演方法.在进行参数反演过程中,根据正交试验产生一系列参数的可能组合;采用有限元法(FEM)得到坝体不同测点处的位移计算值.将不同的材料参数组合作为输入,相应的位移计算值作为模型的输出来训练M-SVM模型,以便模拟坝体位移和材料参数之间的复杂关系.采用GA来求解材料参数反演所对应的优化问题.在进行最优材料参数搜索的过程中,采用训练好的M-SVM模型来替代有限元计算,以获得坝体位移的计算值,从而大大减少了计算所需的时间.根据某面板堆石坝沉降的监测数据和有限元仿真模型,实现了以上反演过程.反演分析的结果表明,本文提出的岩土参数反演方法具有计算精度高和计算效率高等优点,可以应用于实际工程中.     

多类支持向量机算法的研究

支持向量机(SVM)是建立在统计学习理论的基础上的一种小样本机器学习方法,它是针对二分类问题而提出的,如何将二分类问题有效地推广至多分类问题是支持向量机研究的重要内容之一.介绍了现有提出的一些支持向量机多分类的方法,并比较其优缺点,在模糊支持向量机的基础上提出具有去噪声的模糊支持向量机的多分类的方法.     

一种快速支持向量机分类算法

提出了一种提高分类速度的快速支持向量机分类算法,利用核函数矩阵的行向量集中的极大线性无关向量组采用变换的方式,用少量的支持向量代替全部支持向量进行分类计算,在保证分类精度的前提下使得分类速度有较大提高.