直接支持向量回归机

将超平面偏置项平方加入到最小二乘支持向量回归机(LSSVMR)的目标函数中,提出直接支持向量回归机(DSVMR)。该方法增强了求解问题的凸性,与LSSVMR相比,只需要求解一个与核矩阵类似的对称正定矩阵的逆就可以得到问题的解,再使用Cholesky分解和SMW(Sherman-Morrison-Woodbury)求逆公式,降低了计算复杂度,加快了学习速度,而且逼近能力与LSSVMR近乎相同。最后数值试验表明DSVMR可行且完全具有上述优势。     

基于回归型支持向量机的液压舵机故障诊断

利用回归型支持向量机（SupportVectorRegression，SVR），设计了一个液压舵机的故障诊断系统。利用系统的可测参量，建立了基于SVR的液压舵机的全局故障检测模型。在仿真过程中发现，此方法能对电液伺服阀、位移传感器和伺服放大器的各种故障进行诊断，诊断准确度高，适用于闭环控制系统的故障检测，仿真结果验证了该方法的有效性。     

改进的支持向量回归机

标准的支持向量回归机中原始最优化问题的目标函数有两部分：一部分是衡量经验风险的，另一部分是衡量推广能力的。本文引入一个凸函数来代替衡量推广能力的部分，讨论了当这个凸函数取不同的形式时支持向量回归机的变形，这些模型不再要求核函数必须对称正定，从而为我们可以得到更灵活的回归曲面提供了有效的工具。     

支持向量回归机预测误差校正方法

针对传统的ε不敏感支持向量回归机(ε insensitive support vector regression, ε-SVR)未充分考虑局部支持向量对回归预测结果的影响,不利于提高回归预测精度的问题,提出了一种εSVR预测误差校正方法。该方法以期望预测值与εSVR回归预测值及局部支持向量间的欧氏距离和最小为目标函数,以ε不敏感损失带(εtube)宽度为约束条件,通过利用高维特征空间中εtube边界上和边界外的局部支持向量对εSVR的回归预测值进行误差校正。利用人工产生的不同分布数据集和UCI数据集进行的仿真结果表明,与传统的εSVR相比,该文方法具有更高的预测精度和更强的泛化能力。     

基于遗传算法的支持向量回归机参数选取

针对支持向量回归机(support vector regression,SVR)的参数选择问题,提出了基于遗传算法的SVR参数自动确定方法。分析了SVR各参数对其性能的影响,根据已有的样本集确定遗传算法的搜索区间,然后在该区间内对搜索的参数进行最优选取。为了减少所选参数对训练样本的依赖性,借鉴交叉验证的方法,把训练集分为估计子集,用来选择模型;确认子集选择参数,以推广能力最好的一组参数作为最终参数。将所提出的方法应用于受噪声影响的标准函数,实验结果表明,由该方法所得参数确定的SVR具有较优的预测性能。     

支持向量机的时间序列回归与预测

详细分析了支持向量机用于时间序列预测的理论基础。采用支持向量机、RBF和Elman神经网络模型,对仿真时序和工程滑坡变形时序进行了回归与外延预测。结果表明,在噪声水平较低时,SVR回归效果稍好,Elman与RBF网络的稳健性相对较差;随着噪声水平增大,两种神经网络的回归精度迅速下降。对于外延预测,两种神经网络仅限于短期的非线性模拟,而泛化性能更好的SVR在短期具有比较理想的效果,在较长的时间区间里也具有较高的预测精度(7步预测准确度控制在83.5%以上)。     

一种集成logistic回归与支持向量机的判别分析规则

支持向量机的输出结果可以通过几何分析划分为六个连续的区间,并求得各个区间内训练样本的错误分类频率.本文以二分判别为例,将每个区间上的误分频率与logistic回归对预测样本的输出概率进行比较,提出了一种集成logistic回归与支持向量机的判别分析规则,并采用支持向量机效果验证的基准数据集进行实证分析.实证结果验证了所提出方法的有效性.     

支持向量回归机元参数优化方法

为了优化ε不敏感支持向量回归机（ε-support vector regression, ε-SVR）的三类元参数,根据其耦合程度将其优化问题分解为核参数优化和结构参数（即不敏感参数和正则化参数）优化两个子问题,并提出了相应的优化方法。首先,提出了一种新的核校准系数以优化核参数;其次,提出了一种基于期望训练误差的结构参数优化方法;最后,为准确估算ε-SVR的期望训练误差,还提出了一种根据实际训练误差分布特征评估和校正期望误差的方法。仿真结果表明,该文方法具有与交叉检验法近似的优化效果,且时间效率更高。     

基于v-支持向量回归机的盲均衡算法

盲均衡可以看作模式分类问题,每一类由信源字符表的可能输出定义.由于支持向量回归机具有优良的泛化性能,提出了一种基于v-支持向量回归机的盲均衡算法,并且利用加权最小二乘方法求解v-支持向量回归机.计算机仿真结果表明提出的盲均衡算法具有计算复杂度低、适于实际应用的特点.     

基于支持向量机的时间序列预测模型分析与应用

阐述了支持向量机在时间序列预测中应用的理论基础,给出了时间序列预测分析的基本框架。将支持向量机预测模型应用于某型航空发动机的滑油金属含量监测中,并与递归神经网络预测器进行了比较。得出支持向量机由于采用了新型的结构风险最小化准则表现出优秀的推广能力,可预测区间较长且具有较高的准确度,而递归神经网络模型在中、短期预测中与支持向量机相差不大,在较长区间预测中效果较差的结论。     

基于支持向量回归的地铁牵引能耗预测

预测地铁线路未来牵引能耗.有助于评价线路的牵引用能效率、节约能源.地铁牵引能耗影响因素众多且呈非线性关系.因此基于历史数据建立支持向量机回归模型对地铁牵引能耗进行预测.首先,将牵引能耗的影响因素分为供电系统、线路条件、列车属性、运营组织及环境因素五类,并选取线路可变影响因素作为模型输入;然后,利用遗传算法对模型参数进行寻优,适用度函数设计采用交叉验证方法:最后,基于模型最优参数对牵引能耗进行预测.案例结果表明,交叉验证方法有助于提高模型预测精度;支持向量机回归模型的预测精度高于BP(back-propagation)神经网络模型与多元线性回归模型.     

Cloud removal of remote sensing image based on multi-output support vector regression

Removal of cloud cover on the satellite remote sensing image can effectively improve the availability of remote sensing images. For thin cloud cover, support vector value contourlet transform is used to achieve multi-scale decomposition of the area of thin cloud cover on remote sensing images. Through enhancing coefficients of high frequency and suppressing coefficients of low frequency, the thin cloud is removed. For thick cloud cover, if the areas of thick cloud cover on multi-source or multi-temporal remote sensing images do not overlap, the multi-output support vector regression learning method is used to remove this kind of thick clouds. If the thick cloud cover areas overlap, by using the multi-output learning of the surrounding areas to predict the surface features of the overlapped thick cloud cover areas, this kind of thick cloud is removed. Experimental results show that the proposed cloud removal method can effectively solve the problems of the cloud overlapping and radiation difference among multi-source images. The cloud removal image is clear and smooth.     

Improved scheme to accelerate support vector regression

The computational cost of support vector regression in the training phase is O(N3), which is very expensive for a large scale problem. In addition, the solution of support vector regression is of parsimoniousness, which has relation to a part of the whole training data set. Hence, it is reasonable to reduce the training data set. Aiming at the scheme based on k-nearest neighbors to reduce the training data set with the computational complexity O(kMN2), an improved scheme is proposed to accelerate the reducing phase, which cuts down the computational complexity from O(kMN2) to O(MN2). Finally, experimental results on benchmark data sets validate the effectiveness of the improved scheme.     

基于最小二乘近似支持向量回归模型的电子商务信用风险预警

随着制约电子商务发展的基础性问题如交易支付和物流配送等问题的逐步解决,电子商务交易双方的信用问题已凸显为电子商务发展的瓶颈. 在国内外研究现状的基础上, 构建电子商务信用风险的预警指标体系,并建立电子商务信用风险预警的最小二乘近似支持向量回归模型. 同时,利用相关样本数据进行了实证分析, 并根据实证结果给出不同的预警管理对策.     

基于稀疏型支持向量回归的时间序列预测

为提高支持向量回归在时间序列预测应用中的学习速度和泛化性能,提出了稀疏型支持向量回归方法.通过牛顿优化法,直接优化支持向量回归的原始问题.然后利用Cholesky分解更新原始优化中的Hessian矩阵实现稀疏型支持向量回归算法.最后将该算法运用到Mackey-Glass,Lorenz和Logistic混沌时间序列预测,仿真结果表明本文提出的方法能够在确保预测精度的前提下,有效地降低支持向量的个数.     

单参数支持向量回归算法

支持向量机是一种基于统计学习理论的新颖的机器学习方法，由于其出色的学习性能，该技术已成为当前国际机器学习界的研究热点．这种方法已广泛用于解决分类和回归问题．在回归中，标准的支持向量回归算法在采用ε-不敏感损失函数时引入两个参数．为了减小学习复杂性，给出一种单参数约束下的支持向量回归算法，该算法能够减少支持向量的数量，提高程序的运行速度．最后，以一个混沌时间序列预测为例，所给方法同标准支持向量回归算法进行了比较，运行速度明显提高．     

Improved scheme to accelerate sparse least squares support vector regression

The pruning algorithms for sparse least squares support vector regression machine are common methods,and easily comprehensible,but the computational burden in the training phase is heavy due to the retraining in performing the pruning process,which is not favorable for their applications.To this end,an improved scheme is proposed to accelerate sparse least squares support vector regression machine.A major advantage of this new scheme is based on the iterative methodology,which uses the previous training results instead of retraining,and its feasibility is strictly verified theoretically.Finally,experiments on benchmark data sets corroborate a significant saving of the training time with the same number of support vectors and predictive accuracy compared with the original pruning algorithms,and this speedup scheme is also extended to classification problem.