原空间中最小二乘支持向量机的新算法

为了解决原空间中最小二乘支持向量机的解缺乏稀疏性的缺点,提出了Pruning法、MFCV法和IMFCV法并对BDFS法进行了修改和运用。对一个不含有奇异点的系统而言,Pruning法、BDFS法和MFCV法在一定程度上都能实现原空间中最小二乘支持向量机解的稀疏性。BDFS法无论是训练时间还是预测时间都比Pruning法短;和MFCV法比起来,虽然BDFS法的训练时间短,但比MFCV的预测时间长。对一个含有奇异点的系统而言,Pruning法几乎失去了效用;虽然BDFS和MFCV法的训练时间都比IMFCV法的训练时间短,但IMFCV法能成功抑制奇异点从而缩短预测时间。     

模糊偏最小二乘支持向量机的应用研究

基于偏最小二乘回归法和模糊隶属度函数,提出了一种模糊偏最小二乘支持向量机.传统最小二乘支持向量机引入模糊加权系数后,可以根据训练样本点的情况调整折衷系数,有效地提高了最小二乘支持向量机的抗噪性能.同时利用偏最小二乘回归法,克服了求解线性回归方程中自变量向量间的多重相关性问题.利用 sinc 函数对该建模方法进行了测试,并进一步对铜转炉吹炼时间的预测问题进行了仿真研究.仿真结果表明,该建模方法具有预测准确、跟踪性能好的优点.     

不平衡最小二乘支持向量机

针对标准的最小二乘支持向量机(LSSVM)没有考虑样本分布不平衡的问题提出一种称为不平衡最小二乘支持向量机的算法.首先用标准的最小二乘支持向量机对原始数据进行初步训练,产生一个分离超平面的法向量.然后把高雏样本投影到该法向量上得到一维数据.最后由该一维数据的标准差以及样本数量差异所提供的信息,给出两类数据惩罚因子比例,再用标准的最小二乘支持向量机进行第二次训练,对分离超平面进行调整.该方法克服传统方法只考虑数量的不平衡的不足,将原有样本集中具有的分类信息充分提取出来,提高了最小二乘支持向量机的泛化能力.实验结果表明,所提方法可以有效提高不平衡数据的分类性能.     

基于最小二乘支持向量机的软测量建模

软测量技术在工业过程控制中得到了广泛的应用，对保证产品质量和安全生产有很重要的作用。软测量技术的核心问题是建立优良的软测量数学模型。支持向量机是近几年发展起来的机器学习的新方法，它较好地解决了小样本、非线性、高维数、局部极小点等实际问题。本文研究了基于最小二乘支持向量机的软测量建模方法，并用交叉验证的方法进行支持向量机参数选择。将基于最小二乘支持向量机的软测量模型应用于轻柴油凝固点的预估。结果表明最小二乘支持向量机是软测量建模的一种非常有效的方法。     

基于最小二乘支持向量机的非线性系统建模

探讨了利用支持向量机进行非线性系统建模的方法。首先,利用相空间重构,将非线性时间数据序列映射到高维空间,以便把时间序列中蕴藏的信息充分显露出来。其次,基于最小二乘支持向量机(RLS-SVM)对系统进行建模,仿真结果表明,支持向量机具有良好的非线性建模能力和泛化能力,原始时间数据序列和重建时间数据序列相似,说明提出的算法能够有效的对非线性动态系统的时间序列进行建模。     

基于支持向量机的交通安全预测模型及仿真研究

分析了交通安全预测中指标和影响因子的选择,确定了指标体系和影响因子集合,利用支持向量机(svm)建立交通安全预测模型并进行实例仿真验证.将1953年-2006年全国交通安全相关样本数据分为训练集和测试集,通过训练SVM得到交通安全预测模型参数值,对测试集指标进行预测,计算预测误差,并与BP神经网络预测模型进行对比.仿真结果表明支持向量机建立的交通安全预测模型学习速度快,泛化能力强,有着比神经网络预测模型更高的运算速度与预测精度.     

基于最小二乘支持向量机的直流牵引电机建模

牵引电机的磁化曲线是直流牵引电机准确建模及性能分析的基础,以电力机车为例,介绍了利用最小二乘支持向量机对牵引电机磁化曲线进行拟合,从而建立准确的直流牵引电机模型的方法。分析了牵引电机磁路非线性的特性,运用最小二乘支持向量机的回归理论,通过对牵引电机实验所得的磁化曲线数据进行学习,建立了基于LS-SVM的曲线拟合模型。拟合结果表明,该模型比以往的分段线性化和神经网络拟合的速度及精度都有较大的提高,在小样本情况下有更好的泛化能力,为牵引电机建立非线性模型提供了新的参考。在LS-SVM拟合曲线的基础上建立了直流牵引电机仿真模型,仿真结果表明,该模型准确可靠,可用于对直流牵引电机系统性能及控制策略的研究。     

基于GA和Bootstrap的最小二乘支持向量机参数优选

支持向量机是一种新型的学习方法,该方法以结构风险最小化原则取代传统机器学习中的经验风险最小化原则,在小样本的机器学习中显示出了优异的性能.传统的支持向量机是解凸二次规划问题,而最小二乘支持向量机是解等式线性方程,显得尤为方便.针对最小二乘支持向量机的特点,通过Bootstrap建立适当的性能指标,用遗传算法(GA)优化最小二乘支持向量机的有关参数,并在非线性经济系统中应用.用最小二乘支持向量机对非线性经济系统进行预测的结果与神经网络预测的结果比较证明,该模型的预测精确度是令人满意的,文中提出的方法是可行的.     

最小二乘支持向量机的参数优选方法及应用

支持向量机是一种新型的学习方法,该方法以结构风险最小化原则取代传统机器学习中的经验风险最小化原则,在小样本的机器学习中显示出了优异的性能.传统的支持向量机是解凸二次规划问题,而最小二乘支持向量机是解等式线性方程,显得尤为方便,通过建立适当的性能指标,用遗传算法优化最小二乘支持向量机的有关参数,并在非线性经济系统中应用.用最小二乘支持向量机对非线性经济系统进行预测并与其它方法的预测结果比较,结果证明,该模型的预测精确度是令人满意的,文中提出的方法是可行的.     

基于一致互补性的多视角最小二乘支持向量机

多视角学习(multi-view learning)是指利用事物的多视角数据,对其内在模式进行识别和学习.然而,大部分多视角学习模型存在两个弊端:1)仅适用于两视角学习场景,对于视角个数超过两个的情形便无法直接进行处理;2)要么遵循一致性原则,要么遵循互补性原则,同时遵循两个原则的研究工作比较少.为解决以上两个弊端,本文通过使用最小二乘损失函数和权重分配策略,构建了基于一致性和互补性原则的多视角最小二乘支持向量机(multi-view least square support vector machine with the consensus and the complementarity principles,MVLSSVM-2C),并设计了相应的交替优化算法对模型进行求解.进一步地,本文利用Rademacher复杂度理论对MVLSSVM-2C的泛化能力进行分析.最后,在大量的多视角数据集上验证了MVLSSVM-2C模型的合理有效性.     

基于模糊支持向量机的小批量生产质量智能预测方法

在分析比较目前常用的智能工序预测技术及其特点的基础上,提出一种适合小批量生产过程的质量智能预测模型,并给出了相应的预测过程和算法.由于该模型中以模糊支持向量机(FLS-SVM)技术为智能核心,一方面较好的解决小样本学习问题,避免了人工神经网络等智能方法在对小批量生产过程质量进行预测时所表示出的过学习、泛化能力弱等缺点.另一方面,通过隶属度函数对样本进行模糊化,达到样本优化选择,实现历史数据“重近轻远”的预测效果.通过对具体加工过程的预测实验,并与其它几种常见预测方法效果进行对比,说明本文方法实现容易,建模速度快,小样本的泛化能力强,为实现小批量加工过程的在线质量预测与控制提供可行的思路.     

用于回归估计的最小二乘广义支持向量机

提出了一种用于回归估计的最小二乘广义支持向量机.这种最小二乘广义支持向量机的核函数同标准的支持向量机相比没有或者只有很少的限制.将这种用于回归估计的最小二乘广义支持向量机表示成标准的二次规划(QP)问题,采用基于矩阵分裂的超松弛法同投影梯度法相结合的算法来解这一QP问题.根据超松弛法的特点,这一算法可以处理大量数据的情形.     

最小二乘支持向量机在强化学习系统中的应用

将连续状态空间下的Q学习构建为最小二乘支持向量机的回归估计问题,利用最小二乘支持向量机良好的泛化以及非线性逼近性能实现由系统状态-动作对到Q值函数的映射。为了保证计算速度以及适应Q学习系统在线学习的需要,最小二乘支持向量机的训练样本是窗式移动的,即在Q学习系统学习的同时获取样本数据并进行最小二乘支持向量机的训练。小车爬山控制问题的仿真结果表明该方法学习效率高,能够有效解决强化学习系统连续状态空间的泛化问题。     

Modified L-P小波最小二乘支持向量机及在动态系统辩识中的应用

为了提高动态系统的辩识品质,提出了-种新的可调带宽多维支持向量小波核函数-modifiedL-P小波核函数.理论E证明了这种核函数是满足平移不变核定理的支持向量核函数.由于该核函数具有平移伸缩正交性,而且适用于信号的局部分析、信噪分离和突变信号的检测,从而提升了支持向量机的泛化性能.应用Modified L-P小波核作为最小二乘支持向量机的核函数,可以简化计算复杂性,提高学习效率.回归实验和动态系统辩识的仿真结果表明,Modified L-P小波核函数最小二乘支持向量机的建模和逼近能力优于基于L-P小波核函数或高斯核函数最小二乘支持向量机,更适合工程应用.     

SVM方法及其在客户流失预测中的应用研究

客户流失分析与预测是客户关系管理的重要内容.针对客户流失问题,建立了支持向量机预测模型.针对实际客户流失数据中正负样本数量不平衡而且数据量大的特点,提出带有不同类权重参数的支持向量机算法CW-SVM,通过调整类权重参数改变分类面位置,提高算法分类准确性;将标准支持向量机训练问题转化为运算效率更高的核向量机问题,提出处理不平衡海量数据集的CWC-SVM算法.通过实际银行信贷客户数据集测试,该算法与传统预测算法比较,更适合解决大数据集和不平衡数据,取得较好的客户流失预测效果.     

基于支持向量机的金融时间序列预测

基于数据的机器学习就是由观测样本数据得出目前尚不能通过原理分析得到的规律,利用其对未来数据进行预测。神经网络以其优越的函数逼近性能广泛用于建立时间序列过去与未来数据之间某种确定的映射关系,实现预测。首先分析了以经验风险最小化为准则的神经网络的局限性,以及针对此提出的结构风险最小化准则的优点;其次引出支持向量机;最后利用支持向量机对上海证券综合指数序列趋势做较准确的多步预测。     

基于支持向量机元模型的随机鲁棒设计

随机鲁棒设计是一种基于蒙特卡洛仿真的优化设计方法.通常情况下,对于复杂仿真模型的随机鲁棒设计时间开销很大.为减小随机鲁棒设计过程中的时间开销,使用参数最优的最小二乘支持向量机替代仿真模型进行随机鲁棒设计.使用标准粒子群优化算法搜索支持向量机参擞和控制器参数的寻优.通过一个基准测试问题证明了该方法的可行性.     

基于支持向量机的换档质量评价系统

车辆换档质量是自动档车辆最重要的性能之一,因此换档质量的评价一直是车辆性能研究的一个重点。以支持向量机理论为核心创建的换档质量评价系统,综合考虑了车辆换档的各种工况和影响因素,利用支持向量机良好的泛化能力,能够稳定的对换档质量进行动态综合的评价。