模糊偏最小二乘支持向量机的应用研究

基于偏最小二乘回归法和模糊隶属度函数,提出了一种模糊偏最小二乘支持向量机.传统最小二乘支持向量机引入模糊加权系数后,可以根据训练样本点的情况调整折衷系数,有效地提高了最小二乘支持向量机的抗噪性能.同时利用偏最小二乘回归法,克服了求解线性回归方程中自变量向量间的多重相关性问题.利用 sinc 函数对该建模方法进行了测试,并进一步对铜转炉吹炼时间的预测问题进行了仿真研究.仿真结果表明,该建模方法具有预测准确、跟踪性能好的优点.     

原空间中最小二乘支持向量机的新算法

为了解决原空间中最小二乘支持向量机的解缺乏稀疏性的缺点,提出了Pruning法、MFCV法和IMFCV法并对BDFS法进行了修改和运用。对一个不含有奇异点的系统而言,Pruning法、BDFS法和MFCV法在一定程度上都能实现原空间中最小二乘支持向量机解的稀疏性。BDFS法无论是训练时间还是预测时间都比Pruning法短;和MFCV法比起来,虽然BDFS法的训练时间短,但比MFCV的预测时间长。对一个含有奇异点的系统而言,Pruning法几乎失去了效用;虽然BDFS和MFCV法的训练时间都比IMFCV法的训练时间短,但IMFCV法能成功抑制奇异点从而缩短预测时间。     

最小二乘支持向量机在强化学习系统中的应用

将连续状态空间下的Q学习构建为最小二乘支持向量机的回归估计问题,利用最小二乘支持向量机良好的泛化以及非线性逼近性能实现由系统状态-动作对到Q值函数的映射。为了保证计算速度以及适应Q学习系统在线学习的需要,最小二乘支持向量机的训练样本是窗式移动的,即在Q学习系统学习的同时获取样本数据并进行最小二乘支持向量机的训练。小车爬山控制问题的仿真结果表明该方法学习效率高,能够有效解决强化学习系统连续状态空间的泛化问题。     

不平衡最小二乘支持向量机

针对标准的最小二乘支持向量机(LSSVM)没有考虑样本分布不平衡的问题提出一种称为不平衡最小二乘支持向量机的算法.首先用标准的最小二乘支持向量机对原始数据进行初步训练,产生一个分离超平面的法向量.然后把高雏样本投影到该法向量上得到一维数据.最后由该一维数据的标准差以及样本数量差异所提供的信息,给出两类数据惩罚因子比例,再用标准的最小二乘支持向量机进行第二次训练,对分离超平面进行调整.该方法克服传统方法只考虑数量的不平衡的不足,将原有样本集中具有的分类信息充分提取出来,提高了最小二乘支持向量机的泛化能力.实验结果表明,所提方法可以有效提高不平衡数据的分类性能.     

最小二乘支持向量机的参数优选方法及应用

支持向量机是一种新型的学习方法,该方法以结构风险最小化原则取代传统机器学习中的经验风险最小化原则,在小样本的机器学习中显示出了优异的性能.传统的支持向量机是解凸二次规划问题,而最小二乘支持向量机是解等式线性方程,显得尤为方便,通过建立适当的性能指标,用遗传算法优化最小二乘支持向量机的有关参数,并在非线性经济系统中应用.用最小二乘支持向量机对非线性经济系统进行预测并与其它方法的预测结果比较,结果证明,该模型的预测精确度是令人满意的,文中提出的方法是可行的.     

基于最小二乘支持向量机的交通安全预测模型

分析了最小二乘支持向量机(LS-SVM)在交通安全预测中的优势,确定输入向量集合和输出向量集合,利用LS-SVM建立交通安全预测模型.将1953～2006年全国交通安全相关数据分为训练集和测试集,利用Matlab 7.0进行仿真测试.通过训练LS-SVM得到模型具体参数值,然后对测试集数据进行预测,计算预测误差,并与神经网络模型、SVM模型预测结果进行对比.仿真结果表明,基于LS-SVM建立的交通安全预测模型比神经网络预测模型、SVM模型具有更高的运算速度和预测精确度.     

基于最小二乘支持向量机的非线性系统建模

探讨了利用支持向量机进行非线性系统建模的方法。首先,利用相空间重构,将非线性时间数据序列映射到高维空间,以便把时间序列中蕴藏的信息充分显露出来。其次,基于最小二乘支持向量机(RLS-SVM)对系统进行建模,仿真结果表明,支持向量机具有良好的非线性建模能力和泛化能力,原始时间数据序列和重建时间数据序列相似,说明提出的算法能够有效的对非线性动态系统的时间序列进行建模。     

基于最小二乘支持向量机的软测量建模

软测量技术在工业过程控制中得到了广泛的应用，对保证产品质量和安全生产有很重要的作用。软测量技术的核心问题是建立优良的软测量数学模型。支持向量机是近几年发展起来的机器学习的新方法，它较好地解决了小样本、非线性、高维数、局部极小点等实际问题。本文研究了基于最小二乘支持向量机的软测量建模方法，并用交叉验证的方法进行支持向量机参数选择。将基于最小二乘支持向量机的软测量模型应用于轻柴油凝固点的预估。结果表明最小二乘支持向量机是软测量建模的一种非常有效的方法。     

最小二乘超球多类支持向量机

超球体多类支持向量机(HSMC-SVM)是一种直接型多类分类器,具有训练速度快,检测效率高的优点,但由于HSMC-SVM使用一阶范数软间隔作为目标函数的惩罚项,使得其训练精度受到一定影响,为了提高HSMC-SVM训练精度,将最小二乘法引入到HSMC-SVM中,提出了最小二乘超球多类支持向量机(LSHS-MCSVM)的概念,并且分析了它的训练算法和判决规则,从而形成了完整的LSHS-MCSVM分类理论.实验表明,LSHS-MCSVM无论在训练速度上还是在泛化性能上都要优于HSMC-SVM,适合于分类类别多,样本数量大的多分类场合.     

基于最小二乘支持向量机的直流牵引电机建模

牵引电机的磁化曲线是直流牵引电机准确建模及性能分析的基础,以电力机车为例,介绍了利用最小二乘支持向量机对牵引电机磁化曲线进行拟合,从而建立准确的直流牵引电机模型的方法。分析了牵引电机磁路非线性的特性,运用最小二乘支持向量机的回归理论,通过对牵引电机实验所得的磁化曲线数据进行学习,建立了基于LS-SVM的曲线拟合模型。拟合结果表明,该模型比以往的分段线性化和神经网络拟合的速度及精度都有较大的提高,在小样本情况下有更好的泛化能力,为牵引电机建立非线性模型提供了新的参考。在LS-SVM拟合曲线的基础上建立了直流牵引电机仿真模型,仿真结果表明,该模型准确可靠,可用于对直流牵引电机系统性能及控制策略的研究。     

系统辨识中支持向量机核函数及其参数的研究

具有不同核函数和参数的支持向量机（SVM）的性能存在很大差异，核函数及其参数的选择是SVM应用和理论研究中的一个重要问题。在简要介绍非线性系统辨识的支持向量机方法后，重点对常用的核函数及其参数的选择进行了研究，并采用具有不同核函数的SVM进行非线性系境辩识。大量实验结果表明，采用SVM方法进行系统辨识时，径向基核函数（RBKF）比其它核函数的辨识效果好，且RBKF的参数选择较容易，当参数在有效范围内改变时，空间复杂度变化小，易于实现。因此，RBKF是系统辨识SVM的较好选择。     

尺度核支持向量回归的非线性系统辨识

提出一种新的尺度核支持向量回归方法,并应用于非线性系统辨识问题。通过线性规划技术和采用尺度函数作为核函数来实现支持向量回归模型。该支持向量回归的核函数不必满足Mercer条件,为实际应用更广泛地选择尺度核提供更大的灵活性。仿真实验结果表明该尺度核支持向量回归方法可以成为非线性系统辨识的有力工具。     

基于支持向量机的逆动力学模型辨识及应用

建立系统逆动力学过程模型已经成为许多非线性系统控制问题研究与实现中的关键问题。该文应用支持向量机(SVM)回归方法实现了对热工对象的逆动力学过程在线辨识,并通过三个典型的仿真算例对基于SVM的非线性系统逆动力学过程模型的有效性进行了考察。仿真结果表明,基于SVM的逆动力学过程模型不仅具有较高的辨识精度,同时还具有较为理想的泛化性能和在线跟踪能力;利用所建立的系统逆动力学过程模型能够获得恰当的控制作用,保证系统的输出按照给定的轨迹达到设定值。     

基于支持向量机的非线性动态系统辨识方法

讨论了辨识一类非线性系统模型的方法。先假设原非线性动态系统可由静态非线性子环节和动态线性子环节串联——H模型来表示。将H模型的非线性方程转换为类线性形式,从而建立线性过渡模型。对原始测量数据进行组合运算获得线性中间模型的训练样本集,并通过支持向量机线性回归算法求取过渡模型参数。最后再建立过渡模型与H模型系数之间的关系,从而反推出非线性模型参数,实现非线性动态系统辨识。仿真结果表明了该方法的有效性。     

基于分组特征多核支持向量机的微钙化簇检测

针对疑似区域内的乳腺微钙化簇和正常乳腺组织特征的多源性这个一直被忽略的问题,提出基于分组特征多核支持向量机(GF-SVM)的乳腺微钙化簇检测。特征被分组后针对不同源特征分别使用不同的核函数映射,组合成多核SVM。将多核SVM转化为半定规划问题,求解多核SVM的核函数权值系数。在训练样本的选择方面采用主动反馈学习方法最终得到稳定的样本模型。实验结果表明,与传统的基于单核SVM相比,该方法具有更好的检测性能。     

SVM方法及其在客户流失预测中的应用研究

客户流失分析与预测是客户关系管理的重要内容.针对客户流失问题,建立了支持向量机预测模型.针对实际客户流失数据中正负样本数量不平衡而且数据量大的特点,提出带有不同类权重参数的支持向量机算法CW-SVM,通过调整类权重参数改变分类面位置,提高算法分类准确性;将标准支持向量机训练问题转化为运算效率更高的核向量机问题,提出处理不平衡海量数据集的CWC-SVM算法.通过实际银行信贷客户数据集测试,该算法与传统预测算法比较,更适合解决大数据集和不平衡数据,取得较好的客户流失预测效果.     

基于支持向量机的个人信用评估模型及最优参数选择研究

运用基于支持向量机理论试图建立一个新的个人信用评估预测方法,以期取得更好的预测分类能力.为了达到这个目标及保证可靠性,研究中使用网格5-折交叉确认来寻找不同核函数的最优参数.为了进一步评价SVM分类准确性,我们在本文最后对SVM方法与线性判别分析,Logistic回归分析,最近邻,分类回归树及神经网络进行了比较,结果表明,SVM有很好的预测效果.