模糊偏最小二乘支持向量机的应用研究

基于偏最小二乘回归法和模糊隶属度函数,提出了一种模糊偏最小二乘支持向量机.传统最小二乘支持向量机引入模糊加权系数后,可以根据训练样本点的情况调整折衷系数,有效地提高了最小二乘支持向量机的抗噪性能.同时利用偏最小二乘回归法,克服了求解线性回归方程中自变量向量间的多重相关性问题.利用 sinc 函数对该建模方法进行了测试,并进一步对铜转炉吹炼时间的预测问题进行了仿真研究.仿真结果表明,该建模方法具有预测准确、跟踪性能好的优点.     

不平衡最小二乘支持向量机

针对标准的最小二乘支持向量机(LSSVM)没有考虑样本分布不平衡的问题提出一种称为不平衡最小二乘支持向量机的算法.首先用标准的最小二乘支持向量机对原始数据进行初步训练,产生一个分离超平面的法向量.然后把高雏样本投影到该法向量上得到一维数据.最后由该一维数据的标准差以及样本数量差异所提供的信息,给出两类数据惩罚因子比例,再用标准的最小二乘支持向量机进行第二次训练,对分离超平面进行调整.该方法克服传统方法只考虑数量的不平衡的不足,将原有样本集中具有的分类信息充分提取出来,提高了最小二乘支持向量机的泛化能力.实验结果表明,所提方法可以有效提高不平衡数据的分类性能.     

基于GA和Bootstrap的最小二乘支持向量机参数优选

支持向量机是一种新型的学习方法,该方法以结构风险最小化原则取代传统机器学习中的经验风险最小化原则,在小样本的机器学习中显示出了优异的性能.传统的支持向量机是解凸二次规划问题,而最小二乘支持向量机是解等式线性方程,显得尤为方便.针对最小二乘支持向量机的特点,通过Bootstrap建立适当的性能指标,用遗传算法(GA)优化最小二乘支持向量机的有关参数,并在非线性经济系统中应用.用最小二乘支持向量机对非线性经济系统进行预测的结果与神经网络预测的结果比较证明,该模型的预测精确度是令人满意的,文中提出的方法是可行的.     

模糊遗传滚动优化的LS-SVM预测控制研究

提出一种基于最小二乘支持向量机(LS-SVM)的非线性系统预测控制算法。该算法通过LS-SVM对非线性系统输入输出数据序列的训练学习建立其预测模型;基于模糊遗传算法完成非线性预测控制的滚动优化过程。仿真结果表明基于该方法的非线性系统预测控制比基于RBF神经网络的预测控制具有更好的控制效果。     

最小二乘支持向量机的参数优选方法及应用

支持向量机是一种新型的学习方法,该方法以结构风险最小化原则取代传统机器学习中的经验风险最小化原则,在小样本的机器学习中显示出了优异的性能.传统的支持向量机是解凸二次规划问题,而最小二乘支持向量机是解等式线性方程,显得尤为方便,通过建立适当的性能指标,用遗传算法优化最小二乘支持向量机的有关参数,并在非线性经济系统中应用.用最小二乘支持向量机对非线性经济系统进行预测并与其它方法的预测结果比较,结果证明,该模型的预测精确度是令人满意的,文中提出的方法是可行的.     

最小二乘超球多类支持向量机

超球体多类支持向量机(HSMC-SVM)是一种直接型多类分类器,具有训练速度快,检测效率高的优点,但由于HSMC-SVM使用一阶范数软间隔作为目标函数的惩罚项,使得其训练精度受到一定影响,为了提高HSMC-SVM训练精度,将最小二乘法引入到HSMC-SVM中,提出了最小二乘超球多类支持向量机(LSHS-MCSVM)的概念,并且分析了它的训练算法和判决规则,从而形成了完整的LSHS-MCSVM分类理论.实验表明,LSHS-MCSVM无论在训练速度上还是在泛化性能上都要优于HSMC-SVM,适合于分类类别多,样本数量大的多分类场合.     

基于最小二乘支持向量机的软测量建模

软测量技术在工业过程控制中得到了广泛的应用，对保证产品质量和安全生产有很重要的作用。软测量技术的核心问题是建立优良的软测量数学模型。支持向量机是近几年发展起来的机器学习的新方法，它较好地解决了小样本、非线性、高维数、局部极小点等实际问题。本文研究了基于最小二乘支持向量机的软测量建模方法，并用交叉验证的方法进行支持向量机参数选择。将基于最小二乘支持向量机的软测量模型应用于轻柴油凝固点的预估。结果表明最小二乘支持向量机是软测量建模的一种非常有效的方法。     

基于压缩感知的多核稀疏最小二乘支持向量机

为了提高稀疏最小二乘支持向量机对高维、异构数据的泛化性能,提出新型的基于压缩感知的稀疏多核最小二乘支持向量机算法。首先根据压缩感知理论,用正交匹配追踪算法对最小二乘支持向量机的支持向量进行稀疏化,再利用线性多核扩展法求出新的核函数矩阵。将新的核矩阵应用到最小二乘支持向量机,得到稀疏多核最小二乘支持向量机的解,用稀疏的支持向量实现函数回归。理论分析与数据实验对比结果表明该模型对于高维、异构数据能够更快更准确地进行训练,大大提高了模型的泛化能力和运算速度。     

最小二乘支持向量机在强化学习系统中的应用

将连续状态空间下的Q学习构建为最小二乘支持向量机的回归估计问题,利用最小二乘支持向量机良好的泛化以及非线性逼近性能实现由系统状态-动作对到Q值函数的映射。为了保证计算速度以及适应Q学习系统在线学习的需要,最小二乘支持向量机的训练样本是窗式移动的,即在Q学习系统学习的同时获取样本数据并进行最小二乘支持向量机的训练。小车爬山控制问题的仿真结果表明该方法学习效率高,能够有效解决强化学习系统连续状态空间的泛化问题。     

最小二乘支持向量机的预优共轭梯度法

针对Suyken等人提出的最小二乘支持向量机的共轭梯度法在输入样本的个数较大时,需要求解高阶线性方程组这一缺陷,提出了一种新算法。该算法利用分块矩阵的思想将该高阶线性方程组系数矩阵降阶,为了提高收敛速度,克服数值的不稳定性,采用条件预优共轭梯度法求解低阶的线性方程组。通过仿真试验证明用本文方法训练最小二乘支持向量机比共轭梯度法的训练速度提高了将近一倍。     

基于LS-SVM的特征提取及在凝点软测量中的应用

提出了一种基于最小二乘支持向量机(LS-SVM)回归算法的特征提取新方法,并将其成功应用于柴油凝点近红外(NIR)光谱软测量建模。在该方法中,将特征提取公式表达成与LS-SVM回归算法相同的形式,这样就能通过LS-SVM求取最优的特征投影向量。用一个含120个样本的401维柴油近红外光谱数据集进行测试,通过该方法提取后,原始光谱数据集的特征被降到了6维并保留了原有99.58%的信息。同时,用该数据建立的软测量模型具有更快的学习速度和更高的测量精度。实验结果验证了所提的特征提取新方法应用于近红外光谱特征提取的可行性和有效性。     

基于LS-SVM的燃料电池控制建模的研究

由于直接甲醇燃料电池数学模型的复杂性难以满足工程上对DMFC控制系统的设计，提出一种基于最小二乘支持向量机建模算法，用具有RBF核函数的LS-SVM离线建立DMFC电堆的非线性模型；仿真和实验结果表明了该建模方法具有建模简单、模型精度高等优点，亦证明了该算法的有效性和优越性。研究结果对直接甲醇燃料电池控制系统的建模和控制具有一定的实用价值。     

基于最优LS-SVM的制导工具误差分离与折合

将最小二乘支持向量机方法应用于制导工具误差分离于折合。利用线性核函数获得了工具误差系数的估计,然后利用交叉验证技术推导了最小二乘支持向量机最优参数的选择准则。该准则的计算是基于模型求解的中间参数,所以并没有增加很多的计算量。最后根据六自由度弹道仿真软件进行了特殊弹道与全程弹道的仿真。仿真计算表明,与最小二乘和主成份方法相比,最优最小二乘支持向量机获得的误差系数估计与真值更加接近,折合得到的全程弹道遥外差更加准确。     

基于最小二乘支持向量机的交通安全预测模型

分析了最小二乘支持向量机(LS-SVM)在交通安全预测中的优势,确定输入向量集合和输出向量集合,利用LS-SVM建立交通安全预测模型.将1953～2006年全国交通安全相关数据分为训练集和测试集,利用Matlab 7.0进行仿真测试.通过训练LS-SVM得到模型具体参数值,然后对测试集数据进行预测,计算预测误差,并与神经网络模型、SVM模型预测结果进行对比.仿真结果表明,基于LS-SVM建立的交通安全预测模型比神经网络预测模型、SVM模型具有更高的运算速度和预测精确度.     

基于FTA与LS-SVM的航空部件危险性分级方法

针对目前危险性分级方法的不足,提出了基于故障树分析(fault tree analysis, FTA)与最小支持向量机(least square support vector machine, LS-SVM)的航空部件危险性定量分级方法。首先通过布尔代数法对FTA进行逻辑描述,采用概率重要度表示部件失效的后果严重程度,在此基础上通过LS-SVM对航空部件的危险性进行分级。实例证明,该方法能够准确地反映航空部件对飞行安全的影响。     

训练支持向量机的四重序列解析优化算法

为了提高训练支持向量机的序列最小优化算法的学习性能, 依据 在每次迭代中选取多个变量同时优化可能会减少迭代次数和缩短训练时间的这一想法, 提出了一个训练支持向量机的快速算法-四重序列解析优化方法, 并给出了一个重要定理, 使得相应的子问题有解析解, 从而能够更加精确和快速地逼近最优解. 在两个公共数据集上的仿真结果表明: 该方法比其它算法有较好的学习性能-在相同训练精度的条件下,不仅缩短了训练时间, 而且计算复杂度减小.     

LS-SVM与多层前向网络的非线性回归性能比较

在阐述支持向量机(SVM)和最小二乘支持向量机(LS-SVM)的原理并比较了两者的优缺点后,将LS-SVM与多层前向网络中的两种典型网络BP网络和RBF网络,分别应用于装载机载重动态测量的非线性函数回归估计中,对这三种网络在函数逼近和泛化能力两方面的性能进行比较研究。仿真结果表明,LS-SVM在精度和泛化性能两方面做到了最好的折衷,是用于非线性函数回归分析的一种很有效的方法。     

应用LS-SVM的飞机重着陆诊断

为提高飞机重着陆判断的准确性,研究了将最小二乘支持向量机(Least square supportvector machine,LS-SVM)应用于民航飞机重着陆诊断的方法.首先,通过分析飞机着陆阶段的运动方程,确定了造成飞机重着陆的主要影响因素,将传统的单一指标诊断扩展到多指标诊断.然后,利用最小二乘支持向量机建立飞机重着陆诊断模型,采用遗传算法优化模型参数.训练和测试样本取自航空公司飞行品质监控数据库中相关参数值.与两类神经网络模型的比较表明,该方法具有更大的应用价值.