最小二乘支持向量机的参数优选方法及应用

支持向量机是一种新型的学习方法,该方法以结构风险最小化原则取代传统机器学习中的经验风险最小化原则,在小样本的机器学习中显示出了优异的性能.传统的支持向量机是解凸二次规划问题,而最小二乘支持向量机是解等式线性方程,显得尤为方便,通过建立适当的性能指标,用遗传算法优化最小二乘支持向量机的有关参数,并在非线性经济系统中应用.用最小二乘支持向量机对非线性经济系统进行预测并与其它方法的预测结果比较,结果证明,该模型的预测精确度是令人满意的,文中提出的方法是可行的.     

基于LS-SVM的机器人逆运动学建模

提出了基于最小二乘支持向量机的机器人逆运动学建模方法，阐述了基本设计思想和具体算法过程，与RBF神经网络相比，最小二乘向量机的优点在于其训练过程遵循结构风险最小化原则，不易发生过学习现象。它通过解一组线性方程组得到全局唯一最优解。其拓扑结构在训练结束时自动获得而不需要预先确定，通过对二自由度刚性机器人的仿真，结果验证了该方法的有效性和可行性。     

基于自由搜索的LS-SVM在墒情预测中的应用

为有效地利用墒情监测资料预测未来墒情,考虑支持向量机的结构风险最小化准则和自由搜索算法良好的全局优化特点,应用最小二乘支持向量机方法,构造了优化目标函数,引入自由搜索算法对该目标函数寻优从而辨识模型参数,建立了预测墒情的最小二乘支持向量机(LS-SVM)模型.实例分析表明,支持向量机方法对墒情序列的平稳性要求不高,且模型易于实现,与传统的时间序列模型以及基于粒子群算法和鱼群算法的LS-SVM模型相比,基于自由搜索算法的LS-SVM模型具有较好的模拟及预测精度,相对误差小于15%的模拟值及预测值分别达到了100%和94.4%.     

模糊偏最小二乘支持向量机的应用研究

基于偏最小二乘回归法和模糊隶属度函数,提出了一种模糊偏最小二乘支持向量机.传统最小二乘支持向量机引入模糊加权系数后,可以根据训练样本点的情况调整折衷系数,有效地提高了最小二乘支持向量机的抗噪性能.同时利用偏最小二乘回归法,克服了求解线性回归方程中自变量向量间的多重相关性问题.利用 sinc 函数对该建模方法进行了测试,并进一步对铜转炉吹炼时间的预测问题进行了仿真研究.仿真结果表明,该建模方法具有预测准确、跟踪性能好的优点.     

基于导频的OFDM信道估计小波核SVM算法

针对传统多径衰落下的OFDM导频信道估计性能低下,地板效应的缺陷,提出了基于导频的小波递归最小二乘支持向量机(WRLS-SVM)时变信道频率估计算法。首先讨论了小波成为核函数的条件,构造了小波核。然后将根据结构风险递归二乘最小化准则回归估计支持向量机原理,把导频训练序列映射到高维空间,并在高维空间采用结构小波核函数,达到了将低维空间的非线性估计转化为高维空间的线性估计的目的。仿真结果表明,在快衰落信道条件下,小波递归最小二乘支持向量机导频信道估计方法可以获得较好误码性能。该方法优于传统的信道插值方法。     

基于支持向量机的非线性模型预测控制

支持向量机是基于统计学习理论的新一代机器学习技术。由于使用结构风险最小化原则代替经验风险最小化原则,使它较好地解决了小样本情况下的学习问题。又由于采用了核函数思想,使它把非线性问题转化为线性问题来解决,降低了算法的复杂度。提出了一种基于支持向量机的模型预测控制结构,并使用一个新的随机搜索优化算法来求解预测控制律,计算机仿真证明了所设计的控制算法的正确性和有效性。     

基于最小二乘支持向量机的软测量建模

软测量技术在工业过程控制中得到了广泛的应用，对保证产品质量和安全生产有很重要的作用。软测量技术的核心问题是建立优良的软测量数学模型。支持向量机是近几年发展起来的机器学习的新方法，它较好地解决了小样本、非线性、高维数、局部极小点等实际问题。本文研究了基于最小二乘支持向量机的软测量建模方法，并用交叉验证的方法进行支持向量机参数选择。将基于最小二乘支持向量机的软测量模型应用于轻柴油凝固点的预估。结果表明最小二乘支持向量机是软测量建模的一种非常有效的方法。     

多参数装备费用的支持向量机预测

支持向量机是一种采用结构风险最小化原则代替传统经验风险最小化原则的新型统计学习方法 ,具有完备的理论基础。首先应用支持向量机原理建立了基于支持向量机的多参数装备费用预测模型 ,然后采用模型对整套机载电子设备费用进行了预测。通过与多元线性回归和神经网络的预测结果对比 ,建立的新型装备费用预测模型具有更好的预测精度     

不平衡最小二乘支持向量机

针对标准的最小二乘支持向量机(LSSVM)没有考虑样本分布不平衡的问题提出一种称为不平衡最小二乘支持向量机的算法.首先用标准的最小二乘支持向量机对原始数据进行初步训练,产生一个分离超平面的法向量.然后把高雏样本投影到该法向量上得到一维数据.最后由该一维数据的标准差以及样本数量差异所提供的信息,给出两类数据惩罚因子比例,再用标准的最小二乘支持向量机进行第二次训练,对分离超平面进行调整.该方法克服传统方法只考虑数量的不平衡的不足,将原有样本集中具有的分类信息充分提取出来,提高了最小二乘支持向量机的泛化能力.实验结果表明,所提方法可以有效提高不平衡数据的分类性能.     

最小二乘支持向量机在强化学习系统中的应用

将连续状态空间下的Q学习构建为最小二乘支持向量机的回归估计问题,利用最小二乘支持向量机良好的泛化以及非线性逼近性能实现由系统状态-动作对到Q值函数的映射。为了保证计算速度以及适应Q学习系统在线学习的需要,最小二乘支持向量机的训练样本是窗式移动的,即在Q学习系统学习的同时获取样本数据并进行最小二乘支持向量机的训练。小车爬山控制问题的仿真结果表明该方法学习效率高,能够有效解决强化学习系统连续状态空间的泛化问题。     

LS-SVM的GCV模型选择方法与快速算法

在最小二乘支持向量机(LS-SVM)的模型选择问题中,基于再抽样技术的模型选择方法(如Bootstrap和快速Bootstrap),不能从根本上解决计算强度过高的问题.提出了基于GCV准则的模型选择方法,并建立了LS-SVM模型超参数(或旋转参数)估计的快速算法.实证研究表明:给出的快速GCV模型选择方法不仅能保证模型的预测精度,而且在计算速度上具有相对于快速Bootstrap的巨大优势.     

基于GA和LS-SVM的AGV变结构控制

为了提高自动引导车控制的精度,提出了一种基于遗传算法和支持向量机的变结构控制方法。利用遗传算法结合支持向量机在线调整变结构控制律中的参数,克服了常规变结构控制方法中需预先设定趋近律参数的限制,既保留了传统趋近律的优点,又有效的改善了系统的控制品质,消除了系统抖振,使系统最终以理想方式在滑模面上运动,理论分析和仿真结果表明了所提出方法的有效性。     

基于PCA和最小二乘支持向量机的软测量建模

软测量技术是解决工业过程中普遍存在的一类难以在线测量变量估计问题的有效方法,支持向量机是基于统计学习理论的一种新的机器学习方法。提出了一种基于主元分析(PCA)和最小二乘支持向量机的软测量建模方法,用主元分析对输入变量进行数据压缩,消除变量之间的相关性,简化支持向量机结构,并通过交叉验证的方法对支持向量机进行参数选择。将其用于4-CBA软测量建模的结果表明:该方法具有学习速度快、跟踪性能好以及泛化能力强等优点,为4-CBA软测量建模的在线实施提供了方便。     

基于SVM的故障预报中的并行优化仿真研究

在基于支持向量机的故障预报过程中,故障样本数据的不相关变量会影响支持向量机的性能;加权支持向量机中直接选择加权系数存在很多不足;支持向量机参数主要凭人的经验或通过多次实验获得,还没有一个确定而有效的方法.针对这三种问题,提出了采用改进的人工鱼群算法将特征选择、加权系数、支持向量机参数进行并行优化的方法,并将此方法应用于船舶动力装置冷凝器的故障预报中.仿真结果表明:相对于单独优化,并行优化能够在更短的时间内进行最有效的故障特征提取,并且提高支持向量机的性能;相对于遗传算法,改进人工鱼群算法能够以更快的速度达到最终的优化结果.     

LS-SVM与多层前向网络的非线性回归性能比较

在阐述支持向量机(SVM)和最小二乘支持向量机(LS-SVM)的原理并比较了两者的优缺点后,将LS-SVM与多层前向网络中的两种典型网络BP网络和RBF网络,分别应用于装载机载重动态测量的非线性函数回归估计中,对这三种网络在函数逼近和泛化能力两方面的性能进行比较研究。仿真结果表明,LS-SVM在精度和泛化性能两方面做到了最好的折衷,是用于非线性函数回归分析的一种很有效的方法。     

催化剂粉尘浓度软测量建模研究与应用

采用基于Mie理论的激光散射法测量催化剂粉尘浓度时,催化剂粉尘浓度与监测参数——入射光强、散射光强、出射光强以及烟气流量之间存在着复杂的非线性关系,给粉尘浓度的准确测梁带来困难。利用支持向量机优良的非线性映射和强大的泛化能力,建立了一个基于最小二乘支持向量机的催化剂粉尘浓度软测量模型,给出了相应的系统结构和算法,并通过网格搜索和交叉验证的方法对支持向量机进行参数选择。采用遗忘因子法和数据滑动时间窗技术对工业软测量模型进行在线校正,克服了工况条件发生改变时的估计偏差,提高了估计精度。仿真和实际运行结果表明基于LS-SVM的软测量模型具有较高的估算精度与泛化能力,为催化剂粉尘浓度的在线测量提供了一种简单、可靠的新方法。     

基于分组特征多核支持向量机的微钙化簇检测

针对疑似区域内的乳腺微钙化簇和正常乳腺组织特征的多源性这个一直被忽略的问题,提出基于分组特征多核支持向量机(GF-SVM)的乳腺微钙化簇检测。特征被分组后针对不同源特征分别使用不同的核函数映射,组合成多核SVM。将多核SVM转化为半定规划问题,求解多核SVM的核函数权值系数。在训练样本的选择方面采用主动反馈学习方法最终得到稳定的样本模型。实验结果表明,与传统的基于单核SVM相比,该方法具有更好的检测性能。     

基于非监督贝叶斯学习雷达性能指标动态评估

针对传统雷达性能指标评估方法相对"机械"、缺乏理论约束,需要多次重复实验,导致评估效率较低,评估成本较高等问题,提出基于非监督贝叶斯学习方法的雷达性能指标动态评估算法,在一定雷达探测目标先验假设下,结合典型回波观测数据模型,建立雷达性能指标后验概率模型.考虑到先验知识与观测数据可能存在的非共轭特性,针对先验概率模型建立...     

基于FTA与LS-SVM的航空部件危险性分级方法

针对目前危险性分级方法的不足,提出了基于故障树分析(fault tree analysis, FTA)与最小支持向量机(least square support vector machine, LS-SVM)的航空部件危险性定量分级方法。首先通过布尔代数法对FTA进行逻辑描述,采用概率重要度表示部件失效的后果严重程度,在此基础上通过LS-SVM对航空部件的危险性进行分级。实例证明,该方法能够准确地反映航空部件对飞行安全的影响。