线性规划支持向量机

通过对统计学习理论中的支持向量回归问题,特别是结构风险问题和ε-不敏感函数的分析,得到了一种新的支持向量回归算法.新算法将传统的支持向量回归问题中的二次优化问题改进为线性规划问题,这一改进大大降低了求解的复杂度,其训练时间快了至少一个数量级以上.最后对人工和实际的样本进行了试验,结果说明了线性规划支持向量回归能较好地逼近被估计函数,且计算复杂度明显降低.     

基于支持向量回归的增量学习算法

提出了一种基于支持向量回归的增量学习算法,该算法在增量学习中除了考虑原训练集中的支持向量(SVs)外,还考虑了非SVs与ε-带(-iεnsensitive zone)的边界距离较近的样本,并将这些样本与新的训练集一起训练.试验结果表明,与传统的支持向量机增量学习算法相比,此算法提高了训练精度;与经典的SVR相比,此算法大大节约了训练时间,是一种行之有效的增量学习算法.     

基于支持向量回归的钢材力学性能模型及应用

根据化学成分准确预测钢材产品的力学性能并及时调整相关生产的控制策略,将有效地提高钢铁生产的最终产品质量.支持向量机是一种建立在统计学习理论基础上的机器学习方法,介绍了基于此算法基础上的一种ε-支持向量回归机算法及其推导过程,建立了基于ε-支持向量回归机的钢材力学性能模型,通过实际应用表明该模型比Excel回归预测具有更高的精度.     

一种新的支持向量回归预测模型

综合最小二乘回归估计和支持向量机回归估计算法的各自在回归理论上的优势,通过理论推导,提出一种改进的支持向量机回归估计算法--SVR-LS方法.然后通过实验对比验证,发现新方法不但在拟合逼近方面有不错的效果,而且在回归估计方面,其学习速度和精度都要优于标准的支持向量机回归估计算法.     

一种基于聚类的支持向量机增量学习算法

提出了一种基于聚类的支持向量机增量学习算法.先用最近邻聚类算法将训练集分成具有若干个聚类子集,每一子集用支持向量机进行训练得出支持向量集;对于新增数据首先聚类到相应的子集,然后计算其与聚类集内的支持向量之间的距离,给每个训练样本赋以适当的权重;而后再建立预估模型.此算法通过钢材力学性能预报建模的工业实例研究,结果表明:与标准的支持向量回归算法相比,此算法在建模过程中不仅支持向量个数明显减少,而且模型的精度也有所提高.     

基于粗糙集的支持向量回归机混合算法

利用粗糙集(RS)对不精确数据的处理能力,生成分类数据的边界集,替代原始样本作为训练集,减少训练集与获取的支持向量的数量,然后使用支持向量机的最小序列优化(SMO)算法改进回归学习机的性能.将粗糙集与SMO回归算法结合提出一种混合函数回归算法RS-SMO-RA.在常用SMO回归算法SMO-RA基础上,扩增一段简短的生成边界样本的算法程序.仿真结果表明,算法RS-SMO-RA的效率更高,且能够改进学习结果的性能.     

支持向量回归多参数的同时调节

参数调节问题是支持向量回归的基本问题.已有的参数调节方法主要采用内外双层优化框架,调节过程中,训练学习器与更新超参数交替进行.这种嵌套结构具有较高的计算复杂性.针对这一问题,提出了支持向量回归多参数的同时调节模型.首先,将Lagrange乘子、惩罚因子、不敏感度参数和核函数参数合并为一个参数向量,推导出支持向量回归问题的一个新的表示形式,可将原来分离的双层调节过程整合为一个单层调节过程.然后,应用贯序无约束极小化技术(SUMT),将支持向量回归问题转化为多元无约束优化问题.在此基础上,应用变尺度方法(VMM)设计、分析并实现了一个同时调节算法.最后,通过标准数据集上的实验,验证了同时调节算法的收敛性,并比较了同时调节算法与常用调节算法的有效性和计算效率.理论分析与实验结果表明,同时调节模型是一正确且有效的多参数调节模型.     

基于超球的支持向量机增量学习算法

支持向量机方法已经成功地应用于解决分类和回归问题,但是在训练支持向量机时需要求解二次规划问题,使得支持向量机的训练时间过长,训练样本量越大,这个缺陷越明显.将超球方法与回归支持向量机相结合,提出一种增量学习的新方法.该方法使用两个同心超球缩减训练集,以达到提高训练速度的目的.通过分析表明,这种新的增量学习方法较普通支持向量机训练方法有较低的计算复杂度.实验结果表明,该算法可以在不降低预测准确性的同时减少大量建模时间.     

深度信任支持向量回归的耕地面积预测方法

针对目前浅层机器学习预测方法所需学习和训练的样本过大及拟合复杂数据能力弱等不足,提出一种基于深度学习思想的深度信任支持向量回归(support vector regression,SVR)的耕地面积预测方法.首先,搭建由1层高斯分布函数显层节点的RBM、多层隐层RBM和1层支持向量回归机构成的深度信任支持向量回归预测模型;其次,选取较为合适和易得的训练数据,通过样本训练和测试确定预测模型的具体结构参数;最后,通过实验将深度信任支持向量回归耕地面积预测方法与其他典型的耕地面积预测算法相比较.结果表明,提出的耕地面积预测方法可行、有效,在相同的数据和平台下,其预测精度高于其他具有代表性的耕地面积预测算法.     

加权支持向量回归在线学习方法

在标准支持向量回归在线学习的基础上,提出了一种加权支持向量回归在线学习方法(WOSVR),即加权支持向量机中针对不同样本点使用不同惩罚系数C,且不同惩罚系数C反映了样本重要性的不同,WOSVR中近期数据重要性大于历史数据重要性.使用基准数据Mackey-Glass混沌序列进行了相关验证实验.结果表明,加权支持向量回归在线学习方法能有效修改模型.     

多输出支持向量回归算法

支持向量机是一种基于统计学习理论的新颖的机器学习方法,由于其出色的学习性能。该技术已成为当前国际机器学习界的研究热点．这种方法已广泛用于解决分类和回归问题．在回归中。目前的研究和应用都限于单输出的情况,而实际中有很多属于多输出回归问题．针对这一点,将支持向量回归算法推广到多输出情况．仿真实例说明了该算法的可行性．     

基于正反馈的支持向量机

在分析现有的基于高斯核的支持向量机(包括基于K-邻域法的支持向量机)的优缺点的基础上,通过对支持向量机之所以能够描述数据集的分布特征的本质进行分析,突破目前在构造支持向量机中存在的"所有支持向量与样本之间的在特征空间中的内积所对应的核函数参数一定要相等"的这一苛刻要求,提出了用于模式识别的基于正反馈的支持向量机.给出了基于正反馈的支持向量机的算法.通过对人工数据和现实数据的仿真实验,表明基于正反馈的支持向量机在推广性能方面明显优于现有的支持向量机.     

基于预测-校正原对偶内点法的多分类支持向量机学习算法

支持向量机基于统计学习理论,是一种新型通用的有监督的机器学习方法,其核心思想是使结构风险极小化,但是由于需要求解二次规划,使得它在求解大规模数据上具有一定的局限性,尤其是对于多分类问题,现有的支持向量机算法具有很高的复杂性.本文构造了基于线性规划的一对一三类结构支持向量分类器,可以直接利用比较成熟的线性规划算法——预测-校正原对偶内点法,并在此基础上提出了基于预测-校正原对偶内点法的支持向量机的多分类学习算法,这种算法可用于比较庞大的多类别识别问题,并且克服了标准支持向量机的一些缺点,而且模型简单,容易实现.针对UCI数据库上数据进行了实验,结果证实该算法具有较高的可行性和实用性.     

基于模糊训练数据的支持向量机与模糊线性回归

支持向量机作为1种机器学习方法已广泛应用于模式识别及函数拟合,但在支持向量机中,训练数据均为精确数据.针对训练数据的输入是模糊数的情况,研究基于模糊训练数据的分类型支持向量机,并给出其解法.然后应用基于模糊训练数据的支持向量机研究模糊线性回归问题.     

关于改进的支持向量机的研究

支持向量机是一种基于统计学习理论和对偶理论的分类和函数估计方法,其推广能力强和全局最优的特点引起了学者的广泛关注。本论文对目前所提出的各类改进的支持向量机进行了初步的研究和分析。     

一种组合导航系统故障检测算法

在研究组合导航系统常用故障检测方法的基础上,将两种χ2故障检验法的检验量相结合,提出了一种针对组合导航系统的二叉树模糊支持向量机故障检测算法.该算法综合应用了Kalman滤波器、二叉树支持向量机等理论,采用模糊因子有效地减弱了噪声样本数据对支持向量机训练结果的影响,采用二叉树支持向量机的多个支持向量机实现对组合导航系统的多级故障进行多级分类和故障检测.最后,针对MINS/GPS组合导航系统,进行了相关仿真研究,仿真结果证明了该方法的有效性.     

PSVM,LSVM和NLSVM三种SVM分类算法的比较

支持向量机(SVM)是数据分类的强大工具,本文对三个分类算法进行了比较.这三个算法是最近SVM(PSVM),Lagrangian SVM(LSVM)和有限牛顿LSVM(NLSVM),比较了三个算法给出线性分类器的过程以及算法的速度和精度,提供了用SVM方法分类问题时的导向.     

On-line Weighted Least Squares Kernel Method for Nonlinear Dynamic Modeling

Support vector machines （SVM） have been widely used in pattern recognition and have also drawn considerable interest in control areas. Based on rolling optimization method and on-line learning strategies, a novel approach based on weighted least squares support vector machines （WLS-SVM） is proposed for nonlinear dynamic modeling. The good robust property of the novel approach enhances the generalization ability of kernel method-based modeling and some experimental results are presented to illustrate the feasibility of the proposed method.     

导航星三角形分类选取算法研究

为减小星三角形的冗余度,生成三角形数量最少、分布均匀性好的导航星三角形信息表,提出了一种以支持向量机为基础的导航星三角形选取优化算法．该算法通过一种以统计学习理论为基础的支持向量机寻求最优决策分类面,在由导航星表所生成的三角形中提取导航星三角形．实验结果表明,本算法所生成的导航星三角形表中的星三角形数量少,所需存储空间小,空间分布均匀性良好．     

一种新型加权支持向量回归机

与统计学习理论结合,并把数据样本映射到高维空间,有时标准支持向量回归机运算速度和精度不理想.针对线性不可分的情况,在支持向量回归机目标函数中增加两个平方松弛项,这样可以减少两个约束条件.每个松弛项赋予不同的加权系数,可根据实际需要调节它们的权重.这种新算法称为新型加权支持向量回归机(weighted support vector regression machine,WSVRM),并把它用于函数逼近.实验结果表明,所提出的新型加权支持向量回归机具有良好的函数估计能力和数据预测能力.