一种基于分类精度的特征选择支持向量机

在综合序列前向选择(sequential forward selection,SFS)方法和广义序列前向选择(generalized sequential forward selection,GSFS)方法的基础上,提出了基于分类精度的特征选取(sequential forward selection based on classification accuracy, CA-SFS)方法。它依次改变GSFS方法中的r值,并以支持向量机(support vector machine,SVM)作为分类器,将得出的分类精度作为准则函数对特征进行取舍。仿真实验表明CA-SFS算法不但选择了较少的特征,而且取得了较好的分类效果。     

基于特征选择和聚类的分类算法

针对目前特征选择算法应用于数据分类精度不理想的问题, 提出一种基于最大相关最小冗余的特征选择算法, 该算法结合特征选择算法和聚类分析算法对特征进行处理, 将分类中冗余的特征去除. 利用支持向量机对一组心脏病患者实际测量得到的数据进行分类实验, 实验结果表明, 该方法可有效筛选影响分类的特征, 进而提高分类准确率.     

基于均匀设计的特征选择方法

针对模式识别系统中有效特征的选择问题,采用支持向量机作为分类器,提出了基于均匀设计的特征选择方法．根据均匀设计表的结构及采用的数据集进行训练、测试,最后检验所选的特征子集．实验结果表明,该方法能够有效地去除数据集的冗余特征,取得比使用特征全集更好的分类性能．     

一种改进的多类支持向量机超光谱图像分类方法

支持向量机（SVM）是建立在统计学理论基础上的一种机器学习方法,用于解决二类分类问题,如何有效地将其推广到多类分类问题是一个正在研究的课题．总结了现有的主要的支持向量机多类分类算法,并在1-a-1SVM分类算法基础上提出一种二次分类的方法．改良了惩罚因子,提高了不易分的类别之间的可分程度．通过对超光谱图像进行分类实验,结果表明该方法具有较高的分类精度．     

一种支持向量集合的精简算法

由支持向量机算法得到的支持向量集合通常不是分类所必需的最小集合,冗余支持向量的存在降低了支持向量机的分类速度和实用化能力．为此,提出一种精简支持向量集合的新方法,给出了从原支持向量集合中识别和剔除冗余向量、生成新支持向量集合并确定其元素权值的算法．新方法尤其适用于样本规模大、支持向量数目多的分类问题．实验表明它能够在基本不降低支持向量机分类精度的前提下,大幅度地减少支持向量的数目,提高支持向量机的分类速度．     

一种新的样本选择算法及其在文本分类中的应用

在保证分类性能的前提下,如何从大量的训练样本集合中选择重要样本子集,是模式分类中的一个重要问题.基于该问题提出了一种新的样本选择算法,并将该算法应用于文本分类,在标准文档集Reuters-21578、复旦文档集和20newsGroup新闻组文档集上进行了实验.实验结果表明:该方法能有效地选取边界样本,且采用SVM和KNN分类能得到较好的分类结果,尤其是在不均衡文档集上效果更佳.     

八种最小二乘SVM型学习算法的优势比较

我们知道,支持向量机(Support Vector Machine,SVM)型学习算法的计算复杂性和稀疏性对分析和处理大数据来说是非常重要的两个因素,尤其是对高维数据.学者们针对这两个因素做了大量的研究,提出了许多改进的SVM型算法,常见的有基于最小二乘技术的SVM型算法和孪生SVM型算法.它们当中,有些算法的出发点基本相同,但是求解方法上略有不同;有些算法有明显不同的出发点,其所构建的最优化模型也不相同.选取八个较具代表性的最小二乘SVM型算法,分析和比较它们之间的优势和劣势,以期读者更加深入的理解这类算法,且在应用于实际问题中时更具有选择性.     

支持向量机训练及分类算法研究

支持向量机(SVM)是在统计学习理论基础上发展起来的一种新的数据挖掘方法,已广泛应用于模式识别与回归分析等领域。针对一些主要的SVM训练算法,比较它们的特点,阐述其中最有代表性的序列最小优化(SMO)算法及其多种改进算法,还讨论一些典型的支持向量机多分类算法及支持向量机多标注算法。最后,指出亟待解决的一些问题。     

一种改进的NAS-RIF图像盲复原算法

针对模糊含噪退化图像的盲复原处理,文章以NAS-RIF算法为基础,对其存在的抑制噪声不理想的缺陷进行了相应改进.首先采用基于最小二乘支持向量机的去噪方法对退化图像进行预处理,在抑制噪声的同时保持图像的细节特征,进而在每次复原迭代过程中加入低通滤波环节,进一步减少噪声对代价函数收敛的影响,提高复原图像的信噪比.另外,对退化图像使用了阈值分割技术确定图像支撑域,保证复原的准确性.实验结果表明,改进的NAS-RIF算法抗噪声干扰的能力比原算法有显著的提高.     

基于改进克隆选择算法的最小二乘支持向量机

针对最小二乘支持向量机的参数选取问题,引入了克隆选择算法,提出了一种基于改进克隆选择算法的最小二乘支持向量机。同时根据最小二乘支持向量机的学习能力和泛化能力,在克隆选择算法的目标函数中加入两者的动态调节机制,这样改进的克隆选择算法在寻优过程中能够准确、快速地搜索到最小二乘支持向量机的最优参数。将本文模型用于乙烯裂解炉裂解深度值的学习和预测,经仿真实验表明：该预测模型的训练速度快,预测精度高。     

基于特征优选和图像相似度的人体动作识别算法

有效提取特征有利于提高后续人体动作识别的准确率。针对人体动作识别时方向梯度直方图(histogram of oriented gradient,HOG)特征维数过高和相似动作不好区分的问题,提出一种基于特征优选和图像相似度的人体动作识别算法。实验对比三种降维方法主成分分析法(principal component analysis,PCA)、PCA+Pearson、PCA+Spearman处理后的动作识别率,证明PCA+Pearson相关系数的降维效果最佳。同时将全局特征八星模型与降维后的局部特征HOG特征组合在一起全面表征人体动作,并计算相邻两帧图像相似度,自适应分配一个判别周期内单帧支持向量机分类结果的统计权值,最后二次分类人体姿态识别结果。在标准数据集KTH上进行实验,该算法识别准确率为94. 5%,较其他方法有所提高,在视频人体动作识别领域有较好应用价值。     

基于乌鸦搜索算法的新型特征选择算法

基于元启发式算法--乌鸦搜索算法（CrSA）, 提出一种改进的基于乌鸦搜索算法的特征选择算法（IFSCrSA）, 以解决目前特征选择问题中存在的不足. 通过与传统的机器学习特征选择算法和基于进化计算的特征选择算法进行比较, 结果表明, IFSCrSA能在数据集中选择辨识度较强的特征, 不仅大幅度降低了特征子集的规模, 而且提高了分类准确率.     

基于乌鸦搜索算法的新型特征选择算法

基于元启发式算法--乌鸦搜索算法（CrSA）, 提出一种改进的基于乌鸦搜索算法的特征选择算法（IFSCrSA）, 以解决目前特征选择问题中存在的不足. 通过与传统的机器学习特征选择算法和基于进化计算的特征选择算法进行比较, 结果表明, IFSCrSA能在数据集中选择辨识度较强的特征, 不仅大幅度降低了特征子集的规模, 而且提高了分类准确率.     

SVM的特征选择方法在高校就业预测中的应用研究

针对样本和高维数据,研究基于支持向量机的特征选择算法及其在高校就业预测中的应用.利用采集的就业数据,使用SVM方法对数据集进行特征选择,再利用SVM分类器对数据进行已就业和未就业学生的分类,得到了较好的预测结果,为高校就业指导提供了一定的依据.     

支持向量机近似模型的参数选取及其在结构优化中的应用

针对非线性结构响应预测的支持向量机(SVM)近似模型的参数选取问题,提出了应用粒子群算法进行参数优化,建立了具有最优参数的SVM近似模型,并与以训练集数据建立常规的SVM、二阶响应面(RSM)和径向基神经网络(RBFNN)近似模型进行对比.结果表明:以优化参数建立的SVM近似模型比常规的SVM近似模型有更好的预测能力;可以避免RSM和RBFNN近似模型中的过拟合现象,具有更优的推广能力.最后,将最优参数的SVM近似模型用于船舶结构优化中,取得了具有良好工程实用性的优化结果.     

基于子空间选择的SVM快速算法及其在医学图像奇异点检测中的应用

支持向量机（SVM）花费大量时间用于对非支持向量样本的优化．根据支持向量都是位于两类边界的靠近分类超平面的样本点，本文提出首先利用基于中心距离比值法排除大部分远离分类超平面的样本，然后以最小类间距离样本数作为测度进一步选择边界样本．得到包含所有支持向量的最小样本集，构成新的训练样本集训练SVM．将提出的算法应用于解决医学图像奇异点检测问题．实验结果表明．该算法减小了训练样本集的规模，有效地缩短了SVM训练算法的时间．同时获得了较高的榆出率．     

基于Isomap的SMO算法及在煤与瓦斯突出预测中的应用

煤与瓦斯突出发生的内在机理复杂,突出影响因素与突出事件之间的相关规律具有不确定性、模糊性,使得基于经验的传统预测方法和基于数学建模的统计预测方法的应用受到很大限制.在研究非线性降维等距特征映射和序贯最小优化算法的基础上,提出一种基于等距特征映射的煤与瓦斯突出序贯最小优化算法,该方法改进了样本向量之间的距离度量,用测地距离代替传统的欧式距离,有助于挖掘高维数据内在的几何结构.实例验证表明,该算法能可靠预测煤与瓦斯突出的危险性分类,实验进一步将Isomap和主成分分析的降维结果相比较,结果显示Isomap优于传统的线性降维技术,这说明非线性降维技术在地学数据分析中具有一定的应用潜力.     

差分进化樽海鞘群特征选择算法

针对樽海鞘群优化算法(SSA: Salp Swarm Algorithm)在求解特征选择问题时存在易陷入局部最优、收敛速度慢的不足,基于樽海鞘群优化算法提出了新的改进算法差分进化樽海鞘群特征选择算法(DESSA:Differential Evolution Salp Swarm Algorithm).DESSA中采用了差分进化策略替代平均算子作为新的粒子迁移方式以增强搜索能力,并加入进化种群动态机制(EPD: Evolution Population Dynamics),加强收敛能力.实验中以KNN(K-Nearest Neighbor)分类器作为基分类器,以UCI(University of California Irvine)数据库中的8组数据集作为实验数据,将DESSA与SSA同具有代表性的算法进行对比实验,实验结果表明,DESSA算法各考察指标较原算法有明显提升,较其他算法相对优越.     

基于DYCORS算法的OVA-SVM参数优化与应用研究

目的 现有的参数优化方法普遍存在时间成本较大、内存占用较大、难以解决高维数据情况、难以找到全局最优解等问题,DYCORS算法可以在节约时间成本和内存的前提下,对高维数据问题也能找到全局最优解,故针对现有参数优化方法存在的问题,提出了针对OVA-SVM模型参数分块优化的YDYCORS算法。方法 OVA-SVM的参数中对模型影响较大的有惩罚参数C、核函数类型k、RBF核函数参数γ、ploy核函数参数d以及迭代终止参数t,由于同时调节5个参数计算量较大,难以找到最优解,而DYCORS算法可以减少迭代次数,对于高维数据问题也同样适用,在DYCORS算法的基础上进行参数分块调节：先调节影响最大的参数C、k、γ,再固定最优参数C、k、γ,调节剩余参数中影响较大的参数d和t,最后同时调节已获得的5个最优参数,如此对参数进行分块调节,提升参数优化的效果。结果 通过MNIST和IRIS两个数据集上的实验结果对比可以发现：运用YDYCORS算法对OVA-SVM参数进行分块调节后,能得到与手动调参和直接用DYCORS同时调节5个参数更高的模型准确率,从而也能进一步提升模型性能。结论 最终实验结果表明：DYC...