基于模糊信息粒化软测量建模方法研究

提出了一种模糊信息粒化方法和支持向量机相结合的软测量建模方法.利用模糊信息粒化方法对样本数据进行特征提取,降低样本的维数;利用提取的特征作为支持向量机的输入进行建模.用该方法建立柴油凝点的软测量模型,结果表明,该模型具有很好的预测精度和泛化性能,是一种有效的数据建模方法.     

Support Vector Machine Ensemble Based on Genetic Algorithm

Support vector machines （SVMs） have been introduced as effective methods for solving classification problems. However, due to some limitations in practical applications, their generalization performance is sometimes far from the expected level. Therefore, it is meaningful to study SVM ensemble learning. In this paper, a novel genetic algorithm based ensemble learning method, namely Direct Genetic Ensemble （DGE）, is proposed. DGE adopts the predictive accuracy of ensemble as the fitness function and searches a good ensemble from the ensemble space. In essence, DGE is also a selective ensemble learning method because the base classifiers of the ensemble are selected according to the solution of genetic algorithm. In comparison with other ensemble learning methods, DGE works on a higher level and is more direct. Different strategies of constructing diverse base classifiers can be utilized in DGE. Experimental results show that SVM ensembles constructed by DGE can achieve better performance than single SVMs, hagged and boosted SVM ensembles. In addition, some valuable conclusions are obtained.     

低阶数据映射和特征加权的线性SVM

针对传统线性支持向量机在训练数据集时均等对待每一维输入特征,以及在原始空间直接分类造成预测准确率低的问题,提出低阶多项式数据映射和特征加权相结合的方法,来提高线性支持向量机的分类性能。该方法首先将每个样本映射到多项式核对应的2 阶显式特征空间,从而增加样本的隐性信息,然后使用模糊熵特征加权算法计算每一维特征的权重,通过权重衡量特征对分类结果的贡献大小。从不同数据库选取7个数据集进行测试,在训练时间和预测准确率2个方面将该方法与核支持向量机、线性支持向量机的其他改进算法进行比较。结果显示,随着数据集规模的扩大,训练时间降低一个数量级,预测准确率在一些数据集上取得与核支持向量机相接近的效果。结果表明：所提方法可以有效提高线性支持向量机的整体性能。     

基于主成份分析的Bagging集成学习方法

机器学习中数据集的冗余特征会影响学习器的泛化能力，一些流行方法如支持向量机和集成学习也难免于此．研究了利用主成份分析进行特征变换对Bagging集成学习算法的影响，提出一种称为PCA—Bagging的算法，并与其它算法比如单个支持向量机、支持向量机Bagging集成、带有特征变换的单个支持向量机等进行了性能比较．在多个UCI标准数据集上的实验表明PCA—Bagging算法具有更好的性能，这说明即使是泛化能力很强的集成学习方法其学习的数据也需要进行适当的特征变换。     

深度模型集成的不良图像分类

移动通信技术的飞速发展在提升用户通信体验的同时也为不良信息的散布提供了便利,针对如何在大量数据中进行不良内容的识别与过滤问题,提出一种基于深度模型集成的不良图像分类模型(EDM),通过集成多个结构不同、信息互补的深度模型来最优地区分分布差异较大的不良图像.为了验证本方法的有效性,建立一个真实移动通信场景下的不良图像数据集,并在此数据集上与基于传统支持向量机(SVM)的不良图像分类模型、基于深度卷积神经网络的Alexnet、VGG与Googlenet分类模型做对比.实验结果表明:本文所提深度模型集成方法在不良图像分类性能上明显优于其他模型,分类精度、精确率和召回率分别达到94%、84%和98%.     

Grassmann流形上半监督特征映射算法及其视频目标识别

将视频集看成Grassmann流形上的子空间集合,结合半监督的拉普拉斯特征映射算法,即基于子空间相似性度量和具有标记子空间的类别信息,将视频集非线性地映射到低维欧氏空间,提出Grassmann流形上半监督特征映射算法对视频目标进行识别,该算法分别在步态视频数据库、人手姿势视频数据库和物体姿势视频数据库上进行了目标识别实验,并和典型的基于子空间相似性的分类算法的识别结果进行对比,证明该算法具有较好的性能。     

基于核函数主元分析的SVM建模方法及应用

为有效克服线性建模方法在非线性建模方面的不足,将核函数思想引入到主元分析方法(PCA)中,有效提取实验数据中的非线性特征信息,并将其作为支持向量机(SVM)的输入变量,建立工业过程软测量模型。该方法应用于丙烯腈聚合过程中转化率的预报,结果表明:该方法的预测精度优于PCA-SVM方法和KPCA-NN方法。     

基于DW-ICA-SVM的工业过程故障检测算法

为了有效提高支持向量机(SVM)算法的故障检测和监视性能,提出一种新的基于DW-ICA-SVM的工业过程故障检测算法.首先,对训练数据进行标准化,运用独立元分析(ICA)获取数据的独立元矩阵,提取隐藏的非高斯信息.其次,运用杜宾-瓦特森(Durbin-Watson,DW)准则计算独立元(ICs)的DW值,通过DW方法有...     

一种基于核学习的非均衡数据分类算法

提出一种基于核学习的采样算法来处理支持向量机(support vector machine,SVM)在非平衡数据集上的分类问题,其核心思想是首先在核空间中对少数类样本进行上采样,然后通过输入空间和核空间的距离关系寻找所合成样本在输入空间的原像,最后再采用SVM对其进行训练,从而有效克服在不同空间处理训练样本所带来的数据不一致问题.另一方面,该算法在增加少数类样本数量,减小数据失衡程度的同时有效拓展了少数类样本所形成的凸壳,从而能够更为有效纠正最优分类超平面偏移问题,使获得的结果分类器具有更好的泛化性能,实验结果证明了该算法的高效性.     

一种基于支持向量机的多分辨率信号逼近算法

为了进一步提升多分辨率信号逼近算法(MSA)的逼近性能,提出了一种基于支持向量机(SVM)的信号多分辨率逼近算法(SVM-MSA).SVM-MSA以尺度子空间是再生核希尔伯特空间为前提,先在MSA中集成SVM的逼近准则并得到一个无约束规划,再引入松弛变量将无约束规划转化为约束规划,最后借助拉格朗日乘子法求解约束规划,获得逼近系数与逼近表达式.SVM-MSA不仅保留了MSA的多分辨率逐级逼近特点,而且兼具SVM良好的逼近准确度与平滑度.实验结果表明:在逼近sinc信号时,SVM-MSA具有比MSA更好的逼近准确度与平滑度;在噪声环境下,当输入信噪比大于约2 dB时,具有更强的稳健性.     

中文情绪识别方法研究

以中文情绪语料库(Ren-CECps)为基础,重点研究了句子级情绪识别方法.比较了不同特征以及不同机器学习分类方法(NB,SVM,ME)对情绪识别的影响.此外,针对情绪文本和非情绪文本在语料中的分布非常不平衡问题,通过集成学习的算法来实现不平衡情绪识别,用以提高情绪识别的整体性能.实验结果表明:使用基于样本的集成学习方法能够有效解决不平衡问题,明显提高情绪识别的分类性能.     

单形进化算法优化的SVM滚动轴承故障诊断

由于支持向量机的参数优化算法存在控制参数多、易陷入局部最优解的问题,提出了一种单形进化算法优化的支持向量机滚动轴承故障诊断方法.首先,单形进化算法利用全随机的方式建立粒子的单形邻域搜索算子以减少算法控制参数,建立粒子多角色态搜索策略以避免算法陷入局部最优解;然后,将单形进化算法应用于支持向量机的参数寻优,并用滚动轴承信号完成故障诊断;试验中,采用滚动轴承信号的集总经验模态分解的能量特征作为输入,进行算法的性能分析与测试.结果表明该算法可以有效地缓解粒子陷入局部最优解,且减少了控制参数,并能完成滚动轴承故障信号的诊断与识别.     

基于互补子空间线性判别分析的人脸识别

基于随机子空间,提出了一种用于人脸识别的互补子空间线性判别分析方法. 与Fisherface和零空间线性判别分析相比,该方法同时在主元子空间和零空间中进行判别分析,并在特征层融合这两个子空间的判别特征. 根据最适宜的零空间状态构建随机子空间,随机子空间的融合在决策层进行. 多个人脸数据库上的实验结果表明,本算法能够有效地解决线性判别分析中的小样本规模问题.     

视频人脸识别中基于聚类中心LLE的特征相似性融合方法

针对大部分现有视频人脸识别方法通常仅利用代表性范例或图像集而较少研究有效融合的问题,提出了一种基于聚类中心特征相似性融合方法。首先,使用局部线性嵌入从原始数据空间学习低维嵌入,并利用STHAC算法将投影划分为LLE特征空间聚类;然后,从基于局部外观的聚类中得到特征相似性,在贝叶斯最大后验概率分类框架中对范例点和聚类子空间进行相关相似性匹配;最后,借助于范例重要性概率完成人脸的识别。在视频人脸数据集CMU Mobo、Honda/UCSD和ChokePoint上的实验验证了所提方法的有效性,实验结果表明,相比几种传统的方法,所提方法取得了较高的识别精度和较低的计算复杂度。     

基于代价敏感SVM优化组合算法的微钙化簇识别

微钙化簇是乳腺癌一个重要的早期发现,现有的检测技术为了达到高敏感性要求,产生很多假阳性数据.根据微钙化簇特点,提出一种整体和局部相组合的分类识别策略,并根据真假阳性样本错分代价的不同,使用代价敏感SVM方法进行分类学习.在构造分类器模型过程中利用粒子群进行分类器的参数优化及特征集合的选择,以提升分类学习的泛化能力.该算法在保证高敏感性的同时,降低了过多的假阳性数据,并删除了冗余和不相关的特征.实验结果表明,基于粒子群优化的代价敏感SVM组合分类算法提高了传统方法的识别能力.     

基于PSR和SVM方法的化工过程单变量故障诊断

基于相空间重构(SPR)和支持向量机(SVM)算法本文提出了一种利用单一变量进行化工过程故障诊断的方法。首先进行变量筛选,然后对筛选出的关键变量进行相空间重构,再利用SVM对重构后的数据进行故障分类。通过对TE(Tennessee Eastman)过程几类故障进行仿真测试,结果表明在单一故障和多故障情况下,本方法均可实现化工过程的单变量故障诊断;与传统SVW方法相比,相空间重构可有效提高诊断正确率。此方法可为建立简单而有效的单变量故障诊断系统提供理论依据。     

面向大数据的超启发式SVM的网络安全框架研究

大数据环境下,为了提高支持向量机(support vector machines, SVM)在网络安全应用环境下的性能,提出了面向大数据的超启发式SVM网络安全框架。所提超启发式SVM框架由SVM和超启发式框架组成,超启发式框架的作用是生成配置参数,并将其发送到SVM,SVM使用生成的配置来解决给定的问题,然后将成本函数发送到超启发式框架。超启发式框架分为高层策略和低层启发式,高层策略具有搜索性能,可以控制选择低层启发式并生成新的SVM配置;低层启发式算法构成了一组特定于问题的启发式算法,使用不同的规则实现对SVM配置搜索空间的探索。该框架自适应地集成了基于分解和基于Pareto方法的优点,近似SVM配置的Pareto集,解决了启发式框架的优化问题。实验结果表明,所提框架性能优于其他算法,说明框架的有效性。     

基于独立成分分析和支持向量机的入侵检测方法

提出了一种入侵检测方法,该方法采用独立成分分析方法获取入侵行为模式的高阶统计信息,并将输入模式空间映射到相应的独立成分空间,然后利用支持向量机对小样本、高维数据泛化能力强的特点,在独立成分空间中用支持向量机原理构造广义最优分类超平面.数值实验表明,所提方法可大大降低特征空间维数,具有较好的分类正确性.特别是当高斯核参数σ值在1~3之间时,利用该方法的漏检数仅为标准支持向量机算法的1/9,这说明它能有效地获取入侵行为的本质特征,对新的入侵行为有比较好的识别能力.     

一种新的 SVM 决策树

SVM在小训练样本、高维情况下具有很好的泛化性能,但它不适用于多类分类.本文分析基本的SVM和多类SVM分类器,重点讨论了SVM决策树,提出了一种结点分类器类集合划分方案来构造SVM决策树.实验结果表明,以这种方法构造的SVM决策树分类器分类性能较好.     

基于特征缺省的最小类内方差支持向量机

最近提出的基于特征缺失的支持向量机(support vector machine with absent features,AF-SVM)在处理具有特征缺失的数据分类时,得到的分类超平面不能很好地适应数据的总体分布,并存在两类误分的比例相差比较大的问题。为此,本文通过引入最小类内方差支持向量机(minimum class variance SVM, MCVSVM)分类机制,提出了基于特征缺失的最小类内方差支持向量机(minimum within-class variance SVM with absent features,AF-V-SVM)。AF-V-SVM一方面可以依据数据集的分布特性,改善分类超平面的方向性;另一方面,通过自由设置分类间隔的定义空间,调整误分的比例。实验表明,与其他基于特征缺省的分类方法相比,该方法不仅提高了分类正确率而且使分类效果更加合理。