一种改进的数据挖掘模糊支持向量机分类算法

针对模糊支持向量机(FSVM)应用于数据挖掘分类中存在对大样本集训练速度及分类速度慢的缺点,提出一种改进的数据挖掘模糊支持向量机分类算法.该算法首先预选有效的候选支持向量缩减训练样本集的规模提高训练速度;其次提出一种新的模糊隶属度函数,增强支持向量对构建模糊支持向量机最优分类超平面的作用,并用经过预选的训练样本集进行训练FSVM得到支持向量集;最后,运用粒子群优化算法选择最优支持向量子集,使用平均分类误差作为适应度函数,最终粒子输出时,将样本隶属度与设定阈值相比较,选择出支持向量集中相对较大隶属度的样本作为新的支持向量,提高分类速度.实验结果表明,该算法在不损失分类精度的情况下,提高了模糊支持向量机的训练速度和分类速度.     

具有模糊隶属度的模糊支持向量机算法

针对传统支持向量机(SVM)由于样本中存在孤立点数据或噪声而导致的过学习问题,通过分析模糊支持向量机(FSVM)的特点,指出其关键在于如何构建模糊隶属度,为此结合k近邻法思想提出了一种新的隶属度函数构造方法.该方法不仅考虑了样本点到类中心的距离,而且对各样本点排列的紧密程度也进行了估计,与传统SVM相比,它对样本的分类更为清晰和准确.将该方法应用于汽车发动机的实际故障诊断中,结果表明:SVM与普通FSVM的分类正确率较低,而采用新的模糊隶属度的FSVM算法却有较高的识别率,当k为5时分类正确率达到了70.93%,因此验证了该算法的有效性.     

用于不平衡数据分类的模糊支持向量机算法

作为一种有效的机器学习技术,支持向量机已经被成功地应用于各个领域.然而当数据不平衡时,支持向量机会产生次优的分类模型;另一方面,支持向量机算法对数据集中的噪声点和野点非常敏感.为了克服以上不足,提出了一种新的用于不平衡数据分类的模糊支持向量机算法.该算法在设计样本的模糊隶属度函数时,不仅考虑训练样本到其类中心距离,而且考虑样本周围的紧密度.实验结果表明,所提模糊支持向量机算法可以有效地处理不平衡和噪声问题.     

基于HOG特征提取和模糊支持向量机的西夏文字识别

提出了基于方向梯度直方图(Histogram of oriented gradient, HOG)特征提取和模糊支持向量机(Fuzzy support vector machine, FSVM)的西夏文字识别技术.在模糊支持向量机模型中引入了新的隶属度函数,构造了基于多超平面的模糊支持向量机模型,增强了分类能力,降低了噪声点的干扰,提高了分类效率.将HOG特征提取和FSVM相结合应用于西夏文字识别,提高了文字识别效率.通过在数据集上测试,并与已有的文字识别方法相比较,结果表明,HOG特征提取结合FSVM的方法性能优于现有的其他方法.     

一种基于动态类中心模型选择的模糊支持向量机

模糊支持向量机的核心思想是赋予样本模糊隶属度,给每个样本以不同的权重,从而克服标准支持向量机对噪声和异常点敏感的问题.现有的模糊支持向量机算法通常以样本与类中心距离为基础,给每个样本赋予一个固定的隶属度,没有根据样本分布对隶属度做进一步修正.提出了一种新的动态方式赋予样本隶属度,利用萤火虫算法不断地更新样本中心的位置和隶属度函数,同时利用粒子群算法优化模糊支持向量机参数.在UCI数据集上的实验结果表明,该算法可以有效减少噪声和野点对超平面的影响,分类性能要优于几类常用的模糊支持向量机算法.     

基于高斯分布的非平衡FSVM

针对传统模糊支持向量机算法采用样本到类中心的距离关系来构建模糊隶属度函数存在不足,以及易受数据集不平衡的影响,提出了一种基于高斯分布的FSVM,该方法既考虑了2类样本数量的不平衡问题,同时进一步考虑了样本不同方向上的分布特性.将样本的分布特性应用于模糊隶属度函数的设计,有效地提高了对正常样本和噪声、野值样本的区分能力.实验结果表明,在处理不平衡和有噪声干扰的数据集时,该方法较传统的FSVM具有更强的鲁棒性.     

基于模糊支持向量机的变压器故障诊断

针对支持向量机对训练样本内的噪声和孤立点比较敏感,影响了支持向量机分类性能的弱点,利用模糊支持向量机的学习方法,构建了变压器故障诊断模型.采取一种基于二叉树的多分类方法,使用模糊C均值聚类算法求取模糊支持向量机的模糊隶属度,采用径向基核函数,并利用遗传算法对模糊支持向量机的参数进行寻优.实验结果表明,基于二叉数的模糊支持向量机模型相比BP神经网络、支持向量机有更高的诊断准确率,基于二叉树模糊支持向量机的变压器故障诊断方法是可行的.     

基于动态核函数的模糊支持向量机

针对传统的支持向量机(SVM)对训练样本中的噪声和野值特别敏感而导致的过学习问题,文中提出了一种新的基于动态核函数的模糊支持向量机(FSVM).该方法不仅考虑了样本点到类中心的距离,而且还考虑了样本间的密切度,结合这两种思想在特征空间中构造了一种新的基于动态核函数的模糊隶属度.仿真实验表明,该方法有较好的分类精度和推广能力并且在理论上具有一般性和能够有效地减弱野值的影响.     

后验概率加权的模糊隶属度函数

模糊支持向量机(FSVM)中的模糊隶属度函数确定一直是一个难点问题。针对支持向量分类机对噪声数据或孤立点非常敏感的问题,受贝叶斯决策理论的启发,结合样本密度特性,研究样本点相对于同类和异类的关系,对各样本点分布的紧密程度给出了描述,构造了样本点的后验概率与样本密度的加权方法,提出了一种新的加权模糊隶属度函数构造。该方法避免了对噪声数据和孤立点的检测。通过建立基于提出模糊隶属函数的FSVM进行仿真,实验表明,提出的模糊隶属度函数构造的后验概率加权方法的有效性。     

面向分类去噪问题的模糊支持向量机新算法

针对面向分类去噪问题,提出了一种新的模糊支持向量机算法（ν-FSVM）,并给出了通过无穷次连续可微函数建立模糊关系的方法.该方法能对训练集中的点自动赋予模糊关系,并且对带有噪声的点和孤立的点赋予较小的模糊关系.与传统的ν支持向量机比较,该算法通过建立训练集的模糊关系,能够大大减小噪声对分类的影响,从而提高分类精度,减少误差.     

基于迭代方法的模糊孪生支持向量机

模糊孪生支持向量机通过为每个训练样本赋予不同的模糊隶属度来构建2个最优非平行分类面,以便减少噪声或孤立点对非平行分类面的影响,进一步提高了支持向量机的性能.本文结合超松弛迭代法对模糊孪生支持向量机进行了研究,通过迭代技术求解凸二次规划问题中的拉格朗日乘子,减少了支持向量机的训练时间,在UCI标准数据集上分别对C-FTSVM和v-FTSVM进行了实验研究,并对使用传统求拉格朗日乘子的方法与超松弛迭代(SOR)的方法进行了对比,表明了使用超松弛迭代法不仅在时间性能上得到了提高,而且其分类正确率也优于传统的方法.     

基于核可能性c-均值算法的支持向量机

提出一种基于核可能性c-均值算法的支持向量机分类算法,该算法改进了SVM训练过程中噪声和孤立点的敏感问题.其基本思想是:用核可能性c-均值算法对每个模式类训练样本进行聚类,得到不同的可能性度量值,根据得到的可能性度量值对训练样本进行修剪,删除具有较低可能性度量值的训练样本,最后用生成的新训练样本训练支持向量机.实验结果表明,该算法可以有效地解决由噪声和孤立点引发的分类错误问题以及重要样本的错分问题.     

基于组合隶属度FSVM的图像边缘检测

文中提出了一种新的边缘检测方法——基于组合隶属度模糊支持向量机(FSVM)的图像边缘检测.通过对这种新的FSVM分类算法建立边缘检测的模型对加入椒盐噪声状态的图像进行边缘检测的实验.仿真实验结果表明,新的算法稳定性高,抗噪性能好,具有更好的检测效果.     

基于类中心和密切度的L-2范数FSVM

支持向量机(SVM)是解决回归问题的一种有效的方法,但传统的支持向量机对样本中的噪声和孤立点非常敏感.为了克服这个问题,文中提出了一种基于类中心和密切度的L-2范数模糊支持向量机(L-2范数FSVM),即模糊隶属度的建立不仅根据样本到类中心的距离,而且根据样本点和其目标点之间的密切度.仿真实验结果显示了该方法有效地减少了噪声的影响,改进了回归的精度,增强了推广能力.     

用于FSVM抑噪的统计型模糊权重函数

提出了用于设计模糊支持向量机(FSVM)的统计型模糊权重函数,该函数基于模式分类思想为每个训练数据建立一个分类面,数据的模糊权重根据分类面对2类数据的识别率来计算.靠近分类间隔的疑似噪声/离群点将获得相对较小的模糊权值,其作用受到抑制;而远离间隔区域的数据不容易受到盲目抑制.该方法能够有效识别噪声/离群点,降低它们对分类器的影响.实验验证了所提方法的合理性和有效性.统计型模糊权重函数对于含噪情况未知的训练数据尤其显得重要,因为数据含噪情况可以籍由函数分类功能得到恰当的估计.     

基于特征加权的FSVM在低信噪比语音识别中的应用

模糊支持向量机(FSVM)赋予每个样本一个模糊隶属度,优化了最优分类面,具有好的抗噪性。为提高低信噪比条件下的语音识别准确率,减小传统支持向量机(SVM)中噪声样本对分类精度造成的影响,首先将模糊支持向量机(FSVM)应用于语音识别系统中的识别网络。在此模型的基础上,考虑到语音样本各维特征的影响,计算各维特征的信息增益作为对分类的重要程度,依据此重要程度确定对各维特征的加权系数,构造加权核函数。为了减小一对一分类模式下的时间复杂度,引入了三叉决策树策略。在仿真实验中,采用韩语语料库的耳蜗滤波器倒谱系数(CFCC)作为实验数据,实验结果表明,在低信噪比语音识别中,特征加权模糊支持向量机(FWFSVM)比传统的SVM具有更好的鲁棒性。     

基于模糊支持向量机的网络入侵检测技术

针对支持向量机算法中存在对噪声数据和异常数据敏感的问题,提出了模糊支持向量机算法,并应用于入侵检测.该算法是在传统支持向量机分类器的构造方法中引入隶属度函数,根据不同输入所得到的分类结果,产生相应的惩罚值.将这个方法应用到入侵检测系统中,能较好地将正常数据和异常数据区分开.实验结果表明,采用模糊支持向量机的入侵检测技术,其误报率低于基于支持向量机的入侵检测,同时其检测率也相对较高.     

样本属性重要度的支持向量机方法

支持向量机(SVM)是一种新的机器学习方法,已经广泛应用于模式识别和函数估计等问题中.针对现有的加权支持向量机(WSVM)和模糊支持向量机(FSVM)只考虑样本重要性而没有考虑属性重要性对分类结果的影响的缺陷,提出了基于样本属性重要度的支持向量机方法,该方法首先利用信息论中的信息增益技术计算各个样本特征属性对分类属性的重要度,然后对所有样本的同一特征属性的值分别用对应的属性重要度进行加权,最后所得数据集用于训练和测试SVM.数值实验的结果表明,该方法提高了分类器的分类精度.     

基于多区域划分的模糊支持向量机方法

针对模糊支持向量机(FSVM)方法无法有效定位支持向量,在确定隶属度时易丢失分类信息的问题,提出一种基于多区域划分的FSVM方法。该方法先利用传统SVM获取支持向量的大体位置,作为对FSVM支持向量的近似估计,再进一步融合带负类样本的支持向量域描述(SVDD-neg)模型,对样本空间进行划分,最后根据样本所在的区域按不同的规律确定隶属度。研究结果表明:这种隶属度确定方式不仅能有效削弱野值样本的影响,而且也会提高支持向量的隶属度。与基于样本紧密度以及基于样本到类内超平面距离的FSVM方法相比,该方法具有更好的抗噪性能和泛化能力。     

基于密度的稀疏最小二乘支持向量机

针对最小二乘支持向量机对训练样本内噪声比较敏感和其稀疏性差的问题,提出基于密度k-近邻向量的训练样本裁剪算法。对训练样本的各个样本类进行聚类,删除噪声数据,提高支持向量机的训练精度。通过计算出每个样本类的平均相似度和平均密度,得到样本的类相似度阈值;根据相似度阈值,将小于类相似度阈值的样本进行合并,减少训练样本总数。实验结果表明,该算法在保证训练精度的情况下,减少了支持向量数目。