支持向量机及核函数研究

对核函数进行了初步探讨,从理论上研究了多项式核函数参数的选择问题,从实验角度对多项式核函数与径向基核函数进行了比较分析,并阐述了Sigmoid核函数的特点,可作为一般SVM分类问题选择核函数及核函数参数范围的依据.     

核函数支持向量机的研究进展

核函数支持向量机是机器学习的最新尖端技术,并且成功应用于许多领域。本文叙述了核函数支持向量机的基本理论,并介绍了相关的基础研究和应用研究,同时探讨了未来的发展趋势。     

基于两步特征加权的模糊支持向量机算法

提出一种基于两步特征加权的模糊支持向量机算法.首先,利用信息增益算法获取样本的特征权重.然后,计算最大权重的特征与其他特征间的斯皮尔曼相关系数,并将二者相乘后再与原有的特征权重相加,得到新的特征权重,减少弱相关和不相关特征对分类造成的影响.最后,在设计样本模糊隶属度时,不仅考虑样本与类中心的距离,还引入了样本间的亲和度,并将二者进行融合,以此减弱样本分布不均对分类精度的影响.在UCI数据集上的实验表明,与现有流行的几种模糊支持向量机算法相比,所提算法在准确率和F₁值上得到了提升.     

一类新的支持向量机核函数——埃尔米特核函数

基于埃尔米特正交多项式,文章提出了向量形式的广义埃尔米特多项式,并由此衍生出一类新的核函数——埃尔米特核函数.该类核函数最大的优势在于其参数仅在自然数中取值,能大大缩短参数优化时间.在鲁棒性与泛化性能方面,文章在双螺旋集和标准UCI数据集上与常用的核函数(多项式核、高斯径向基核等)做了对比试验.     

支持向量机核函数选择的研究

支持向量机是近年来发展的以统计学习理论为基础的新型学习机。该学习机用结构风险代替经验风险,因而具有传统的神经网络无法相比的优势。在该学习机的各各研究方向中,核函数的选择无疑是极其重要的核心问题。通过对核矩阵的计算和研究,从理论上为核函数的选择提供了参考。     

基于混合核函数支持向量机的回归模型

基于支持向量机核函数的条件,将Sobolev Hilbert空间的再生核函数和Sig核函数进行有效的线性混合,给出一种新的支持向量机的混合核函数,并提出一种基于再生核的混合核函数支持向量机回归模型,该回归模型兼具了全局核函数与局部核函数的优点,且算法的复杂度被降低.仿真实验结果表明:最小二乘支持向量机的核函数采用基于再生核的混合核函数是可行的,回归的效果比单核函数可以更为细腻.     

基于ALCSL&LS 核函数的支持向量机签名认证

提出一种名为ALCSL&LS的核函数来描述签名动态信息之间的相似性. ALCSL&LS核函数利用自适应最长共同子序列的长度,不仅描述了签名动态信息整体上的趋势相似性,而且选择性的描述了某些重要的特征局部在时间弯曲校正后的相似性,并将两者融合生成核矩阵. 该核函数具有相似性描述直观、对噪音具有的鲁棒性和易于实现等优点,它核化的支持向量机实现了签名原空间上的非线性划分. 基于此方法的签名认证实验获得了比较满意的结果.     

基于ALCSL＆LS核函数的支持向量机签名认证

提出一种名为ALCSL＆LS的核函数来描述签名动态信息之间的相似性.ALCSL＆LS核函数利用自适应最长共同子序列的长度,不仅描述了签名动态信息整体上的趋势相似性,而且选择性的描述了某些重要的特征局部在时间弯曲校正后的相似性,并将两者融合生成核矩阵.该核函数具有相似性描述直观、对噪音具有的鲁棒性和易于实现等优点,它核化的支持向量机实现了签名原空间上的非线性划分.基于此方法的签名认证实验获得了比较满意的结果.     

基于分形理论的支持向量机核函数选择

核方法是机器学习领域内的研究热点之一,在处理非线性和高维数据问题中表现出许多优势,已被广泛应用于分类、回归等领域.支持向量机是最具代表性的核方法,而不同的核函数具有各异的度量特征,故核函数的选择对支持向量机泛化能力有着重要的影响.而目前核函数的选择仍是一个开放性的问题,存在着一系列的偶然性和局限性.该文利用分形几何分析数据蕴含的特征信息来有指导性地选择核函数,以提高支持向量机的泛化能力,并通过实例仿真验证该方法是有效可行的.     

基于动态核函数的模糊支持向量机

针对传统的支持向量机(SVM)对训练样本中的噪声和野值特别敏感而导致的过学习问题,文中提出了一种新的基于动态核函数的模糊支持向量机(FSVM).该方法不仅考虑了样本点到类中心的距离,而且还考虑了样本间的密切度,结合这两种思想在特征空间中构造了一种新的基于动态核函数的模糊隶属度.仿真实验表明,该方法有较好的分类精度和推广能力并且在理论上具有一般性和能够有效地减弱野值的影响.     

一种新的支持向量机增量学习算法

支持向量机学习算法的本质是从训练集中寻找支持向量,因此能否通过训练算法能快速找出支持向量是衡量支持向量机算法优劣的重要标准.本文提出了一种新的快速训练支持向量机的增量学习算法,首先,给出边界向量的定义,然后,对一个给定的新加人的样本,新的学习方法验证其是否为边界向量,如果是,将其加入到训练集中重新训练支持向量机,如果不是,就舍弃,这样能达到减少训练样本、降低训练复杂性目的,最后,给出了一个增量学习算法.实验表明测试误差和支持向量数量与SMO算法大致相当,而训练速度明显加快.     

基于SVM的函数模拟

支持向量机在高维空间中表示复杂函数是一种有效的通用方法, 提出了采用基于支持向量机的非线性回归法求解函数模拟问题.     

一种具有特征有效度的模糊支持向量机

针对传统支持向量机对噪声或野值样本敏感和忽略样本各个特征对分类精度的不同影响,提出了一种具有特征有效度的模糊支持向量机(FW-FSVM).该方法通过对模糊支持向量机的模糊因子进行改进,将噪声或野值样本与有效样本进行区分.在此基础上根据信息增益计算样本各个特征的特征有效度,消除弱相关特征和冗余特征对分类精度的影响,从而构...     

组合核支持向量机个人信用评估模型

针对支持向量机模型在分类问题中的广泛应用,提出了一种新的基于支持向量机的个人信用评估模型,通过对支持向量机直方图交叉核、热核特征核、杰卡德距离核和余弦广义距离核4种核函数的组合处理,构造了投票矩阵;通过实际数据实验,获得了良好的分类结果,同时证明了支持向量机自适应组合核加权模型在信用评分系统中具有良好的性能;因此,这种基于支持向量机的个人信用评估模型可以帮助银行或贷款人做出正确的决策。     

基于Gabor特征与支持向量机的字符识别系统研究

利用计算机进行字符自动识别与录入的技术对机器翻译、数据挖掘、人工智能等都有着重要的理论意义和实用价值,基于数字图像处理技术的字符识别是其中的一个重要发展方向。文章重点研究了字符特征提取和匹配识别这两个影响字符识别效果的因素,根据中文字符笔画的方向特点,选择了对图像方向特征敏感的Gabor变换作为特征提取方式,在获取字符的特征向量后,先利用最小距离分类器进行预分类,再利用最小距离分类中产生的候选样本集训练SVM分类器,识别时只需利用候选集分类器依次判决,降低了训练和识别工作量,同时提高了识别效率。实验表明,系统对网站导航字符平均识别率达94%以上,具有一定的理论意义和实用价值。     

一种新型加权支持向量回归机

与统计学习理论结合,并把数据样本映射到高维空间,有时标准支持向量回归机运算速度和精度不理想.针对线性不可分的情况,在支持向量回归机目标函数中增加两个平方松弛项,这样可以减少两个约束条件.每个松弛项赋予不同的加权系数,可根据实际需要调节它们的权重.这种新算法称为新型加权支持向量回归机(weighted support vector regression machine,WSVRM),并把它用于函数逼近.实验结果表明,所提出的新型加权支持向量回归机具有良好的函数估计能力和数据预测能力.     

基于支持向量机的短期负荷预测

讨论了现有的支持向量机回归参数选取方法．针对负荷预测建模，采用交叉验证的方法对参数进行选取，得到的最优参数对未来的峰荷进行预测，仿真结果表明了该方法的有效性．     

基于临界小波参数和新序列核支持向量机的说话人识别

在研究可再生希尔伯特空间框架的基础之上,构建出一个新的序列核来对语音序列间的相似性进行度量.特征提取部分针对传统语音短时分析技术容易出现丢失信息的现状,提出了一种基于临界带宽的小波包变换算法.用美国国家标准与技术研究所(NIST)2004年评测数据集进行实验,结果表明该方法可以大幅度提高识别率.     

支持向量机的算法研究

支持向量机(support vector machine,SVM)是20世纪90年代发展起来的一种新型机器学习方法,是在统计学习理论基础上发展起来的一种新的数据挖掘方法,已广泛应用于模式识别与回归分析。并已成为国际机器学习界的研究热点。本文主要讨论其基本原理与SVM训练算法。