基于新的决策规则的球形支持向量机分类算法

球形支持向量机是一种学习算法,它通过在高维特征空间中,对每一个模式类别构造一个覆盖其所有训练样本的具有最小体积的超球体,来实现对训练样本空间的划分.在此基础上,提出了一种基于新的决策规则的球形支持向量机算法,并在七个UCI数据集上进行了实验,实验结果表明提出的算法可以取得比标准的支持向量机算法更好的分类效果.     

改进的渐进直推式支持向量机算法

针对半监督学习中渐进直推支持向量机(Progressive Transductive Support Vector Machines, PTSVM)算法存在训练速度慢, 回溯式学习多,学习性能不稳定的问题,提出一种改进的渐进直推支持向量机算法---IPTSVM.该算法利用支持向量的信息选择新标注的无标签的样本点,结合增量支持向量机的迭代更新算法, 继承渐进直推支持向量机渐进赋值和动态调整的规则, 与PTSVM相比,不仅在一般情况下提高了分类的精度,而且大大提高了算法的速度.在人工模拟数据和真实数据上的实验结果表明了该算法的有效性.     

SVM方法及其在客户流失预测中的应用研究

客户流失分析与预测是客户关系管理的重要内容.针对客户流失问题,建立了支持向量机预测模型.针对实际客户流失数据中正负样本数量不平衡而且数据量大的特点,提出带有不同类权重参数的支持向量机算法CW-SVM,通过调整类权重参数改变分类面位置,提高算法分类准确性;将标准支持向量机训练问题转化为运算效率更高的核向量机问题,提出处理不平衡海量数据集的CWC-SVM算法.通过实际银行信贷客户数据集测试,该算法与传统预测算法比较,更适合解决大数据集和不平衡数据,取得较好的客户流失预测效果.     

基于核主元分析与多支持向量机的监控诊断方法及其应用

为保证密闭鼓风炉冶炼过程的正常运行,构造了一种基于核主元分析(KPCA)和多支持向量机(MSVM)的监控模型.该监控模型首先用核主元分析方法对过程数据进行特征提取,然后将代表过程特征的核主元送入到多支持向量机分类器中进行故障诊断与分类.仿真研究显示, 该监控模型具有较好的泛化能力,能有效地应用于鼓风炉的监控诊断,可用于鼓风炉熔炼过程的现场操作指导.     

基于不完全BT-SVMs分类的模拟电路故障诊断方法

针对几种常用的支持向量机多类分类方法,分析了各自存在的问题和缺点,并在此基础上提出了一种基于核的自组织映射聚类的不完全二叉树SVMs多类分类方法,该方法首先用SOM神经网络对所有训练样本进行聚类,分裂成两个子类,然后分别对两个子类进行类似的操作,直到每个类别都被单独分开为止。根据聚类的结果构造二叉树结构,从而产生相对应的SVMs网络。实验结果表明,采用该方法进行多类分类具有很高的分类精度和分类速度。     

基于数据域描述的模糊临近支持向量机算法

针对传统支持向量机由于样本中存在孤立点或噪声而导致的过学习问题,通过分析模糊支持向量机和临近支持向量机的特点,借鉴它们的优点:模糊隶属度和临近超平面,提出了一种数据处理方法。该方法考虑了样本点到类中心的距离与样本对分类的贡献率的关系。这种改进使分类更为清晰和准确。结果表明:采用新的模糊隶属度模糊临近支持向量机算法有较高的识别率,但也耗费了较多的训练时间。     

基于MapReduce的大规模数据集流形学习降维研究

信息技术的快速发展导致了数据规模的爆炸式增长，传统的机器学习、数据挖掘算法面临新的 挑战. 流形学习克服了传统线性降维算法的不足，成为十年来降维研究的热点领域. 然而流形学习 算法复杂度高，对于大规模的数据集并不适用. 针对大规模数据集下的流形学习降维问题，提出了 基于MapReduce 的分布式流形学习算法. 该算法采用局部敏感哈希函数将相似点映射到同一个桶中，利用流形具有局部欧氏同胚的性质，在每个桶内采用欧氏距离度量点之间的测地距离，桶之间采用 中心点及边缘点来计算修正的测地距离. 在大规模的人工合成数据集和真实数据集上的实验表明，该算法能有效地估计数据点间的测地距离，适用于处理大规模数据集的降维问题.     

基于超曲面的多类分类方法

使用支持向量机对非线性可分数据进行分类的基本思想是将样本集映射到一个高维线性空间使其线性可分 .基于 Jordan曲线定理 ,提出了一种通用的基于分类超曲面的分类法 ,它是通过直接构造分类超曲面 ,根据样本点关于分类曲面的围绕数的奇偶性进行分类的一种全新分类判断算法 ,不需作升维变换 ,不需要考虑使用何种核函数 ,而直接地解决非线性分类问题 .对数据分类应用的结果说明 ,基于分类超曲面的多类分类法可以有效地解决非线性数据的分类问题 ,并能够提高分类效率和准确度 .     

基于特征子空间的三维模型相关反馈检索方法

从三维模型中提取出的高维特征向量一般分布在原始空间的某个非线性低维子空间中,而测地距度量算法可以有效地甄别这种非线性分布.提出一种在相关反馈中,通过更新测地距离来捕捉三维模型特征点的分布特性的检索算法.为了解决相关反馈后期效果提升缓慢的缺陷,作者提出了模型潜力值理论来辅助使用了测地距核函数的支持向量机学习器改善相关反馈机制.     

一种新的支持矢量数据描述模糊识别方法

支持矢量机(SVM)是一种两类分类器,而支持矢量数据描述(SVDD)是一种单类数据分类方法,通过在特征空间寻找包含某类样本的最小超球体来对样本分类,该方法只需已知某类数据即可构造分类器.但是在SVDD方法中,直接根据超球体构造的分类器对样本数据正确识别能力不高.针对这个问题,根据样本在特征空间中到各个超球体球心的距离构造了样本属于各-个类别的模糊隶属度函数,提出了FSVDD多目标识别方法.在FSVDD的训练过程中采用了乘性迭代规则的快速优化算法,该快速算法降低了优化的复杂度和缩短了优化时间.在针对不同类型数据集的识别实验中,证明了提出的FSVDD多目标识别算法具有训练速度快、识别率高的优点,有很强的实用性.     

基于流形学习的多核SVM财务预警方法研究

在进行财务困境预测时, 为了客观全面地反映企业的财务状况, 纳入较多的预警指标, 数据集维度将变得很大, 传统方法求解此类问题效果并不理想. 流形学习处理高维数据具有较好的降维效果,多核SVM对于分布不平坦的数据具有很好的分类性能. 基于此, 提出了“流形学习+多核SVM”的混合算法财务预警模型, 该模型适用于具有大量指标集的财务预警. 实验结果表明, 与传统预警方法相对比, 其具有更优的预测性能.     

基于流形学习降维的决策分析算法

为了有效地分析高维决策表，提出了基于流形学习降维的决策分析算法（decision analysis algorithm based on manifold learning，DAML）. 算法使用等距映射法（ISOMAP）对原始数据做降维处理，在得到的主坐标数据上进行决策分析. 根据核主成分分析法与ISOMAP方法的关系得到主成分与主坐标的转换关系式，并计算原始数据主成分. 提出了基于等价支持子集的决策算法用于计算主成分属性重要性、属性区分能力及等价支持子集. 在得到等价支持子集的基础上抽取决策规则，根据决策规则预测算法预测未知数据. 选取UCI数据库中标准分类数据集作为仿真实验样本，并对比C4.5决策树算法、K最近邻居算法（KNN）与提出的决策规则预测算法在Iris、Breast cancer、Wine、Spectf heart和Ionosphere数据集上的分类精度来验证算法的有效性.     

基于支持向量机的非线性模型预测控制

支持向量机是基于统计学习理论的新一代机器学习技术。由于使用结构风险最小化原则代替经验风险最小化原则,使它较好地解决了小样本情况下的学习问题。又由于采用了核函数思想,使它把非线性问题转化为线性问题来解决,降低了算法的复杂度。提出了一种基于支持向量机的模型预测控制结构,并使用一个新的随机搜索优化算法来求解预测控制律,计算机仿真证明了所设计的控制算法的正确性和有效性。     

Incremental support vector machine algorithm based on multi-kernel learning

A new incremental support vector machine (SVM) algorithm is proposed which is based on multiple kernel learning.Through introducing multiple kernel learning into the SVM incremental learning,large scale data set learning problem can be solved effectively.Furthermore,different punishments are adopted in allusion to the training subset and the acquired support vectors,which may help to improve the performance of SVM.Simulation results indicate that the proposed algorithm can not only solve the model selection problem in SVM incremental learning,but also improve the classification or prediction precision.     

结合Nystrm逼近的图半监督纹理图像分割

针对半监督学习算法在图像分割中的应用,提出了一种基于流形插值的半监督图像分割方法。该方法将分类问题看作一个流形上的函数的插值问题,通过优化某些系数来更好地拟合数据。该算法采用稀疏图可解决大规模矩阵特征值和特征向量的求解。但是,对于图像分割来说,构造稀疏图的运算时间较长,针对这一问题,提出采用Nystrm逼近方法来降低计算复杂度。合成纹理图像分割结果验证了该算法可获得良好的分割质量,结合Nystrm逼近方法在保证分割质量的前提下从很大程度上提高了计算效率。     

基于决策树的快速SVM分类方法

为提高支持向量机（support vector machine, SVM)算法对大规模数据的适应能力,加快SVM算法的分类速度,提出一种基于决策树的快速SVM分类方法。该方法的重点在于构建一棵决策树,将大规模问题分解为相对简单的子问题,树中节点由线性支持向量机组成,每个节点包含一个决策超平面,分类过程取决于节点的数量。此方法在分类复杂样本时避免了使用非线性核函数。并且由于使用线性核函数,则不用进行模型选择,进一步加快了样本的分类速度。实验表明,针对大规模多特征数据的非线性分类问题,该方法比传统方法具有更高的速度。     

电子设备健康状态评估与故障预测方法

针对电子设备的健康性能退化问题,提出一种改进流形学算法与隐半马尔可夫模型(hidden semi Markov model, HSMM)相结合的电子设备健康评估与故障预测方法。首先,在有监督邻域保持投影(supervised neighborhood preserving projection, SNPP)算法中引入非相关约束并加入核函数形成核有监督非相关邻域保持投影(kernel supervised uncorrelated neighborhood preserving projection,KSUNPP)算法,将其用于原始特征的提取,获得有效的特征集作为HSMM的输入进行训练|其次,建立了电子设备健康评估与故障预测模型,该模型用Kullback Leibler (KL)距离来衡量故障程度,实现设备退化程度的评估,又可根据各状态驻留时间,预测出设备故障发生的时间。最后,将该方法应用于某型导弹电子设备的健康评估与故障预测,验证其有效性。     

基于导频的OFDM信道估计小波核SVM算法

针对传统多径衰落下的OFDM导频信道估计性能低下,地板效应的缺陷,提出了基于导频的小波递归最小二乘支持向量机(WRLS-SVM)时变信道频率估计算法。首先讨论了小波成为核函数的条件,构造了小波核。然后将根据结构风险递归二乘最小化准则回归估计支持向量机原理,把导频训练序列映射到高维空间,并在高维空间采用结构小波核函数,达到了将低维空间的非线性估计转化为高维空间的线性估计的目的。仿真结果表明,在快衰落信道条件下,小波递归最小二乘支持向量机导频信道估计方法可以获得较好误码性能。该方法优于传统的信道插值方法。     

一种基于QBC的SVM主动学习算法

针对支持向量机(souport vector machine,SVM)训练学习过程中样本分布不均衡、难以获得大量带有类标注样本的问题,提出一种基于委员会投票选择(query by committee,QBC)的SVM主动学习算法QBC-ASVM,将改进的QBC主动学习方法与加权SVM方法有机地结合应用于SVM训练学习中,通过改进的QBC主动学习,主动选择那些对当前SVM分类器最有价值的样本进行标注,在SVM主动学习中应用改进的加权SVM,减少了样本分布不均衡对SVM主动学习性能的影响,实验结果表明在保证不影响分类精度的情况下,所提出的算法需要标记的样本数量大大少于随机采样法需要标记的样本数量,降低了学习的样本标记代价,提高了SVM泛化性能而且训练速度同样有所提高。     

#br# 基于自组合核的增量分类方法

在线极端学习机(online sequential extreme learning machine,OSELM)模型在解决动态数据实时分类问题时,无需批量计算,仅保留前一时刻训练模型,根据当前时刻样本调整原有模型即可。然而,该增量方法在离线训练阶段随机指定隐层神经元使模型鲁棒性差,且求解过程难以拓展于核方法,降低了分类效果。针对上述问题,提出一种基于自组合核的在线极端学习机(self compounding kernel online sequential extreme learning machine,SCK OSELM)模型。首先,提出一种新的自组合核(self compounding kernel,SCK)方法,构建样本不同核空间的非线性特征组合,该方法可被应用于其他监督核方法中。其次,以稀疏贝叶斯为理论基础将训练数据的先验分布作为模型权值引入,并利用超参调整权值后验分布,从而达到对当前时间点参数稀疏的目的。最后,将稀疏得到的参数并入下一时刻运算。对动态数据的实时分类实验表明,该方法是一种有效的增量学习算法。相比于OSELM,该方法在解决动态数据实时分类问题时获得更稳定、准确的分类效果。