一种新的支持向量机增量学习算法

支持向量机学习算法的本质是从训练集中寻找支持向量,因此能否通过训练算法能快速找出支持向量是衡量支持向量机算法优劣的重要标准.本文提出了一种新的快速训练支持向量机的增量学习算法,首先,给出边界向量的定义,然后,对一个给定的新加人的样本,新的学习方法验证其是否为边界向量,如果是,将其加入到训练集中重新训练支持向量机,如果不是,就舍弃,这样能达到减少训练样本、降低训练复杂性目的,最后,给出了一个增量学习算法.实验表明测试误差和支持向量数量与SMO算法大致相当,而训练速度明显加快.     

A classifier based on rough set and relevance vector machine for disease diagnosis

A new intelligent method for disease diagnosis based on rough set theory (RST) and the relevance vector machine (RVM) for classification is presented as the rough relevance vector machine (RRVM). The RRVM mixes rough set’s strong rule extraction ability with the excellent classification ability of the relevance vector machine through preprocessing initial information, reducing data, and training the relevance vector machine. Compared with traditional intelligence methods such as neural network (NN), support vector machine (SVM), and relevance vector machine (RVM), this method manages to identify disease samples objectively and effectively with less transcendental information. Biography: LI Dingfang (1965–), male, Professor, Ph. D., research direction: computational learning theory, computing in science and engineering.     

一种新的多类SVM方法及其在文本分类中的应用

提出一种将SVM扩展到多类文本分类问题的新方法,此方法有增量模式及批模式两种应用途径。其中,批模式提供了一种其他多类SVM替代方法;而增量模式在重复利用原有模型的基础上将新增类别的知识信息以增量方式更新到分类系统,整个分类器不需要全部重新学习,需要的计算量较小。实验表明增量方法大大减少新类增加时分类器更新所需要的学习步骤和时间;两种模式的分类效果与其他方法相当。     

一种基于距离比值的支持向量机增量训练算法

由于支持向量机具有较好地学习性能和泛化能力,目前已经得到了广泛的应用。如何使支持向量机进行有效的增量学习是目前支持向量机应用中需要解决的问题。深入研究了支持向量分布特点,提出了一种新的支持向量机增量训练淘汰机制——距离比值算法。该算法根据遗忘规则,设定一个合适的参数,按距离比值法中的定义计算各个样本中心距离与其到最优分类面距离的比值,舍弃对后续训练影响不大的样本,即可对训练数据进行有效的淘汰。对标准数据集的实验结果表明,使用该方法进行增量训练在保证分类精度的同时,能有效地提高训练速度。     

一种新的支持向量机增量学习算法

提出一种新的支持向量机增量学习算法。分析了新样本加入训练集后，支持向量集的变化情况。基于分析结论提出新的学习算法。算法舍弃对最终结论无用的样本，使得学习对象的知识到了积累。实验结果表明本算法在保证分类准确度的同时，在增量学习问题上比传统的支持向量机有效。     

基于超球的支持向量机增量学习算法

支持向量机方法已经成功地应用于解决分类和回归问题,但是在训练支持向量机时需要求解二次规划问题,使得支持向量机的训练时间过长,训练样本量越大,这个缺陷越明显.将超球方法与回归支持向量机相结合,提出一种增量学习的新方法.该方法使用两个同心超球缩减训练集,以达到提高训练速度的目的.通过分析表明,这种新的增量学习方法较普通支持向量机训练方法有较低的计算复杂度.实验结果表明,该算法可以在不降低预测准确性的同时减少大量建模时间.     

机器学习技术在胸癌诊断中的应用

为了提高胸癌诊断的识别精度,提出了应用机器学习方法建立胸癌诊断模型。其中描述细胞特征的参量作为模型的输入,细胞的类别对应模型的输出。选取三种机器学习方法作为建立模型的训练算法,分别为反向传播(Back Propagation,BP)神经网络、学习矢量量化网络(Learning Vector Quantity,LVQ)和支持向量机(Support Vector Machine,SVM)。仿真结果显示三种机器学习方法所见的诊断模型均具有较高的识别率(BP:97.28%,LVQ:98.06%,SVM:98.45%),可作为有效地识别方法用于其他医学诊断研究。     

一种SVM增量学习算法

分析了SVM理论中SV（支持向量）集的特点，给出一种SVM增量学习算法，通过在增量学习中使用SV集与训练样本集的分类等价性，使得新的增量训练无需在整个训练样本空间进行，理论分析和实验结果表明，该算法能然保证分类精度的同时有效地提高训练速度。     

Integrating Multi-Source Web Records into Relational Database

How to integrate heterogeneous semi-structured Web records into relational database is an important and challengeable research topic. An improved model of conditional random fields was presented to combine the learning of labeled samples and unlabeled database records in order to reduce the dependence on tediously hand-labeled training data. The pro- posed model was used to solve the problem of schema matching between data source schema and database schema. Experimental results using a large number of Web pages from diverse domains show the novel approach＇s effectiveness.     

基于壳向量的支持向量机渐进式增量学习算法

从降低时间和空间复杂度的角度出发,针对支持向量机的增量学习问题展开了研究,描述并比较了目前研究与应用较多的几种支持向量机增量学习算法,提出了一种基于壳向量的支持向量机渐进式增量学习算法,仿真实验结果表明:该算法在保证良好的分类精度的前提下,提高了学习效率.     

基于EMD和多重分形谱参数的耐火材料损伤模式识别

考虑到耐火材料损伤声发射信号模式识别困难,提出一种结合经验模态分解(EMD)、多重分形谱参数和支持向量机的耐火材料损伤形式分类方法。首先对耐火材料损伤声发射信号进行EDM分解得到若干本征模态函数(IMF)分量,并取前4个分量作为研究对象,然后将整个信号的多重分形谱宽及各IMF分量的多重分形谱宽组成的特征向量输入支持向量机进行学习训练,最后实现耐火材料损伤模式识别。研究结果表明,采用由原信号及各IMF分量的多重分形谱宽值组成的特征向量能够有效进行损伤信号的特征提取。该方法对耐火材料界面相损伤的分类准确率为99%,对其基质相损伤的分类准确率为89%。     

支持向量机动态学习方法及其在票据识别中的应用

介绍了用支持向量机(SVM)进行动态学习训练的方法.解决了在机器学习过程中,训练样本获取比较困难,样本可随外界条件改变而变化的问题.实践证明,使用该方法可以动态跟踪样本的变化,保证SVM分类器的最优性能.利用该方法设计的银行票据OCR系统的实际应用说明了该方法的有效性.     

基于支持向量机岩溶塌陷的智能预测模型

在综合分析了各种岩溶塌陷预测方法和介绍支持向量机的基础上,提出基于支持向量机的岩溶塌陷预测方法,运用Matlab语言编程,建立了相应的岩溶塌陷预测模型.以已有的岩溶地面塌陷实例为学习样本,进行学习测试,得到训练效果较佳的预测模型,并用此模型对某市岩溶塌陷进行预测.结果表明,支持向量机预测模型具有较高精度,在岩溶塌陷预测研究中具有广阔的应用前景.     

A fast SVM training algorithm based on the set segmentation and k-means clustering

At present, studies on training algorithms for support vector machines (SVM) are important issues in the field of machine learning. It is a challenging task to improve the efficiency of the algorithm without reducing the generalization performance of SVM. To face this challenge, a new SVM training algorithm based on the set segmentation and k-means clustering is presented in this paper. The new idea is to divide all the original training data into many subsets, followed by clustering each subset using k-means clustering and finally train SVM using the new data set obtained from clustering centroids. Considering that the decomposition algorithm such as SVMlight is one of the major methods for solving support vector machines, the SVMlight is used in our experiments. Simulations on different types of problems show that the proposed method can solve efficiently not only large linear classification problems but also large nonlinear ones.     

基于增量式SVM的入侵检测研究

现实中入侵行为是层出不穷的,因此入侵检测系统必须能对新的入侵行为进行学习.提出基于存活因子的增量学习支持向量机(SVM)训练算法,通过边界样本集和准边界样本集对已知的入侵知识进行表示,能有效地对新入侵进行增量式学习.并且,采用了带存活因子的增量学习方式,可以有效地抑制算法的“震荡效应”,提高SVM算法进行入侵检测学习的自适应性和鲁棒性.     

基于支撑向量机在线学习方法的短期负荷预测

提出了基于支撑向量机在线学习方法的短期负荷预测,该方法克服了传统的支撑向量机负荷预测当训练样本集合改变时为了保证预测精度必需重新进行训练来得到新的回归函数的缺点.充分利用支撑向量机解的稀疏性和前一次的训练结果,提出了递增和递减算法,直接修改原有回归函数的系数来得到新回归函数.实例计算表明,该方法与传统支撑向量机方法相比,具有计算速度快,推广能力强的显著特点,在相同预测精度下,计算速度提高了近两个数量级.     

支持向量机下机器学习模型的分析

首先概述了支持向量机的发展与应用,指出其在机器学习领域有较大的发展前景.分析了支持向量机的基本算法,进而阐述了基于支持向量机的机器学习模型构造思路.给出了其应用于机器学习模型的核函数和训练算法,最后给出了学习模型的具体分类效果.     

基于阈值优化的CDRM-SVM入侵检测算法

为了提高中心距离比值法预选取支撑矢量的效率,降低支撑矢量机的训练时间,引入自适应动态克隆算法对中心距离比值法的阈值进行优化,并将该算法应用于入侵检测中,提出了基于阈值优化的CDRM-SVM入侵检测算法.算法首先利用自适应动态克隆算法对中心距离比值法中的阈值进行优化,获得理想的阈值,从而可以提取出包含全部支撑矢量的边界矢量集,然后使用边界矢量集代替训练样本集进行支持矢量机的训练,大幅度减少了训练样本的数量,使支持矢量机的训练速度显著提高.同时,由于边界矢量集中包含了支撑矢量,因此,支撑矢量机的分类能力没有受到影响.采用KDDCUP 99数据集进行试验,试验结果表明:与传统方法相比,在保证性能的情况下,所提算法能够有效地降低支持向量机的训练时间.     

Learning Vector Quantization Neural Network Method for Network Intrusion Detection

A new intrusion detection method based on learning vector quantization （LVQ） with low overhead and high efficiency is presented. The computer vision system employs LVQ neural networks as classifier to recognize intrusion. The recognition process includes three stages： （1） feature selection and data normalization processing;（2） learning the training data selected from the feature data set; （3） identifying the intrusion and generating the result report of machine condition classification. Experimental results show that the proposed method is promising in terms of detection accuracy, computational expense and implementation for intrusion detection.     

应用支持向量机处理岩土材料的细观图像

应用数字图像处理技术提取非均质岩土材料的细观特征是量化其细观结构的有效途径。为提高图像处理的质量和效率,在进行数字图像处理的阈值分割时,采用统计学习理论中的支持向量机分类方法。选取待原始图像的一个矩形区域作为训练样本图像,提取这些样本点的特征与训练目标一起组成训练样本集,通过对训练样本集的学习,生成SVM(support vector machine)分类机,利用SVM分类机提取原始图像中的特征图像。以花岗岩为例,利用该方法提取其细观结构,结果表明,合理选取训练样本和模型参数,可以提高图像处理的准确率和效率,得到最佳的处理结果。