少量已知历史数据下的电能质量复合扰动识别方法

针对训练电能质量复合扰动分类模型遇到少量已知历史数据和海量未标注的采样数据共存的现象,本文提出了一种基于混合流形正则化半监督极限学习机（Laplacian Hessian Semi-supervised-Extreme Learning Machine,LHSS-ELM）的复合扰动识别方法。该方法通过图拉普拉斯正则化和海森正则化相结合更好地挖掘未标注扰动样本的局部结构信息。不同噪声水平下的实验结果表明：LHSS-ELM在复合扰动识别上准确率高于常见的半监督极限学习机模型,它与传统基于支持向量机的半监督模型对比精度也有明显的提高,表明该方法是一种有效的复合扰动识别方法。     

基于流形正则化的在线半监督极限学习机

在基于流形正则化的半监督极限学习机(SS-ELM)的基础上,利用分块矩阵的运算法则,提出了在线半监督极限学习机(OSS-ELM)方法.为避免在实时学习的过程中由于数据累积引起的内存不足,通过对SS-ELM的目标函数的流形正则项的近似,给出了OSS-ELM的近似算法OSSELM(buffer).在Abalone数据集上的实验显示,OSS-ELM(buffer)在线学习的累计时间与所处理的样本个数呈线性关系,同时,9个公共数据集上的实验表明,OSS-ELM(buffer)的泛化能力与SS-ELM的泛化能力的相对偏差在1%以下.这些实验结果说明,OSS-ELM(buffer)不仅解决了内存问题,还在基本保持SS-ELM泛化能力的基础上大幅度提高了在线学习速度,可以有效应用于在线半监督学习当中.     

一种基于流形正则化的半监督人脸识别方法

在基于流形正则化的框架下提出了一种半监督学习算法(MLapRLS)并将其用于人脸识别.首先构建所有样本的最近邻图来估计数据空间的几何结构,并对多变量线性回归的目标函数增加该流形正则化项,得到针对多类问题的MLapRLS.该方法能充分利用少量有标签样本和大量易于获取的无标签样本来帮助学习以提取有效特征.在Extended YaleB和CMU PIE人脸数据库上的实验结果证明了该方法的有效性.     

基于深度极限学习机的高光谱遥感影像分类研究

高光谱遥感数据越来越普及并为人们广泛使用,基于高光谱遥感数据的地面物体精确分类是高光谱遥感技术的核心应用之一.针对高光谱遥感影像的分类问题,提出一种基于深度极限学习机(D-ELM)的分类方法.该方法利用一种新的深度学习模型——深度极限学习机对高光谱遥感影像进行分类,并与基于极限学习机(ELM)、支持向量机(SVM)、核极限学习机(ELMK)分类方法进行了比较分析.研究结果表明:相对于ELM、SVM、ELMK分类方法,D-ELM分类方法能够更加准确地挖掘高光谱遥感影像的空间分布规律,提高分类的准确度.     

流形正则化加权回归模型的车轮磨损量预测

针对传统流形正则化加权回归(WDMR)模型对新样本数据预测的局限性,提出基于半监督局部线性嵌入(LLE)算法的WDMR建模方法.先结合半监督流形学习的思想,建立了数据驱动的半监督LLE算法的WDMR模型.然后,根据轮轨磨耗检测数据进行了车轮踏面磨耗量的预测实验.结果表明,与传统的WDMR模型比较,半监督LLE算法的WDMR模型具有更好的拟合与泛化性能,预测精度更高,将该模型用于现场车轮踏面磨耗量的预测是有效的.     

一种基于半监督多任务学习的特征选择模型

为了综合利用流形学习、多任务学习和正则化约束的优势,提出一种基于全局和局部约束的半监督多任务特征选择(semi-supervised multi-task feature selection,SMFS)模型,在多个任务间共享学习的基础上,构建SMFS模型.该模型采用l2,1范数约束选择最具判别性的特征,避免噪声的干扰,并引入局部信息约束提高特征选择的准确度.将SMFS模型应用于网页自动分类,与目前流行的几种算法进行对比,证明了该算法的有效性.     

量子粒子群优化核极限学习机的遥感影像分类

极限学习机初始参数具有随机性,容易导致其对高分辨率遥感影像的分类结果出现局部最优现象.为了解决上述问题,提出了一种基于量子粒子群优化核极限学习机的遥感影像分类方法.该方法利用量子粒子群算法对核极限学习机的核参数与正则化参数进行优化,根据参数优化后的结果构建量子粒子群优化核极限学习机的遥感影像分类模型（QPSO-KELM）.通过实验对比了SVM、KELM、PSO-KELM、QPSO-KELM这几种分类方法对高分二号遥感影像数据的分类精度与效率.结果表明：QPSO-KELM的分类精度、运行速度均优于其他几种分类方法,该方法能有效提取遥感影像上的地物要素信息.     

基于自适应流形正则化自表示的无监督特征选择算法

针对基于流形正则化自表示(MRSR)的无监督特征选择算法直接从原始的样本空间构造相似矩阵可能会 导致重构空间中样本的相似性描述得不够准确的问题,提出了基于自适应流形正则化自表示的无监督特征选择 (AMRSR)算法。 基于自适应流形正则化自表示的无监督特征选择算法在 MRSR 算法的基础上通过对相似矩阵施 加概率最近邻约束将相似矩阵的学习嵌入到优化过程中,在重构空间中自适应地学习样本的相似性,使得在每一 次迭代中获取更加精确的样本局部几何流形结构,从而选择具有代表性且保持局部几何流形结构的特征。 最后, 在四个公开数据集上进行了大量的对比实验,通过将算法的特征选择结果用于 K-means 聚类并采取两种常见的聚 类评价指标:聚类精确度和归一化互信息评价聚类效果。 实验结果表明,AMRSR 算法与现有的一些算法相比有更 高的聚类精确度和归一化互信息,进一步表明该算法特征选择效果更好。     

基于状态转移算法的极限学习机

目前极限学习机在训练模型时存在占用计算资源多和模型精度低等问题. 为了解决上述问题,提出了一种基于状态转移算法的极限学习机,可提升算法计算效率和模型精度. 利用状态转移算法的全局搜索特性求解线性方程组,得到极限学习机的输出权重矩阵,进而完成建模. 在分类和回归数据集上与极限学习机和其他主流算法进行对比,所提方法可以利用较少的隐藏层节点得到高精度的模型,同时具有更好的学习准确率. 这种高性能的建模方式弥补了极限学习机的不足.      

基于正则化瑞利系数的半监督k 部排序学习算法及应用

借鉴Ralaivola给出的基于正则化瑞利系数的半监督二部排序学习算法的思想,提出基于正则化瑞利系数的半监督k-部排序学习算法.同时,将此方法运用于本体相似度计算和本体映射.通过两个实验说明新算法是有效的.     

基于SVM和CRF的双层模型中文机构名识别

提出了一种基于支持向量机(SVM)和条件随机场(CRF)的双层模型进行中文机构名识别的方法.第一层模型采用CRF识别简单机构名,并将识别结果传至第二层辅助下一步的识别;第二层采用基于驱动的方法,将SVM和CRF结合进行复杂机构名的识别;最后将两层的识别结果合并,并通过一个后续处理对置信度较低的识别结果进行修正.大规模真实语料的开放测试表明,精确率达到94.83%,召回率达到95.02%,证明了该方法的有效性.     

基于改进主动学习和自训练的联合算法

针对主动学习面向大型数据集人工标记成本过高和半监督自训练算法中存在误标记点影响的问题,提出了一种主动学习与半监督自训练交替迭代训练的联合算法．算法在训练过程中奇数轮次采用主动学习算法,偶数轮次采用自训练算法,通过2种算法的交替迭代训练以弥补彼此不足．自训练算法对无标记样本的预测减轻了主动学习标记样本的负担,同时主动学习标记易变成噪声的样本,减轻了自训练算法训练过程中对样本的标记错误．提出了一种基于密度峰值聚类和隶属度的改进主动学习算法:将初始无标记样本聚类成簇,根据隶属度差值在每个簇内选取部分样本做人工标记,获得可表达样本的整体结构的均衡样本．仿真试验表明:提出的联合算法在性能上要优于2种单一算法．对比常见的主动学习算法,改进后的主动学习算法分类性能得到显著提升,将其应用于联合算法中的效果更具优势．      

A Heterogeneous Ensemble of Extreme Learning Machines with Correntropy and Negative Correlation

The Extreme Learning Machine(ELM) is an effective learning algorithm for a Single-Layer Feedforward Network(SLFN). It performs well in managing some problems due to its fast learning speed. However, in practical applications, its performance might be affected by the noise in the training data. To tackle the noise issue, we propose a novel heterogeneous ensemble of ELMs in this article. Specifically, the correntropy is used to achieve insensitive performance to outliers, while implementing Negative Correlation Learning(NCL) to enhance diversity among the ensemble. The proposed Heterogeneous Ensemble of ELMs(HE2 LM) for classification has different ELM algorithms including the Regularized ELM(RELM), the Kernel ELM(KELM), and the L2-norm-optimized ELM(ELML2). The ensemble is constructed by training a randomly selected ELM classifier on a subset of the training data selected through random resampling. Then, the class label of unseen data is predicted using a maximum weighted sum approach. After splitting the training data into subsets, the proposed HE2 LM is tested through classification and regression tasks on real-world benchmark datasets and synthetic datasets. Hence, the simulation results show that compared with other algorithms, our proposed method can achieve higher prediction accuracy, better generalization, and less sensitivity to outliers.     

基于ELM集成和半监督聚类的SNS隐私保护

针对各类网络数据中存在着大量的无标记数据,导致了SNS(social network service)隐私保护中数据可用性相对较差的问题,本文提出一种基于Bagging的ELM(extreme learning machine)集成算法,并将其与基于Seeds集的半监督聚类算法相结合应用于隐私保护.该算法首先利用ELM-Bagging集成方法对无标记数据进行标记,并将新标记的数据加入Seeds集以扩大其规模,然后采用基于Seeds集的半监督聚类实现K-匿名.实验结果表明,该算法在有效保护隐私的同时,提高了发布数据的可用性.     

基于不确定抽样的半监督城市土地功能分类方法

为提高分类准确率, 解决城市区域社会功能标签分类难的问题, 提出了一种基于不确定抽样选择策略的半监督城市土地功能分类方法。该算法从轨迹数据中提取城市区域的特征向量, 只需对少量区域进行标签, 根据不确定抽样的主动学习选择策略, 从未标注训练样本中选取具有较多信息的数据, 利用半监督学习算法进行标注, 得到新的标注训练样本添加到训练集, 反复迭代后得到分类结果。实验结果表明, 该方法对不同社会功能的城市区域分类准确率可达90. 2%, 与传统方法相比分类准确率高, 减少了大量标注工作, 在少数标签数据上仍有较好的分类效果。     

基于抽样方法的不确定极限学习机

实际应用中的大量数据具有不确定属性,而传统的挖掘算法无法直接应用在不确定数据集上.针对不确定数据的分类问题,提出一种基于抽样方法的不确定极限学习机.该算法通过抽样的方法,对不确定数据集中样本的抽样实例进行学习和分类,得到该不确定样本的所属类别的概率,从而实现了传统极限学习机分类算法对不确定数据的分类,并极大降低了不确定对象实例的枚举代价.实验结果表明,该算法在不确定数据的分类问题中具有较好的有效性和高效性.     

基于马尔科夫随机场和鲁棒误差函数的半监督分类研究

为了克服由错误标记样本所引发的问题,提出半监督分类器模型。从标记数据和未标记数据中学习得到决策准则,并在马尔科夫随机场中,运用一个新的基于鲁棒误差函数的能量函数,分别设计基于迭代条件模型和马尔科夫链蒙特卡罗的两种算法来推断标记样本和未标记样本的类别。实验结果表明这两种方法对于现实世界的数据集来说是高效的,并具有很好的鲁棒性。     

从希尔伯特-施密特独立性中学习的多标签半监督学习方法

基于希尔伯特-施密特独立性提出了一种新的半监督学习方法,称为最大化依赖性多标签半监督学习方法（dependence maximization multi-label semi-supervised learning method,DMMS）。该方法将样本已有标签作为约束,以最大化特征集和标签集的关联性为目标,通过求解一个线性系统为无标签数据打上标签,具有实现简单,无参（nonparameter）的特点。多个真实多标签数据库的实验表明,DMMS与最好的多标签学习方法,包括多标签近邻（multi-labelk-nearest neighbor,MLKNN）和图半监督学习方法具有类似的识别效果。