从受训神经—模糊模型中提取知识

本对用于模式分类、函数逼近、参数估计的多层感知器（MLPs)给出1个清晰的关于内部行为的解释。作以单隐层的MLP为例，论述了关于MLP的内部行为的半线性分析理论。对受训的MLP，将隐层单元的输出分别定义为网络输出的正、负“内部分量”；定义内部分量的连接权重集为给定问题的“内部判别模式”；建立了MLP和模糊集相结合的新模型；分析了MLP的结构为N－2－1和N－H－1，给出权重初始化的方法；提出了1种从受训神经－模糊模型（NFMs)中提取知识的全新的具有实用价值的方法。     

基于最小分类错误训练的神经网络分类器设计

提出了一种基于最小分类错误（MCE）训练的采用多层感知器（MLP）结构的模式分类器设计方法。这是一种以分类错误率最小化为目标的模式分类器设计方法，将它用于MLP分类器设计能够进一步提高分类器的性能。采用MLP实现MCE训练中的分类损失计算，从而将MCE训练过程与MLP分类器设计统一在一个神经网络结构中，通过BP算法予以实现。这不仅能达到提高MLP分类器性能的目的，而且简化了它的设计过程。     

面向不平衡数据集的线性分类方法研究

近年来,面向不平衡数据集的分类器学习与推广问题越来越受到人们的关注,在此以机器学习数据库、美国邮政编码、2维元音等国际上典型的分类问题为应用背景,重点研究如何用线性分类器解决样本数不平衡的问题;对Fisher、伪逆和单层感知器等3种典型的线性分类器做了深入的研究,并将这3种线性分类方法应用到不平衡数据集的分类中;通过实验及分析,这些新方法对平衡数据集的线性分类起到了良好的分类效果。     

基于MLP神经网络的超宽带信号自适应识别算法的研究

提出一种利用人工神经网络进行超宽带信号调制模式自适应识别的方法。采用三层MLP神经网络进行调制模式识别。首先对超宽带数字调制信号进行统计特征参数提取,特征参数作为MLP网络的输入层神经元参数,隐含层是双层结构。实验证明,当中间层采用正切型激活函数、输出层采用线性激活函数时,MLP分类器的识别性能最好。在5 dB信噪比环境下,算法的正确识别率高于95%。与传统的统计判决方法相比,神经网络分类器不需要设定判决门限就能实现自适应识别,并且达到更好的识别率,解决了软件无线电系统中的超宽带信号自动识别的问题。     

基于属性相似度的云分类器

提出了属性相似度概念解决高维对象分类的权重问题,并结合云理论建立了基于属性相似度的云分类器.采用云理论建立训练集的各属性模型,表达各属性值隶属于其类别中心Ex的程度.分类模型由属性模型集成得到,属性权重根据属性相似度计算.各类别的同一属性间的相似度越大,此属性对分类的作用越小.基于粒子群优化方法对分类模型的中心位置Ex进行优化.将此分类器与普通云分类器应用于iris数据集的分类实验,该分类器的分类效果好于后者.     

利用支持向量机SVM识别车辆类型

支持向量机（Support Vector Machine，SVM）分类方法在实际二类分类问题的应用中显示出良好的学习和泛化能力，已被广泛地应用于多类分类问题的研究．以车辆轮廓特征为对象，将二类分类支持向量机SVM应用于多类车辆类型的识别，并与其它分类器的分类结果进行了对比．通过9次交叉验证实验，结果表明SVM对车辆数据样本的测试准确率达到了85．59％，其分类性能优于其它分类器．     

一种加入动态权重的AdaBoost算法

【目的】由于AdaBoost算法弱分类器对各待测样本其投票权重是固定不变的,这会导致使用该算法进行分类时准确性不高,于是针对该问题提出了一种结合静态权重与动态权重的学习算法AdaBoost＿DW。【方法】该算法保留了AdaBoost算法训练阶段产生的全部弱分类器,在预测阶段加入了能度量待测样本与各个弱分类器适应性的动态权重,通过双权重共同决定该弱分类器的投票权重。【结果】实验结果表明,AdaBoost＿DW算法的分类精度绝大多数情况下高于原AdaBoost算法。【结论】证明了动态权重的加入能够提高原AdaBoost算法在各数据集上的分类准确率。     

基于时空特征组合模型的转辙机故障诊断

为解决转辙机故障诊断领域中存在的单一特征信息提取不足、单一诊断方法难以避免因方法局限性造成的分类误差,同时其存在一定程度的过拟合,以及泛化能力、鲁棒性不足的问题,提出了一种基于时空特征组合模型的故障诊断方法。首先,在ZYJ7电液转辙机的8种故障模式和正常模式所对应的油压曲线上提取时频域小波系数作为原始数据集,采用核主成分分析（KPCA）和长短期记忆网络（LSTM）提取其空间、时间特征,之后基于add思想构建时空特征集。其次,对卷积神经网络（CNN）、LSTM两分类器关键参数寻优后分别进行故障诊断,得到各个故障类型的概率值和误差系数。最后,利用误差倒数法对两分类器各个故障类型的概率值赋予权重,得到最终输出结果。仿真结果表明：CNN-LSTM组合模型诊断准确率达98.14%,较单一多层感知机（MLP）、CNN、LSTM模型准确率分别提升7.40%、5.55%、1.85%。可见此方法有效提高了转辙机诊断准确率,为集成学习模型在转辙机故障诊断领域的应用提供了一种思路。     

三种文本分类算法的比较

介绍了一种基于贝叶斯定理的文本分类模型“树桩网络（stump network）”。将该方法与朴素贝叶斯文本分类器和TAN（tree augmented naive bayes）文本分类器进行实验比较。结果表明,在大多数数据集上该文本分类方法具有较好的分类正确率。     

一种基于局部分类精度的概念漂移数据流分类算法

概念漂移数据流分类是一个极具挑战性的问题。当新概念出现时,该概念下的学习样本过少,无法对分类器进行及时调整,进而导致分类精度不高。为了解决该问题,本文提出一种基于局部分类精度的概念漂移数据流分类算法——LA-MS-CDC。第一,LA-MS-CDC将k-means聚类和局部分类精度算法结合,从分类器池中挑选出最优源领域分类器;第二,将最优源领域分类器与目标领域分类器加权集成,进而对样本分类;第三,根据分类样本的真实标签分别计算各分类器的损失,并对目标领域和源领域的分类器权重进行更新;第四,再利用该分类样本对目标领域分类器、最优源领域分类器进行更新;最后,完成分类器池的更新。在公开数据集上的实验结果表明,LA-MS-CDC能够有效地将源领域知识迁移到目标领域,与现有方法相比,其分类效果具有显著性提升。算法代码可在https://gitee.com/ymw12345/LAMSCDC上获取。     

AdaBoost图像到类距离学习的图像分类方法

近年来,距离度量学习已经成为图像分类领域的研究热点之一,图像到类距离的度量作为其中的一种方法,取得了不错的分类效果.该方法是一种非参数方法,但由于缺少训练学习,其分类性能很容易受干扰因素的影响,为此提出一种基于AdaBoost算法的图像到类距离学习的图像分类方法 .首先将图像到类的距离进行阈值化处理,并使用线性分段函数作为图像到类距离的评价函数,然后将该评价函数作为弱分类器加入到AdaBoost算法中生成一个强分类器.为了选择最优的弱分类器,使用粒子群优化算法确定图像的相似性阈值,再基于权重错误误差最小化原则得到距离评价函数的两个评价值.最后通过实验验证,该方法在Scene-15和Caltech-101图像数据集上比其他方法有更好的分类效果.     

基于神经网络多分类器融合系统的人脸识别方法

在主成分分析方法（PCA）的基础上,采用3种神经网络（BP、RBF、LVQ）分类器进行人脸识别实验研究.实验中引入多数投票法（MVS）,构建了多分类器组合决策体系,对分类结果进行决策融合.最后,将使用此决策体系的人脸识别结果与使用单一分类器的人脸识别结果进行对比分析.分析结果显示,采用MVS规则的人脸识别系统,能有效提高人脸识别系统的准确率和稳定性,且方法简单可行.     

神经网络分类器动态集成方法

提出一种神经网络分类器的动态集成方法.基于bootstrapping构建不同的个体神经网络,针对混合属性,通过不同的加权最近邻设计评估单个网络的分类精度,在此基础上动态选择误差率较小的神经网络,经过投票形成集成分类结果.将该方法与其它几种集成方法在10个UCI数据集上进行了分类性能比较.实验结果表明,该方法在上述所有数据集上的平均分类精度最佳,同时发现,Bagging比隐层神经元数法能更好地生成个体网络,而将两者结合起来训练个体神经网络,并不能明显提高集成性能.     

测试样本空间变化对贝页斯常规及补集规则权重评估影响的分析

为降低防火墙文本分类计算的误码率,研究基于贝页斯模型的防火墙测试系统的运行效率,提出将贝页斯模型视为线性模型的观点,分析测试样本空间变化对模型不同集合规则权重的影响,建立了有误差补偿功能的MNB分类器数学模型,实验仿真验证了贝页斯多项式数学模型的可行性,确定了MNB分类器内贝页斯多项式数学模型特征变量与目标文本内部个性词汇的对应关系.      

隐马尔可夫模型在被动声信号分类中的应用

为了提高被动声目标识别率，该文研究了隐马尔可夫模型在被动声信号分类中的应用问题，然后，又提出了２种混合分类器：特征矢量混合的ＨＭＭ分类器和ＨＭＭ／ＭＬＰＮＮ（多层感知机神经网络）混合模型分类器。结果表明，这２种混合分类器在性能上都优于单个特定的分类器，它们在被动声信号分类中具有良好的应用前景。     

一适用于超多类手写汉字识别的新改型Adaboost算法

提出一种适用于超多类手写汉字识别的新改型Adaboost算法,采用基于描述性模型的多类分类器（modified quadratic discriminant function,MQDF）作为Adaboost基元分类器,可直接进行多类分类,无需将多类问题转化为多个两类问题处理,其训练复杂度大大低于已有的多类Adaboost算法。算法提出根据广义置信度更新样本权重,实验证明这种算法适用于大规模多类分类问题。为了降低算法的识别复杂度,提出从所有训练后得到的Adaboost基元分类器组中选择一个最优的基元分类器作为最终分类器的方法进行删减。在HCL2000及THOCR-HCD数据集上进行实验证明,所提改型Adaboost算法提高了识别率的有效性,该算法的相对错误率比现有最优算法分别下降了14.3 %,8.1 %和19.5 %。     

基于随机森林优化的自组织神经网络算法

针对基于降维的神经网络分类器预测模型在分析过程中存在特征丢失, 并导致精度下降的问题， 提出一种基于随机森林算法优化的多层感知器(MLP)回归预测模型. 该优化模型通过在MLP回归模型网络的全连接层和逻辑回归层之间增加一个优化机制, 利用随机森林算法对隐藏层状态的优化实现改进, 从而解决了降维过程中神经网络丢失数据特征的问题. 在借贷客户信息数据集上的实验结果表明, 该模型在保证主要特征的同时大幅度提升了预测准确率, 证实该模型在特征工程中具有较高的实用性.     

基于人工神经网络的城市航空遥感图像植被分类研究

研究了一种基于模糊量化与多层前馈神经网络相结合进行多类别遥感图像植被分类的新方法.对分类指标 进行π隶属函数模糊量化之后,进行多层前馈神经网络(MLP)训练,再用训练后的MLP网络构成监督分类器,并 以宁波市彩红外航空遥感图像资料为数据源,选取园林区为试验区,对植被进行监督分类,分类精度达78%.研究 成果表明,该方法适用于多类别的遥感图像植被分类,其分类效果也较好.     

改进的TAN构造算法及其文本分类

朴素贝叶斯分类器是当前流行的一种文本分类算法，但是它的属性独立性假设使其无法表达文本词语之间的依赖关系，TAN(Tree Augmented NaIeve Bayes)在许多情况下优于朴素贝叶斯分类器。然而，由于学习TAN所需的空间是数据属性个数的二次项级，限制了TAN对高维数据(如：文本数据)的分类，本文介绍了TAN模型及其一般的构造算法，提出一种新的TAN构造算法ITAN，该算法的空间复杂度是数据属性个数的线性级，最后将该算法用于文本分类，实验比较了朴素贝叶斯分类器和TAN分类器，实验结果表明：该方法具有较好的分类性能。     

模糊综合评价的一种神经网络方法

将神经网络理论应用于模糊综合评价，首先引入因素空间的概念，在因素空间中给出了一种基于三层神经元的多用量化模糊综合评价方法，并利用LMS算法及矩方法研究了该模型权重及学习步长的确定方法，实现了权重及学习步长的网络学习，最终实现了等级评价值的计算机输出．较好地解决了传统的综合评价方法中各指标的权数受人为因素的影响这一难点问题．