ART2神经网络聚类的改进研究

为进行快速动态层次聚类,通过分析自适应谐振理论(adaptive resonance theory,ART)神经网络的快速学习、主观设置警戒参数、输出无层次结构等优缺点以及自组织特征映射(self-organizing feature map,SOFM)神经网络的侧反馈、不能动态聚类、输出无层次结构等优缺点的基础上,借鉴Hebb规则的思想,针对ART2神经网络的聚类算法进行了改进研究.通过结构描述、算法分析,该算法融合了ART2和SOFM的优点,克服其不足之处,以快速学习的方式形成可带有多层层次的动态聚类结构(不同的层次代表不同粒度的聚类),此外还降低了对警戒参数主观设置的要求,对于较粗粒度的聚类不再需要重新训练神经网络.并通过仿真实验证明该算法的有效性.     

手写数字识别中组合式神经网络的构建方法

将聚类技术和遗传算法相结合, 提出一种基于相似度传播算法和遗传算法的神经网络集成方法应用于手写数字识别问题. 先分别利用主成分分析和Fisher线性判别分析对数据集进行特征提取, 得到两类特征数据集, 再利用Bagging方法分别为这两类特征数据集训练简单的BP神经网络, 然后采用相似度传播算法对这些BP神经网络进行聚类, 找到作为类簇中心的网络(中心网络), 最后利用遗传算法对所有中心网络的权值进行训练, 将中心网络进行加权线性集成作为最终分类器. 在标准手写数字数据集MNIST上进行测试的实验结果表明, 该方法的识别率优于单个神经网络的识别率, 并兼顾了分类效率.     

基于样本划分的启发式遗传BP算法

遗传算法作为一种模拟生物遗传进化过程的随机搜索算法,具有并行和全局搜索能力、不要求函数可导等特点,在神经网络学习中得到广泛应用.合理选择初始群体和控制搜索的盲目性,有利于提高算法的效率.为此,提出了一种新的神经网络学习算法--基于样本划分的启发式遗传BP算法.该方法对神经网络学习样本进行划分,形成样本子集.初始群体通过在样本集类上训练神经网络而获得.这些初始网络中包含了关于样本子集的有用信息,根据模式定理,能通过遗传算法保留和加强.此外,提出并证明了关于样本集类及其BP训练的几个代数性质,结合子空间划分进行启发式搜索,以克服搜索的盲目性.对上述方法进行仿真实验,迭代次数和误差较小,表明本学习算法是切实可行的.     

基于管件编码和ART2神经网络聚类的船舶管件加工族构造

针对船舶管件加工族构造问题,提出一种基于编码和ART2神经网络的聚类方法。在管件编码中,综合考虑管件的托盘集配时间和结构工艺的特征,采用ART2神经网络实现对管件的自动聚类,形成合理的管件加工族。结果表明,ART2网络聚类方法对处理船舶管件加工族构造问题具有良好的适应性和稳定的分类能力。     

基于SA-GA算法RBF神经网络的TDOA/AOA定位算法

目的 为了克服最小二乘法在TDOA/AOA无线定位算法中的缺点,提高定位的精度和稳定性.方法 提出了基于RBF神经网络的TDOA/AOA定位算法.利用染色体长度可调编码方式的模拟退火遗传算法,同时训练RBF网络的参数和拓扑结构.将训练后的RBF网络用于TDOA/AOA定位.结果 与传统TDOA/AOA算法和基于k-均值聚类法、遗传算法RBF神经网络、GA-BP神经网络的定位算法比较,该算法具有更高的定位精度和可靠性.结论 基于模拟退火遗传算法RBF神经网络的TDOA/AOA定位算法有很强的抗NLOS能力.     

基于权重差异度的动态模糊聚类算法

针对传统模糊聚类算法需提前设置参数和初始聚类中心, 导致聚类结果不稳定的问题, 提出一种基于权重差异度的动态模糊聚类算法. 首先引入样本特征权重向量和样本间差异度的概念, 对数据集分布情况进行描述, 并采用新的评价指标获取候选聚类中心; 然后根据最小差异度准则, 对剩余样本点进行分类; 最后结合Davies-Bouldin指数(DBI)评价准则对候选聚类中心做进一步筛选与合并. 实验结果表明, 该算法在不同测试数据集上的性能明显优于传统聚类算法, 具有更高的自适应性和稳定性.     

基于神经网络树和人工蜂群优化的数据聚类

针对高维数据引起的"维数灾难"问题,设计了一种基于神经网络树和人工蜂群优化的高维数据聚类算法.首先,设计了改进的二元人工蜂群优化算法,以封装式方法最大化径向基函数网络的准确率,以过滤式方法最小化特征的冗余度;然后,基于每个特征子集的样本集训练径向基函数网络,构建以径向基函数网络为节点的神经树;最终,采用门网络将连接的类簇分离,获得最终的聚类结果.基于高维数据集和低维数据集均完成了仿真实验,结果表明本算法对于高维数据集实现了较高的聚类准确率.     

基于遗传算法的截集FCM灰度图像分割方法研究

以截集模糊C均值聚类（Sectional Set Fuzzy C—means algorithm：SSFCM）算法为基础，提出一种自适应遗传算法（Adaptive Genetic Algorithm）改进截集FCM算法。传统FCM算法中一般使用一维直方图初始化方法，使初始化与聚类算法相分离，没有形成整体，而且同一幅一维直方图可能对应不同的原始图像。引入自适应遗传算法，与截集FCM算法有机结合，用遗传算法解决初始化问题的同时．以遗传算法的寻优性能来指导聚类。实验表明，该算法效率较传统FCM算法和未改进截集FCM算法有很大的提高，同时能够保持较好的分割效果和质量。     

一种基于聚类的支持向量机增量学习算法

提出了一种基于聚类的支持向量机增量学习算法.先用最近邻聚类算法将训练集分成具有若干个聚类子集,每一子集用支持向量机进行训练得出支持向量集;对于新增数据首先聚类到相应的子集,然后计算其与聚类集内的支持向量之间的距离,给每个训练样本赋以适当的权重;而后再建立预估模型.此算法通过钢材力学性能预报建模的工业实例研究,结果表明:与标准的支持向量回归算法相比,此算法在建模过程中不仅支持向量个数明显减少,而且模型的精度也有所提高.     

改进型RBF神经网络在系统建模中的应用

提出了一种新的RBF神经网络的设计方法,采用遗传-K均值聚类算法对RBF神经网络的隐层节点中心值进行优选,用遗传算法训练RBF神经网络的权值。以锅炉燃烧为实例,通过从现场采集的数据建立神经网络模型,使用改进的算法建立系统的神经网络模型,结果证明了该方法的有效性。     

一种改进的神经网络集成法预测PMV指标

为解决大样本的PMV指标预测问题,采用基于模糊聚类的神经网络集成方法,将原始样本集模糊划分为多个相交子集,通过这些模糊子集训练神经网络得到预测个体,再对个体输出加权结合获得预测结果.在进行神经网络集成过程中,采用微粒群算法有效克服了聚类和常规神经网络训练容易陷入局部最优的缺点,总结出一种更加有效的神经网络集成方法.实验结果表明:基于微粒群的神经网络集成算法有较好的全局优化性能,其集成的神经网络系统能更准确地预测PMV指标.     

基于粗糙集的改进BP神经网络算法研究

提出了一种基于粗糙集和遗传算法的改进BP神经网络算法.该算法首先对原始数据集进行属性约简,优化BP神经网络的输入变量;然后利用遗传算法全局搜索的特点,优化BP神经网络初始权重和阈值.将改进BP神经网络算法应用于客户分类,训练误差为5.92×10-12,测试总误差为0.00023;而改进前的一个比较理想的训练结果的训练误差为0.0016,测试总误差为0.073.Matlab仿真表明改进的BP神经网络算法有更好的训练精度和泛化能力.     

基于聚类的超闭球CMAC神经网络改进算法

针对CMAC神经网络的网络节点随输入维数的增大呈几何级数增加的问题,提出了基于模糊聚类的超闭球CMAC神经网络改进算法。该算法通过对输入数据进行模糊聚类确定网络节点数和节点值,并根据输入输出数据通过模糊推理优化算法计算神经网络初始权值。与原算法比较,该算法可有效降低神经网络节点数,提高系统的学习精度。对一个多步时延的非线性系统的辨识仿真结果表明了该算法的可行性与有效性。     

混合智能系统R-FC-DENN及其实现

混合智能系统已成为人工智能的一个重要研究方向,本文依据认知心理学和模型集成理论,构建了集粗糙集理论、聚类理论、模糊逻辑理论、遗传算法理论、人工神经网络理论于一体的混合智能系统R-FC-DENN,该系统在数据的空间效能方面和算法的时间效率等方面比已有算法有较大的改进。以混合智能系统R-FC-DENN为例,基于Rosetta和Matlab 6.5平台,还开发了混合智能系统工具箱RFCDENN-Tool,为相关研究打下坚实的基础。     

一种基于蚁群聚类的径向基神经网络

提出了一种基于蚁群聚类算法的径向基神经网络．利用蚁群算法的并行寻优特征和挥发系数方法的自适应更改信息量的能力，并以球面聚类的方式确定了径向基神经网络中基函数的位置，同时通过比较隐层神经元的相似性、合并相似性较为接近的2个神经元来约简隐含层的神经元，以达到简化径向基神经网络结构的目的．实验比较了几种不同聚类算法的径向基神经网络，结果表明，所提神经网络的整体训练时间至少可缩短40％，学习的准确率可提高1%以上，而且网络结构更加精简．     

基于阴阳调和的模糊神经网络

针对传统的基于最小均方差或最大后验概率的学习算法不能得到最优解的实际情况,提出将贝叶斯阴阳(Bayesian Yin-Yang, BYY)学习算法引入模糊小脑模型关联控制器(Cerebellar Model Articulation Controller, CMAC)来确定最优模糊集的方法,并利用真值限定(Truth Value Restriction, TVR)推理策略推导出规则权值的真值.BYY受著名的中国古代阴阳哲学理论启发,认为宇宙中的任何事物都是阴和阳对立的统一体,当阴阳取得调和时,则达到完美.模糊规则集通过BYY系统地优化,使其具有更高的泛化能力;与原始的CMAC相比,它有效地减少了存储需求,并提供直觉模糊逻辑推理,具有清晰的语意规则.产品需求预测实验结果表明:BYY结合TVR应用于模糊神经网络,改进了CMAC模型,预测方法优于其他代表性的神经网络模型,所求模糊集与训练数据达到阴阳调和,得到最优解.     

基于样本选择与PSO-ANN的葡萄酒酒精浓度预测

为了提高拉曼光谱定量分析模型的准确性以及稳健性,提出了一种新的样本选择算法——KM法.实验中以40组葡萄酒光谱为分析对象,将KM法与传统的RS,KS,SPXY样本选择算法相比较.实验结果表明: KM法获得的|RMSEP-RMSEC|要优于其他三种方法,剩余预测偏差(RPD)存在显著性差异,说明KM法具有很好的预测准确度.同时,针对BP神经网络易陷入局部极值的问题,将粒子群优化算法用于优化人工神经网络的参数(PSO-ANN),通过与遗传算法、人工鱼群算法及混合蛙跳算法比较,发现PSO-ANN较之于其他三种方法,能够提高BP神经网络泛化性能,具有收敛速度快、稳健性强及预测精度高等优势.     

基于卷积神经网络的灾难场景图像分类

为了对灾难场景图像进行快速分析和识别,提出了一种基于多分辨率卷积神经网络和残差注意力机制(attention module)相结合的图像分类模型.首先,对灾难场景数据集进行预处理,在相同类型的条件下将其随机划分为训练集和测试集.基于改进的卷积神经网络(convolutional neural network,CNN),提取训练集的图像特征.使用训练集图片的特征进行训练,并且在测试集图片上实现分类测试.选取DenseNet、Xception和MobileNetV2三种模型,以灾难场景数据集(Disaster_Data_Scenes)为数据集进行实验验证.结果表明:改进的Xception和MobileNetV2网络在灾难场景数据集上进行的图像分类实验测试,比原网络精度分别提升了4.56％和3.04％.其中改进的DenseNet网络比原网络模型精度分别提升9.13％、17.88％和10.27％.可见改进的卷积神经网络模型的分类精度得到有效提高.     

基于自编码神经网络的Single-Pass聚类事件识别算法

针对传统Single-Pass聚类算法存在的缺陷，提出了一种基于自编码神经网络的Single-Pass聚类算法。通过多个深层的隐藏层对原始数据进行降维，以更好地提取出原始数据的特征信息；并通过对边缘文本重计算来降低误检率，提高聚类精度。实验结果表明，该算法相比传统Single-Pass算法具有更高的聚类准确度，解决了聚类结果受数据顺序影响的问题。     

改进萤火虫算法与小波神经网络相结合的变压器故障诊断

为了解决变压器故障诊断中诊断效率低的问题,本文对萤火虫算法(FA)进行了改进,并与小波神经网络(WNN)相结合应用于变压器故障诊断中。小波神经网络结构简单,预测精度高,收敛速度快,但是网络参数不好选择,易陷入局部最优。本文结合混沌算法、粒子群算法、可变步长的思想来改进萤火虫算法,用于优化小波神经网络的参数,再将处理后的数据带入神经网络中进行训练与诊断。实验结果表明,该算法与BP神经网络、支持向量机、小波神经网络、遗传算法改进的小波神经网络和粒子群算法改进的小波神经网络相比诊断正确率均有所提高。