可拓神经网络在可拓专家系统中的研究与应用

将可拓学理论、人工神经网络和专家系统技术有效地组合与集成,建立了基于可拓分析与神经网络的空中目标识别专家系统,并将其应用于防空作战指挥信息系统空中目标识别。着重阐述了基于物元的知识表示方法以及空中目标识别专家系统的设计思路、总体结构和工作原理。     

基于SMOTE和深度迁移卷积神经网络的多类不平衡遥感图像分类算法研究

在遥感图像分类实际应用中,深度学习经常面临高光谱数据有效标签不完备、样本多类不平衡和数据分布随时空动态变化等问题,难以发挥优势。基于上述问题,提出一个基于人工少数类过采样方法(synthetic minority oversampling technique, SMOTE)和深度迁移卷积神经网络的土地覆盖分类算法。所提算法创新性地采用深度迁移学习,使算法能够学习不同时空相同地物的相似性,并利用SMOTE方法对学习数据进行类分布空间优化平衡,从而解决目标域数据不足和数据类不平衡问题。两组公开的高光谱遥感图像被用来验证所提算法的有效性。实验结果表明,相比传统的深度学习,所提算法能够更有效地解决数据不足和数据类不平衡问题提高分类精度。     

基于可拓信息的知识表示

本文以可拓学的理论和思想为指导,研究基于可拓信息的知识表示方法,并以动物识别为例说明知识网络的结构和识别程序     

增长式卷积神经网络及其在人脸检测中的应用

卷积神经网络擅于提取具有类别分辨能力的隐式特征,在人脸检测等领域获得巨大成功.然而典型的卷积神经网络的固定结构又使得网络规模初始设定只能是经验性的,难以实现后继的再学习.鉴于此,提出一种结构可变的卷积神经网络的构造方法:从每层只有单个卷积核的简单网络结构开始训练,逐渐为各网络层增加新的卷积神经元并修改新增连接权重,当训练结果达到预期目标时训练结束.在人脸检测的实验中,不同网络规模下的识别结果表明基于结构增长生成的网络可以在精确度和网络规模之间取得一个非常好的折衷.此外,在追加新的学习样本时,分类器在保持原有学习结果基础上,只需调整少量新增神经元的权值,就能明显提高检测率.     

基于可拓神经网络的汽车涂装线设备故障诊断

针对汽车涂装线设备故障无法及时发现和排除的困难,提出基于可拓神经网络的故障诊断方法。该方法利用可拓学定性和定量描述方式处理结构化知识的特性并结合神经网络并行结构的特点,使可拓神经网络借助并行分布处理结构完成可拓推理过程。依据烘房燃烧加热系统设备监测参数和故障类型,建立基于可拓神经网络的物元输入、输出模型。将参数样本进行训练,对训练结果进行仿真对比实验,实验结果显示该方法相对传统神经网络具有结构简单、反应速度快等优点。     

菱形思维的可拓神经网络实现

针对菱形思维过程 ,设计出一类可拓神经网络 ,通过网络的自学习功能 ,该模型可以使菱形思维过程较便利的实现 .对模型本身也进行了理论分析.     

基于广义ЧебыЩев多项式的新型神经网络算法

提出了一种基于广义ЧебыЩев多项式的新型神经网络学习算法.对于给定的样本点,采用三次样条插值方法求得ЧебыЩев结点处的函数值,并将ЧебыЩев结点和对应的函数值作为新的训练样本.利用ЧебыЩев多项式的正交性,每个权函数可以表示为广义ЧебыЩев多项式,它是最佳平方逼近多项式.与样条权函数神经网络算法相比,该算法最后表达式更简单,有利于泛化,而且每个权函数所需要存储的信息量更少.另外,提出的新算法不存在梯度下降类算法的局部极小、收敛速度慢的问题.最后,为了说明该算法的有效性,给出了一个实例,仿真实验说明通过提取广义ЧебыЩев多项式的权函数,可以理解所训练的问题的内在关系,训练后的网络具有很好的泛化能力和很高的精度.     

基于广义Чебышев多项式的新型神经网络算法

提出了一种基于广义Чебышев多项式的新型神经网络学习算法。对于给定的样本点,采用三次样条插值方法求得Чебышев结点处的函数值,并将Чебышев结点和对应的函数值作为新的训练样本。利用Чебышев多项式的正交性,每个权函数可以表示为广义Чебышев多项式,它是最佳平方逼近多项式。与样条权函数神经网络算法相比,该算法最后表达式更简单,有利于泛化,而且每个权函数所需要存储的信息量更少。另外,提出的新算法不存在梯度下降类算法的局部极小、收敛速度慢的问题。最后,为了说明该算法的有效性,给出了一个实例,仿真实验说明通过提取广义Чебышев多项式的权函数,可以理解所训练的问题的内在关系,训练后的网络具有很好的泛化能力和很高的精度。     

样条权函数神经网络的一种新型算法

针对前馈神经网络在数值插值领域的应用场合,提出了一种新型结构的神经网络及其训练算法。网络拓扑结构简单,网络训练所需的神经元个数与样本个数无关,可以简单地表示成输入、输出样本向量维数之积。算法只需训练1层权函数。训练后的权函数由三次样条函数构成,而不是传统方法(反向误差传播算法“BP”或径向基函数算法“RBF”)的常数。通过求解两组线性方程组,就可以确定具体三次样条权函数形式。不存在传统梯度下降类算法的局部极小、收敛速度慢、初值敏感性等问题。仿真实验说明此算法比传统算法(如BP、RBF)精度高、速度快。     

BP神经网络算法的改进及其应用

根据BP算法的基本原理,分析指出了BP算法存在着收敛慢、接近最优时易产生波动和振荡现象的原因。在此基础上,通过进一步研究,提出了一种新的改进BP算法。改进后的BP算法不仅运算速度有所提高,而且在一定程度上克服了易产生波动和振荡现象的问题。由于改进BP算法的每个权都能找到最优学习率,因此收敛精度得到了提高;并且该算法基本不受初始学习率的影响,因而避免了学习率选取的困难。图1,表3,参4。     

一种改进型神经网络算法NN-LMBP

提出最近邻Levenberg—Marquardt误差反向传播神经网络算法。针对BP神经网络收敛速度慢的不足，利用Levenberg—Marquardt优化算法进行改进。同时为了提高神经网络的泛化能力，进一步基于最近邻算法对样本进行修剪。试验表明，与一般神经网络算法相比，NN-LMBP在改善神经网络泛化能力的基础上，有效地提高了神经网络收敛的速度。     

数值积分的神经网络算法研究

提出一种求解数值积分的新方法,其基本思想是训练傅立叶基神经网络来逼近被积函数以实现定积分的数值计算.为保证算法的收敛性,提出并证明了神经网络算法的收敛性定理,为学习率的选取提供依据.本算法计算精度较高,对被积函数要求较低,适应性强,并可以计算振荡函数的积分.数值积分算例验证了本算法的有效性,因此在工程实际中有较大的应用价值.     

一种用神经网络来进行图像恢复的方法

本文首先简要地介绍了Ｙ．－Ｔ．Ｚｈｏｕ提出的图像恢复神经网络方法，并分析了这种方法存在的缺陷，在此基础上提出了一种用于图像恢复的改进神经网络方法，在计算机上利用实际拍摄的人头图像对本文提出的改进方法进行仿真实验，结果表明本文提出的这种方法是切实可行的。     

神经网络学习算法的研究

本文论述了神经网络学习算法的研究现状和存在的问题,并根据状态空间混合法,推出了一种自适应调整学习步长的公式。     

自组织特征映射神经网络权值的实现

本文根据自组织特征映射神经网络学习算法，提出了其权值的ＣＭＯＳ实现电路。该电路结构简单，动态范围宽，易于集成实现。学习速度可达５０万次每秒。用ＣＭＯＳ１．２μ工艺实现电路的ＰＳＰＩＣＥ５．０仿真，表明该电路具有较好的工作性能。     

基于模糊集的神经网络景象匹配算法

将神经网络思想引入到景象匹配,提出了基于模糊集的神经网络景象匹配算法。该算法将图像模糊集作为特征空间,尝试了在模糊域中采用神经网络学习算法进行精确寻优。实验结果表明,设计的算法不但较好的满足了景象匹配系统对算法的性能要求,而且比传统算法具有更高的抗干扰能力。     

BP小波神经网络快速学习算法研究

讨论了BP小波神经网络在训练过程中减小误差函数时最优方向的确定和自适应调整学习率的方法.首先论证了小波神经网络的数学基础,然后讨论了BP小波神经网络的学习过程,重点讨论了减小误差函数最优方向的确定方法,即如何保证步长方向与负梯度方向一致,由此得出了自适应调整学习率的简便方法.该方法具有普遍性,有广泛的应用价值.仿真结果表明,采用最优梯度下降方向可以大幅度提高BP小波神经网络的学习速度.     

神经网络自适应学习研究

本文讨论了网络拓扑结构、网络的学习参数以及神经元的激活函数等多方面的人工神经网络学习问题，提出了具体实现方法。实验表明这些方法对于加快网络的收敛速度，优化网络的拓扑结构等方面有显著成效。     

粒子群算法在小波神经网络中的应用

利用粒子群(PSO)算法对小波神经网络(WNN)中的参数{am，bm，w(am，bm)}进行优化，取代了传统的梯度下降法。并将仿真结果与BP网络进行比较，仿真数据表明，PSO算法在叠代次数、函数逼近误差、网络性能方面均比BP网络有着显著的提高，且在粒子数目较大的情况下能有效避免BP网络无法避免的局部极小值问题。     

准对角递归神经网络及其算法的研究

提出一种准对角递归神经网络(QDRNN)结构及学习算法。此QDRNN结构上与对角递归神经网络(DRNN)相似，保留了DRNN结构简单的优点，以减小计算量，同时增加了相邻递归神经元之间的关联，可以直接应用BP学习算法进行训练。进一步，引入递推预报误差(RPE)学习算法，并且证明了其稳定性。仿真结果表明，QDRNN比DRNN具有更好的非线性逼近能力，而运算时间却增加甚微，DRNN的学习算法稍加变化即可应用。