一种新的基于梯度动力学的协同神经网络学习算法

在研究协同神经网络梯度动力学过程的基础上，针对学习过程收敛速度缓慢的缺点，介绍了一种改进的基于梯度动力学的协同神经网络学习算法。该算法分析了非平衡注意参数对学习过程的影响，简化了初始伴随向量的选取；并引入最优化理论，将该问题归结为求解非线性最优化问题，提出了适时地用共轭梯度法代替梯度下降法的算法，加快了学习过程的收敛。通过对标准人脸图像库的图像识别实验表明该算法较之其他学习算法有较高的识别率，并能较快地收敛到极小值。     

基于聚类法的协同神经网络学习算法

根据协同学理论的基本观点（模式识别的过程即为模式形成的过程）,对构造出的协同神经网络在模式识别中的应用进行了研究．发现伴随向量的性能直接影响到模式识别的成功率,而伴随向量是由原型向量计算得到．所以原型向量的选择对识别结果有着十分重要的作用．提出了一种基于聚类算法的选择原型向量的方法．通过对近千个样本进行的模拟实验,结果证明这种基于聚类算法的原型向量选择方法很有效,使识别率有了较大的提高．     

一种新的协同模式识别学习算法

在协同模式识别中，学习可以归结为求原型向量和伴随向量．文中提出了一种基于核函数映射的学习算法，输入向量被隐式地映射到一个可分性有所提高的向量空间，然后计算变换后的原型向量．对伴随向量增加一个附加的约束以避免它的范数超过一定值，从而改善伴随向量的性能，减少误识别．通过对数字、英文字母和汉字等的训练实验表明，这种算法得到的伴随向量能更好地表示样本的特征，计算所得的初始序参量能更好地反映测试图像与训练样本之间的相似程度．     

一种改进的等误差自组织特征映射矢量量化算法

为了改善矢量量化的码书性能和提高神经网络的学习效率,在分析等误差自组织特征映射算法(equidistortion self-organizing feature mapping,EDSOFM)的基础上,提出了一种改进算法。改进算法将模糊神经网的隶属度函数引入到竞争学习算法中,有效地提高了学习收敛速度。针对原算法搜索获胜码字时计算量较大的问题,改进算法通过不等式判决的方法,快速排除了大量的不匹配码字。实验结果表明,改进算法使码书设计的计算量得到明显的减少,而且码书的性能得到了提高。     

一种基于灰度区间的BP神经网络算法研究

为了不断提高前向神经网络的学习能力,考虑在神经网络学习和训练的过程中引入灰色系统理论,设计出一种新型的神经网络算法（GBP）。该算法通过减少输入向量空间的灰度,使得神经网络的输入向量进一步优化,从而更加有利于神经网络的学习和训练。最后通过模拟实验表明,新设计的算法比经典的BP算法有更高的效率,该算法具有训练速度快、泛化能力强等特点,是一种有效的学习方法。     

基于粗糙集和自组织神经网络的聚类方法

自组织神经网络在学习过程中采取竞争机制选取最优匹配神经元获胜，然而实际情况可能有一组神经元都非常匹配输入向量。引入粗糙集的上近似与下近似理论，选择一组最匹配神经元获胜。实验证明基于粗糙集和自组织神经网络的聚类算法，较之传统的自组织神经网络聚类算法聚类结果更平均，死神经元更少，是一种良好的聚类算法。     

多层分组神经网络的手写体数字识别

手写体数字识别的应用研究是字符识别中具有挑战性的课题．提出一种基于二进小波变换与多层分组神经网络的自由手写体数字的多分辨率识别算法．该算法包含二进小波变换的多分辨率特征抽取单元及多层分组神经网络分类器,与传统的完全连接的神经网络相比,该网络结构简单、输入节点少,并且由于网络分为子网结构,不同子网学习的是不同的特征映射值,某一子网不收敛不会影响到其他子网的收敛,网络鲁棒性好．采用信函分拣机提供的字库测试表明,其正确率为９８％左右．     

关于泛化神经网络与支持向量机的研究

人工神经网络(ANN)的泛化特性是神经网络最重要的特性,同时也是最不容易保证的特性。本文对改进泛化的神经网络算法以及新兴的机器学习算法——支持向量机算法进行研究,并分别用BP神经网络、改进泛化能力的神经网络、支持向量机对人体脂肪测试实例进行仿真预测分析,结果表明,支持向量机比神经网络、改进泛化神经网络具有更好的预测(泛化)能力,是人工神经网络的替代方法。     

一种改进的等误差自组织特征映射矢量量化算法

为了改善矢量量化的码书性能和提高神经网络的学习效率,在分析等误差自组织特征映射算法(equidistortion self-organizing feature mapping,EDSOFM)的基础上,提出了一种改进算法.改进算法将模糊神经网的隶属度函数引入到竞争学习算法中,有效地提高了学习收敛速度.针对原算法搜索获胜...     

优化的竞争算法在语音识别中的应用

在传统的ＨＭＭ语音识别方法的基础上,提出了两种改进的竞争神经网络算法,分别用于语音识别的两个不同方面．首先提出了一种基于选择机制的新的竞争算法,这种算法可以有目的性地避免局部最优,而且可以克服模拟退火算法（ＳＡ）的随机性．然后,针对分类器的特性,对竞争算法进行改进,把安全拒识措施结合到竞争算法中,提出了一种新颖的神经网络——并行、自组织、层次神经网（ＰＳＨＮＮ）．实验结果表明,基于竞争神经网络算法的语音识别系统比传统的语音识别系统在识别能力和识别速度上都有明显提高,从而证明了与竞争神经网络算法结合的语音识别方法是可行的,而且具有良好的发展和应用前景．     

基于竞争型神经网络的城市空气质量分析

该文利用竞争型神经网络来对空气质量进行分类。竞争型神经网络模拟生物神经网络中的神经元之间的兴奋、抑制与竞争的机制,进行网络的学习与训练。竞争型神经网络的输出层神经元能够通过竞争以确定胜者,胜者将指出哪一种原型模式最能代表输入模式。将不同空气质量等级下的各空气指标作为原型模式,通过输入样本模式,利用竞争网络的竞争特点得到胜者,以此得出空气质量等级。     

Novel Neural Network Inspired by Neuro-Endocrine-Immune System with Its Application to Beam Pumping Unit

Inspired by the modulation mechanism of neuroendocrine-immune system(NEIs),a novel structure of artificial neural network(ANN) named NEI-NN and its learning method are presented.The NEI-NN includes two parts,i.e.,positive subnetwork(PSN) and negative sub-network(NSN).The neuron functions of PSN and NSN are designed according to the increased and decreased secretion functions of hormone,respectively.In order to make the novel neural network learn quickly,the novel neuron based on some characteristics of NEIs is also redesigned.Besides the normal input signals,two control signals are considered in the proposed solution.One is the enable/disable signal,and the other is the slope control signal.The former can modify the structure of NEI-NN,and the later can regulate the evolutionary speed of NEINN.The NEI-NN can obtain the optimized network structure by using error back-propagation(BP) learning algorithm.Since the modeling of the beam pumping unit is very difficult by using the conventional method,the modeling of bean bump unit is chosen to examine the performance of the NEI-NN.The experiment results show that the optimized structure and learning speed of NEI-NN are better than those of the conventional neural network.     

基于预训练模型和多视角循环神经网络的电力文本匹配模型

针对传统方法未能考虑词向量的动态性及句子间交互不充分等问题,提出基于BERT预训练模型及多视角循环神经网络的文本匹配模型。通过BERT-whitening方法对BERT输出的句向量进行线性变换优化,并利用多视角循环神经网络将两句子不同位置的BERT动态词向量进行双向交互计算;将句向量与词粒度交互向量进行融合后计算结果。实验结果表明,提出的模型相较于对比模型有明显性能提升,实用性良好。     

动态可控残差卷积神经网络的低剂量 CT 图像处理

针对计算机断层扫描(Computed Tomography, CT)中因采用低剂量扫描方式,导致图像噪声伪影干扰,尤其 是不同部位噪声和伪影强度存在较大差异这一问题,提出了一种基于动态可控残差的卷积神经网络(DC-ResNet) 算法。 DC-ResNet 的主要思想是在常规残差网络连接中添加一个图像质量指导的控制变量,以允许获取残差的加 权和,从而实现残差特征的动态可控。 所设计的 DC-ResNet 网络是一种包括两个子网络的组合型结构,一个是作 为主干网络的基础子网络,在该子网络中使用全局动态残差块和局部动态残差块来实现低剂量 CT 图像质量的提 高;另一个是作为辅助网络的条件子网络,用来生成基础子网络中不同动态可控残差块的权值,辅助基础子网络的 学习。 通过 Mayo 与 UIH 数据实验验证,其视觉结果表明:处理后的不同部位 CT 图像噪声伪影均能够得到较好的 抑制,并能有效地保留结构细节及组织纹理;量化结果表明:处理后的 CT 图像峰值信噪比( Peak-Signal to Noise Ratio, PSNR)和结构相似性(Structure Similarity, SSIM)均优于对比方法。     

类似CMAC的模糊神经网络及其在控制中的应用

提出的一种模糊神经元网络是模糊逻辑的一种网络结构的实现。该网络由特征网络 和功能网络两部分组成。特征网络用来产生模糊规则的前件，相应于每条规则的适用度。功能 网络用来实现模糊规则的后件。最后的输出则为各模糊规则后件的加权和。该网络具有小脑模 型关节控制器（ＣＭＡＣ）的一些性质，具有神经元网络和模糊逻辑两者的优点。它既可以容易地 表示模糊和定性的知识，又具有较好的学习能力。文章同时给出了网络在控制中应用的两种实 现结构以及用作非线性映射的一个算例。     

基于自组织特征映射神经网络的数字模式识别

在分析自组织特征映射(SOFM)神经网络基本学习算法的基础上．从提高算法收敛速度和性能出发．提出了一种改进算法：随机选择样本输入次序；根据实际应用并结合专家经验确定初始连接权值；采用高斯函数作为拓扑邻域函数；将算法分成排序和收敛两个阶段。并分别采用不同的学习率和邻域函数．采用改进后的SOFM算法对输入样本进行自组织聚类，再利用学习矢量量化(LVQ)算法解决样本分类中的交迭问题。提高了分类精度．仿真实验结果表明．该网络能够识别常用的数字(0～9)和英字母．特别是在有噪声污染的情况下．可以获得较好的效果。     

基于小波多分辨分析的新型多RBF网络轧制力设定模型

带钢热连轧生产过程中,影响因素多、关联复杂,轧制过程控制的精确模型难以建立,其中轧制力的预设定是重要问题之一,各种影响因素都会在轧制力的波动中有所体现.本文应用小波多分辨分析方法,将轧制力分解重构为对应于不同影响因素的不同频率成分子信号,并建立了一个多RBF网络模型,模型中每个子网络分别对一个信号成分进行建模,最后子网络输出被综合为轧制力设定信号.因为各个子信号影响因素不同,所以每个子模型输入参数不同，输出参数也不同,能真实地反映轧制力变化内在机理,具有明确的物理意义.仿真实验表明,这种建模方法降低了系统维数,能有效提高网络学习能力,轧制力预设定误差率从BP网络的10％降低到了5％.