A Novel Training Algorithm of Genetic Neural Networks and Its Application to Classification

SOFTWARE,ALGORITHM AND SIMULATION1. INTSODUCTIONWith the development of theoretical research and the demands of practice, the artificial neural network (ANN)has been widely used in mad fields, such as time series prediction, signal processing, pattern recognition andproduction control. By now, among the numerous models of neural networks, MLP is used most widely andhas acquired the greatest achievement. Even so, the BP algorithm, which is used ill training MLP, is a kind o…     

基于神经网络最佳分类器通信信号的调制识别

提出了基于最优决策理论的最佳分类器用神经网络实现的方法,并对通信信号的调制类型进行自动识别。这种方法以使类域最大分离为目标,利用神经网络良好的非线性和自适应性,把最优准则下的自学习功能引入训练过程,结合快速训练和修剪算法,克服了一般神经网络分类器的不足,实验证明其性能良好。     

基于RBF 神经网络的调制识别

针对通信信号这种非稳定的、信噪比(SNR)变化范围较大的信号,利用遗传算法训练的径向基神经网络分类器对各种调制信号的特征矢量进行分类识别,充分发挥径向基神经网络的广泛映射能力和遗传算法的全局收敛能力,并在遗传算法中加入了梯度下降算子,克服遗传算法收敛速度慢的缺点,加快了遗传算法训练神经网络的速度,使得分类器的识别率和鲁棒性得到明显改善。仿真实验的结果证明了此方法的有效性和可行性。     

基于神经网络的形状识别系统及优化

Ｈｏｕｇｈ变换用于形状识别、神经网络用于分类都不是新课题,而我们将这两种方法结合起来,用神经网络实现 Ｈｏｕｇｈ变换并进行特征提取,所提取的特征矢量不受待识别体的大小和位置的影响,且所提特征为一维矢量。对于所构成的神经网络形状识别系统,采用ＢＰ算法进行初１练,优化系统参数。文中最后得出令人满意的实验结果。     

基于深度学习的弹道目标智能分类

针对弹道目标微动分类前需平动补偿及典型雷达散射截面积(radar cross-section, RCS)序列分类需构造人工特征的问题,提出利用弹道目标微动特性和RCS相结合的弹道目标智能分类算法。首先,建立弹道目标运动模型并分析得到方位角和俯仰角,从而获取RCS序列,在此基础上利用小波变换得到时频图并构建数据集;然后,通过卷积神经网络(convolutional neural network, CNN)提取时频图像特征序列并与RCS序列融合成高维特征;最后,利用具有容错能力的双向长短期记忆网络充分学习序列之间的相关性以实现目标分类。仿真结果表明,该算法比卷积神经网络和支持向量机的分类精度分别提高5%和2%以上,分类速度比卷积神经网络和双向长短期记忆网络分别提高1.5倍和2.5倍,实现了更高精度的快速智能分类。     

基于改进概率神经网络的交通标志图像识别方法

神经网络具有较强的容错性和自适应学习能力，在交通标志图像识别中获得广泛的应用，但目前采用的多层感知器、BP神经网络以及径向基神经网络等几种神经网络存在一些不足，故本文提出采用改进概率神经网络进行交通标志图像识别的新方法，整个算法分两步实现：首先对交通标志图像提取它的Tchebichef不变距并作为图像的特征；然后采用改进的概率神经网络进行识别。仿真实验表明，提出的方法比以前的方法有更好的识别效果。     

基于神经网络的舰船雷达目标特征抽取与分类方法研究

本文着重研究应用神经网络来进行舰船雷达目标特征抽取与分类问题,提出了一种基于Mellin变换和多层前馈神经网络的特征抽取方法和一种基于Kohonen网络组的特征分类方法。采用实地录取的三类舰船雷达目标视频回波数据对本文提出的有关方法进行检验,结果表明本文提出的雷达目标特征抽取与分类的神经网络方法是切实可行的,其抽取的特征具有良好的稳定性,其分类的精度很高,明显优于传统的K-邻近分类器。     

遗传神经网络特征提取及在分类中的应用

将遗传算法和神经网络结合应用于乳腺癌细胞分类,首先利用遗传算法随机提取训练集的属性特征,然后用提取特征后的训练集训练神经网络,最后得筑必要的特征子集优化网络结构,仿真实验结果表明,遗传神经网络不仅可以优化神经网络的权值和阈值,还能有效地找出线性可分离特征子集,从而达到降低数据维数并提高分类精度的目的。     

基于NMF与CNN联合优化的声学场景分类

针对声学场景分类任务中复杂声学环境的特征表示问题, 提出一种联合训练特征提取和分类模型的优化算法。将非负矩阵分解与卷积神经网络的训练相结合, 利用网络的损失值实现对特征提取和网络参数的共同更新, 以学习到更具判别性的有监督特征。在TUT2017数据集上提取对数声谱图作为基础特征, 搭建深度卷积神经网络进行实验验证。仿真结果表明, 所提算法的识别准确率相比优化前提升3.9%, 且优于其他两种常用声学特征, 证明该算法能够有效提升整体分类效果。     

遗传算法在神经网络控制中的应用与实现

比较了遗传算法与神经网络的特点,并对将遗传算法用于前向神经网络的可能性进行了研究,同时阐明了遗传算法和神经网络结合的必要性,提出了一种融合遗传算法的神经网络控制方法,该方法采用多层前向神经网络作为遗传搜索表示方式的思维,以神经网络为基础,用遗传算法 习神经网络的权系数,即保留了遗传算法的强全局随机搜索能力,又具有神经网络的鲁棒性和自学习能力,将遗传算法和神经网络相结合,分析了遗传算法基本参数及神经网络结构、隐层和输出层节点非线性函的选择,设计了用遗传算法学习神经网络权系数的软件实现方法,成功地实现了机械手逆运动学求解问题及倒立摆的控制,仿真结果显示了遗传算法快速学习神经络权系数的学习效率与收敛精度,确保了快速达到全局收敛,克服了多层前向神经网络传统的BP学习算法精度低、收敛速度慢、容易陷入局部极小的缺陷,表明了该方法的可行性与有效性。     

基于复数卷积-残差网络的雷达杂波幅度统计模型分类

雷达杂波幅度统计模型分类是进行杂波背景下检测目标的重要步骤。雷达杂波原始数据通常是复数数据, 但现有杂波幅度统计模型分类研究都是在实数数据上完成的。复数数据同时包含幅度和相位信息, 更丰富的信息量有助于雷达杂波幅度统计模型分类。为此, 引入复数神经网络, 利用仿真杂波高分辨距离像(high resolution range profile, HRRP)复数数据, 对雷达杂波幅度统计模型分类问题进行研究, 完成了以下工作: 一是为构建复数最大池化层, 定义并改进了复数最大池化算法, 通过复数卷积神经网络(complex-valued convolutional neural networks, CV-CNN) 对杂波幅度统计模型的分类实验, 对比了两种复数最大池化算法和复数平均池化算法的分类效果, 实验结果表明复数最大池化算法的分类效果更好, 分类准确率为97.29%;二是为进一步提高分类准确率, 构建了复数卷积-残差网络(complex-valued convolution-ResNet, CV-CRN), 通过实验对比分析了CV-CRN的性能, 实验结果表明, CV-CRN的分类性能优于CV-CNN, 分类准确率达到98.84%, 并具有较好的鲁棒性。     

神经网络结构的递归T—S模型模型

提出一种新的递归T－S模型（Takagi-Sugeno模型）的模糊神经网络结构（TSFRNN）,利用动态BP（DBP）算法来学习训练神经网络的参数,通过与通常的多层前馈神经网络结构的T－S模糊神经网络（TSFNN）的对比仿真实验,说明在非线性系统建模方面TSFRNN比TSFNN更加优越。     

AN INFORMATION THEORETICAL APPROACH TO NEURAL NETWORKS

The purpose of this paper is to present a unified theory of several differentneural networks that have been proposed for solving various computation, pattern recog-nition, imaging, optimization, and other problems. The functioning of these networks ischaracterized by Lyapunov energy functions. The relationship between the deterministicand stochastic neural networks is examined. The simulated annealing methods for findingthe global optimum of an objective function as well as their generalization by injectingnoise into deterministic neural networks are discussed. A statistical interpretation of thedynamic evolution of the different neural networks is presented. The problem of trainingdifferent neural networks is investigated in this general framework. It is shown how thisapproach can be used not only for analyzing various neural networks, but also for the choiceof the proper neural network for solving any given problem and the design of a trainingalgorithm for the particular neural network.     

基于神经认知计算模型的高分辨率遥感图像场景分类

通过大脑对外界环境感知的神经结构与认知功能的相关研究,构建仿脑的媒体神经认知计算(multimedia neural cognitive computing, MNCC)模型。该模型模拟了感官的信息感知、新皮层功能柱的认知功能、丘脑的注意控制结构、海马体的记忆存储和边缘系统的情绪控制环路等大脑基本的神经结构和认知功能。在此基础上,构建基于MNCC的高分辨率遥感图像场景分类算法。首先,图像经仿射变换后切分为若干图块,通过深度神经网络提取图块的稀疏激活特征,采用概率主题模型获取图块初始场景类别,并利用图块分类错误信息反馈控制场景显著区特征的提取;其次,根据图块的上下文获取场景语义的时空特征,并在此基础上进行图块分类和场景预分类;最后,用场景预分类误差构造奖惩函数,控制和选择深度神经网络中场景区分度较大的稀疏激活特征,并通过增量式强化集成学习,获得最后的场景分类。在两个标准的高分辨率遥感图像数据集上的实验结果表明,MNCC算法具备较好场景分类结果。     

连续参数小波神经网络的递阶遗传训练方法

提出递阶遗传训练方法用于训练连续参数小波神经网络的参数及其结构.现有的连续参数小波网络训练方法大多只能训练网络的参数,包括平移参数、伸缩参数和权值,而网络的结构得预先用某种方法确定.应用递阶遗传算法能够把网络的结构和参数同时通过训练确定.利用混沌时间序列数据进行仿真,结果证明该模型具有较高的预测精度,提出的方法是可行的.     

神经元网络在股价预测中的应用

利用时延神经元网络模型（ＴｉｍｅＤｅｌａｙＮｅｕｒａｌＮｅｔｗｏｒｋ）对四川长虹的股价作了预测。股价的涨跌预报可视作高维空间的非线性分类问题,本文使用增益可调的反向传播算法,对其走势作了预报。借助前馈神经网络对非线性函数的逼近能力,本文对四川长虹股价这个时间序列作了连续若干天的一步预测。最后,我们采用不同形式的误差函数对预测结果作了比较。     

一种基于遗传算法的小波神经网

网络的优化学习是人工神经研究中的一个重要问题.将遗传算法全局性优化搜索和小波分析的时-频局部性特点相结合,本文提出了一种基于遗传算法学习的小波神经网络--遗传算法小波神经网络(WNNGA).三位异或问题和双螺旋问题的实验结果证明,遗传算法小波神经网络不仅继承了小波分析良好的局部性及其神经网络的学习和推广能力,而且具有遗传算法全局快速寻优的特点,是多层前向神经网络学习的一种理想算法.     

BP神经网络算法的改进

本文分析了ＢＰ算法所面临的问题，给出了一种改进算法，说明了它们的原理和应用环境，将它们与传统的ＢＰ算法作了比较，并通过一实例验证：应用改进算法可以大幅度地提高ＢＰ神经网络的学习速度，这对ＢＰ神经网络的应用有较大实际意义。     

Shortest Path Routing Algorithm Based on Chaotic Neural Network

A shortest path routing algorithm based on transient chaotic neural network is proposed in this paper. Gam-pared with previous models adopting Hopfield neural network, this algorithm has a higher ability to overcome the local minimum, and achieves a better performance. By introducing a special post-processing technique for the output matrixes, our algorithm can obtain an optimal solution with a high probability even for the paths that need more hops in large-size networks.     

MPSO-RBF优化策略在锅炉过热系统辨识中的仿真研究

提出了基于改进PSO算法的RBF神经网络混合优化（MPSO-RBF）方法，并将其应用到非线性系统的辨识中。该方法将改进PSO算法的全局搜索能力和RBF神经网络局部优化的高效性相融合，克服了普通PSO算法收敛的不稳定性和RBF网络易陷入局部极小值的缺点。经典型非线性系统仿真试验，并与GA-RBF和RBF辨识效果进行了对比，结果表明基于MPSO-RBF的混合优化方法较GA-RBF和RBF优化速度快、逼近性能好，可以达到更优的辨识精度。最后，通过对火电厂的过热汽温动态特性的辨识实例，同样证明了MPSO-RBF方法具有更好的性能指标。