稳健二进前向网络的遗传训练方法*

稳健二进前向网络是对逻辑知识的隐式表示和显式表示的有机统一，是性能优良的逻辑知识库、推理机和解释器，但目前还没有一种网络训练算法能够训练出稳健二进前向网络，针对这种情况，本文首先对稳健二进前向网络的神经元辅阈值范围进行了改进和有效描述，并在此基础上提出了一种对稳健二进前向网络进行有效训练的遗传训练方法。在这种训练方法中，网络参数采用三值编码方案，并运用相应的变异机制和有效的适应度函数，经这种方法训练出的网络具有结构最优、稳健性能最强和最易实现的特点。文章最后给出了实验的结果。     

基于免疫算法的前向神经网络学习方法

提出了一种采用免疫算法训练多层前向神经网络的方法。该方法利用免疫算法训练前向神经网络,能够使网络优化过程趋于全局最优。利用基于遗传策略的聚类机制确定前向神经网络的初始权值,增加了网络训练算法收敛于全局最优的概率。将这种神经网络用于雷达模拟调制信号的调制方式识别的仿真结果表明,采用该算法设计的前向神经网络达到了较高的性能。     

LS-SVM与多层前向网络的非线性回归性能比较

在阐述支持向量机(SVM)和最小二乘支持向量机(LS-SVM)的原理并比较了两者的优缺点后,将LS-SVM与多层前向网络中的两种典型网络BP网络和RBF网络,分别应用于装载机载重动态测量的非线性函数回归估计中,对这三种网络在函数逼近和泛化能力两方面的性能进行比较研究。仿真结果表明,LS-SVM在精度和泛化性能两方面做到了最好的折衷,是用于非线性函数回归分析的一种很有效的方法。     

多层前向神经网络的RLS修正训练算法

文献［４］提出一种训练多层前向神经网络的快速学习算法—ＲＬＳ算法，与标准ＢＰ算法相比有较高的学习效率，但该方法的主要缺陷是存在数值稳定问题和鲁棒性不强的问题。提出了一种修正的基于递推最小二乘算法（ＲＬＳ）的多层前向神经网络的快速学习算法，证明了算法的数值稳定性，对两个系统进行了辨识，并与ＲＬＳ训练算法和标准ＢＰ算法进行了比较，仿真结果显示了所提方法的鲁棒性和有效性。     

用于前向网络的自适应模糊训练算法

在对前向网络的学习机制和寻优机制进行研究的基础上,提出了一种自适应模糊加速训练算法,可在网络学习过程中,通过模糊推理,对网络拓扑结构、学习因子、惯性因子及激励函数进行自适应调整,实例验证表明该算法具有收敛速度快、不易陷入局部极小、网络综合性能好等特点.     

权值光滑BP算法：一种改善网络推广性能的方法

推广性能是人工神经网络研究的重要方向。在推广性能的研究中，改进学习算法是提高前向网络推广性能的重要方法之一。本文对一特殊的权值光滑BP算法的理论基础进行了仔细的研究，并将该算法首次应用于水声目标的分类问题。实验结果表明，具有权值光滑BP算法的前向网络不仅具有较光滑的连续权值，而且其推广性能也优于具有标准BPM算法的前向网络。     

多层前向网络灵敏度的分析和降低方法

本文将前向网络的输入误差看作服从加性和乘性随机噪声，进行了网络输出误差的统计分析，并依此定义网络的灵敏度。在此基础上，分析了Ｓｉｇｍｏｉｄ函数的斜度对网络灵敏度的影响，结合仿真实验，提出了一个降低前向网络灵敏度的有效方法。     

Actor-Critic框架下的多智能体决策方法及其在兵棋上的应用

将人工智能应用于兵棋推演的智能战术兵棋正逐年发展, 基于Actor-Critic框架的决策方法可以实现智能战术兵棋的战术行动动态决策。但若Critic网络只对单算子进行评价, 多算子之间的网络没有协同, 本方算子之间各自行动决策会不够智能。针对上述方法的不足, 提出了一种基于强化学习并结合规则的多智能体决策方法, 以提升兵棋推演的智能水平。侧重采用强化学习对多算子的行动决策进行决策分析, 并结合产生式规则对战术决策进行规划。构建基于Actor-Critic框架的多算子分布执行集中训练的行动决策模型, 对比每个算子互不交流的封闭式行动决策学习方法, 提出的分布执行集中训练方法更具优势且有效。     

基于递阶遗传算法和BP网络的模式分类方法

提出一种基于递阶遗传算法和BP神经网络的模式分类模型.现有的BP网络模式分类训练方法大都只能训练BP网络的权重,网络的结构得预先用某种方法确定.利用巧妙设计的递阶遗传算法能够把网络的结构和权重同时通过训练确定.以模式分类数据库中的数据进行训练和测试,并与其它模式分类模型相比较,结果证明该模型更优,分类精确度更令人满意的,所提出的方法是可行的.     

基于双谱-谱图特征和深度卷积神经网络的HRRP目标识别方法

针对雷达高分辨距离像(high resolution range profile, HRRP)目标识别中有效表示和特征提取这一关键问题,提出了基于双谱-谱图特征和深度卷积神经网络(deep convolution neural network, DCNN)的识别方法。首先,提取HRRP的双谱-谱图特征表示作为CNN的输入。然后，通过网络训练提取出深层本质特征,实现对雷达目标的识别。最后，对不同特征表示的识别结果进行对比。采用卫星目标实测数据进行实验，结果表明,该方法可以准确有效地识别雷达目标,而且与其他常用特征表示相比,双谱-谱图特征表示具有更好的识别准确率和噪声鲁棒性。     

基于UKF神经网络的姿态测量信息融合算法

针对融合系统建模误差、噪声统计特性不精确性和环境的动态变化性致使传统联合滤波过程中融合权值难以确定,引入人工智能中的神经网络,提出了基于神经网络的多信息自适应智能估计融合算法研究;利用神经网络的自适应能力对状态估计融合结果进行实时辅助补偿和修正,将非线性最优估计与神经网络技术相结合,重点研究了基于UKF的神经元融合权重在线自适应学习算法,以便在缺少准确局部子滤波器协方差信息情况下,仍能使全局估计融合结果最优,从理论上证明了UKF学习算法优于传统EKF学习方法,并以卫星多姿态测量信息融合定姿系统为例,给出了计算实例和结论分析,表明了所提出的模型与算法在实际应用中的有效性。

Abstract：

The fusion weight of traditional Federal Kalman Filter is difficult to be determined because of the fusion system modeling error,the inaccuracy of noise statistic characteristics as well as the dynamic variability in the fusion filtering process.In order to solve this problem,a self-adaptive fusion estimation algorithm for multi-information measurement based on neural networks was presented,which used the self-adaptive ability of neural networks to make real-time compensation and amendment for the state fusion estimation results.Combining a nonlinear optimal estimation with neural network,an online adaptive training algorithm for the weights of neuron based on Unscented Kalman filter （UKF） was researched,which could still realize the optimal fusion for the global estimation even if the accurate covariance information of each local sub-filter were absent.The performances of UKF training algorithm and the traditional EKF algorithm were analyzed and compared,and moreover taking the multi-information fusion system for satellite attitude determination as the experimental example,the simulation calculation and analysis were advanced,which show that the presented models and algorithms are effective in the actual application.     

基于神经网络的高并行大规模MIMO信号检测算法

随着5G和未来移动无线网络的不断发展, 大规模多输入多输出(multiple input multiple output, MIMO)是其中的关键技术之一。随着天线数目的不断增加, 给接收机的设计带来更高的挑战, 复杂度过高的检测算法在实际中难以应用。本文将一种高并行(high-parallelism, HP)检测算法展开到神经网络中, 单层神经网络基于该算法的每次迭代, 并将其与可训练的权重参数和非线性神经单元相结合, 提出基于网络结构HP-Net的方法。通过训练HP-Net得到最优可训练参数, 进而提高检测性能。实验结果表明, 所提方法相对传统最小均方误差(minimum mean square error, MMSE)算法复杂度更低, 并能够得到更低的误码率; 同时相对HP并行检测算法误码率性能更优。     

根据粗糙集理论进行BP网络设计的研究

提出了一种根据粗糙集理论进行ＢＰ网络设计的方法,它结合了粗糙集理论的强大的定性分析能力和ＢＰ网络的准确的逼近能力,得到一种可理解性好、计算简单、收敛速度快的神经网络模型．这种神经网络的学习算法的要点是：应用粗糙集的理论和方法,从给定学习样本数据中发现一组规则,并根据这些规则去建立网络模型中相应的隐层节点;然后用ＢＰ算法迭代求出网络的参数,从而完成网络的设计.     

AN INFORMATION THEORETICAL APPROACH TO NEURAL NETWORKS

The purpose of this paper is to present a unified theory of several differentneural networks that have been proposed for solving various computation, pattern recog-nition, imaging, optimization, and other problems. The functioning of these networks ischaracterized by Lyapunov energy functions. The relationship between the deterministicand stochastic neural networks is examined. The simulated annealing methods for findingthe global optimum of an objective function as well as their generalization by injectingnoise into deterministic neural networks are discussed. A statistical interpretation of thedynamic evolution of the different neural networks is presented. The problem of trainingdifferent neural networks is investigated in this general framework. It is shown how thisapproach can be used not only for analyzing various neural networks, but also for the choiceof the proper neural network for solving any given problem and the design of a trainingalgorithm for the particular neural network.     

一种构造径向基神经网络的新型IPL算法

提出了一种新型的IPL(incremental projection learning)算法。该算法通过调整网络参数,达到修正IPL 算子A的目的。与原来的IPL算法相比,新算法所需训练样本数较少,步骤简单,训练速度快。仿真结果表明,由 经过改进的。IPL算法得到的径向基网络结构相对简单,结果也较精确。     

基于OLS算法的RBF神经网络高速公路事件探测

高速公路事件是指破坏正常交通流并造成交通阻塞的非重现随机发生的事件。事件发生后对其进行快速可靠的探测对减少交通延误、保障道路安全、减少环境污染具有十分重要的意义。文中提出了一种基于模糊聚类技术和RBF神经网络的混合智能高速公路事件自动探测算法，同时改进了用于RBF神经网络训练的OLS(正交最小二乘)选择算法。仿真实验证明，改进的OLS选择算法大大提高了RBF神经网络的训练速度，同时具有无须事先确定RBF中心的优点，将之运用于公路事件探测可以获得满意的性能。     

用于社群结构探测的小世界特征遗传算法

针对网络社群结构探测问题,探讨一种小世界特征遗传算法.受小世界现象搜索机理和网络结构特征启发,构造一种社群结构局部搜索算子;进而将该算子引入遗传算法基本框架,提出一种小世界特征遗传算法.典型网络的社群结构探测的结果表明,与Girvan-Newman算法和模拟退火算法相比,小世界特征遗传算法探测到的社群结构具有更大的模块性值,从而证明该算法是可用且有效的.     

前馈网络泛化性能改进的目的规划方法研究

以目的规划模型为基础，将前馈网络准则函数改进、网络灵敏度降低、先验知识运用有机地结合在一起，提出了前馈网络泛化性能改进的目的规划方法．文中给出了该方法的数学模型、求解方法以及算例     

基于数据库信息构建贝叶斯网络的GA方法

主要论述了以现实存在的大量数据库信息为基础构建贝叶斯网络 (BayesianNetworks ,BN)的主要问题。讨论了不确定性知识的图形表示方法 ,以及如何利用专家知识指导属性的排序与选择。鉴于网络结构的复杂度随论域中结点个数的增加呈指数上升 ,如何寻找最佳贝叶斯网络就成为NP -Hard难题 ,应用遗传算法 (GeneticAlgorithms,GA)给出了最佳贝叶斯网络设计的一种新方法 ,并进行了实例计算。     

前馈网络目的规划算法及其应用研究

提出了前馈网络目的规划算法。与通常ＢＰ算法相比,该方法进行了三个方面的改进：（１）准则函数的改进;（２）网络灵敏度的降低;（３）领域先验知识的运用。理论分析及大气中ＳＯ２浓度预测应用研究表明该方法有效地改善了前馈网络泛化性能,提高了预报精度。