一种新的前馈神经网络删剪算法

前馈神经网络中隐层神经元的个数与它的学习和泛化能力密切相关.通过广义逆矩阵算法解决最小二乘问题改进神经网络自构行学习算法,得到一种新的前馈神经网络删剪算法.将新算法用于已经训练好的大型网络,能删剪“冗余”的隐层神经元,得到一个最精简的神经网络.此精简的神经网络不需要重新训练仍能保持原有的性能,并且泛化能力很好.仿真实例说明此算法的有效性和可行性.     

激励函数可调的NARX神经网络

提出了一种隐层神经元激励函数可调的具有外部输入的非线性回归(NARX)神经网络,它在进行权值调整的同时,还对各隐层神经元激励函数的参数进行自适应调节;并推导出激励函数参数的学习算法,从而使NARX神经网络更符合生物神经网络.通过系统辨识的仿真实例,说明了隐层神经元激励函数对网络性能的影响,还验证了文中提出的NARX神经网络具有更快的收敛速度,并且能有效地避免算法陷入局部最小.     

自适应神经网络PID控制器

提出了一种新型神经网络PID控制器，其学习速率是通过三层前向BP网络在线辨识学习，使神经元有较强的智能性、自适应和自学习的能力；同时，将Smith预估器与神经元PID控制器相结合，能更有效地抑制纯滞后的影响。仿真结果表明该控制器有较好的控制效果和鲁棒性。     

基于竞争型神经网络的城市空气质量分析

该文利用竞争型神经网络来对空气质量进行分类。竞争型神经网络模拟生物神经网络中的神经元之间的兴奋、抑制与竞争的机制,进行网络的学习与训练。竞争型神经网络的输出层神经元能够通过竞争以确定胜者,胜者将指出哪一种原型模式最能代表输入模式。将不同空气质量等级下的各空气指标作为原型模式,通过输入样本模式,利用竞争网络的竞争特点得到胜者,以此得出空气质量等级。     

一种改进的多层前馈神经网络结构研究

通过将传统多层前馈神经网络结构改造为具有跨层连接的网络,提出了相应的多层前馈神经网络改进算法.通过分析网络误差函数,从理论上证明了:相对于无跨层连接网络,有跨层连接网络能以更加简洁的结构逼近理想状态.最后,用一个隐层神经元解决了传统网络必须用两个隐元才能解决的异或问题.     

神经网络在二相编码信号旁瓣抑制中应用

研究了人工神经网络在二相编码信号距离旁瓣抑制问题中的应用。在H．K．Kwan等提出的将多层感知器网络用于二相编码信号距离旁瓣抑制问题的基础上,采用了一种改进的神经网络学习算法对网络进行训练。用13bit巴克码对网络进行了测试。实验结果表明,经改进的神经网络学习算法训练后的网络抗噪性能、多目标分辨能力以及收敛速度都明显优于一般误差反向传播学习算法（EBP）训练所得的结果。     

最小学习机

针对极端学习机(ELM)不能用于多层前向神经网络学习的问题,通过揭示单层前向神经网络(SLFN)的ELM与岭回归以及中心化的岭回归之间的关系,提出了SLFN的最小学习机.通过证明核化的中心化岭回归与核化的PCA之间的关系.提出以无限可微的核函数为激励函数的多层前向神经网络(MLFN)的最小学习机LLM.SLFN/MLFN的最小学习机能够保持ELM的上述优势.     

改进的神经网络快速学习算法

提出了一种新颖的神经元模型和用于神经网络训练的推广准则，给出了多层神经网络的快速学习算法，研究了一种用于语音识别的时变多层神经网络及其相应的快速学习算法．语音识别实验表明：所给出的快速学习算法能有效地加速网络训练进程．     

BP算法的改进

针对多层神经网络中由于隐含层神经元饱和而引起的局部极小值问题,提出一种改进的BP算法.每一种训练模式在隐含层的神经元都采用各自的传递函数,该改进算法的思想是当网络输出没有取得期望的结果时,修改传递函数以防止隐含层神经元饱和,这种改进的算法既不用改变网络的拓扑结构,也不会消耗更多的计算时间.     

一种用于多类模式识别的综合感知器网络和学习算法

提出一种由感知器神经元组合成的综合网络模型及相应的学习算法,网络由3层感知器神经元组成,中间屋到输出层的权值相应地为＋1或－1,输入层到中间层的权值通过学习获得,且中间层每个神经元的权值单独学习完成,该学习算法在有限次迭代步骤内终止。当算法终止时,对于可线性发的多类模式识别问题总是能找到正确的解,如果还有模式不能识别,则说明这是一个不可线性划分的多类模式识别问题,用阿拉伯数字识别的例子说明了网络模型和算法的有效性。     

基于视觉感知机制的轮廓检测方法

结合初级视皮层的结构及其功能特性,模拟初级皮层的轮廓感知功能,提出一种有效的基于人类视觉感知机制的轮廓检测算法.首先,利用局部能量建立复杂细胞响应模型;然后,结合初级视皮层细胞排列特性构建图像信息与皮层细胞的映射关系,通过模拟神经元间的水平连接机制,实现对图像轮廓信息的增强和背景信息的抑制,建立了以初级视皮层风车状结构为基础的轮廓感知模型.实验结果表明:所提方法在保持目标轮廓完整性的同时,对背景信息的抑制效果更为有效;可以更加有效地对图像背景纹理进行抑制和对目标轮廓进行增强,在一定程度上达到了轮廓过度检测与欠检测的平衡,检测出的目标轮廓位置也更加精准.     

一种改进的Jacobi正交多项式的BP神经网络算法

 根据多项式理论,构造一种以Jacobi正交多项式作为隐层神经元激励函数的BP(back-propagation)神经网络模型.针对该网络,提出一种改进算法即隐层神经元数可快速确定的权值直接确定算法.首先介绍正交基函数和Jacobi多项式的定义,以及BP神经网络的基本原理.然后进行网络隐层数设计及其隐神经元数的确定,且设置各层连接权值、给出改进算法的步骤.最后,将其与传统矩阵迭代法和Levenberg-Marquardt训练算法进行比较.计算机实验结果表明,该算法具有比传统的BP迭代法更快的计算速度,并且能够达到更高的工作精度.     

基于卷积神经网络的粗粒度数据分布式算法

针对特定运行模式下粗粒度数据存在计算效率较低的问题, 提出一种基于卷积神经网络的数据分布式算法. 首先构建用于粗粒度数据处理的卷积神经网络模型, 给出模型基础连接层神经元网络的连接结构和权重比例, 并训练和池化粗粒度数据； 然后利用训练池化结果求解模型的最小损失函数, 提升模型针对粗粒度数据的分布式计算能力. 实验结果表明, 在单机和集群模式下, 卷积神经网络模型具有更好的计算效率和数据泛化能力.     

Structure Optimization for Echo State Network Based on Contribution

Echo State Network(ESN) is a recurrent neural network with a large, randomly generated recurrent part called the dynamic reservoir. Only the output weights are modified during training. However, proper balancing of the trade-off between the structure and performance for ESN remains a difficult task. In this paper, a structure optimized method for ESN based on contribution is proposed to simplify its network structure and improve its performance.First, we evaluate the contribution of reservoir neurons. Second, we present a pruning mechanism to remove the unimportant connection weights of reservoir neurons with low contribution. Finally, the new output weights are learned with the pseudo inverse method. The novel optimized ESN, named C-ESN, is tested on a Lorenz chaotic time-series prediction and an actual municipal sewage treatment system. The simulation results show that the C-ESN can have better prediction and generalization performance than ESN.     

基于卷积神经网络的粗粒度数据分布式算法

针对特定运行模式下粗粒度数据存在计算效率较低的问题, 提出一种基于卷积神经网络的数据分布式算法. 首先构建用于粗粒度数据处理的卷积神经网络模型, 给出模型基础连接层神经元网络的连接结构和权重比例, 并训练和池化粗粒度数据; 然后利用训练池化结果求解模型的最小损失函数, 提升模型针对粗粒度数据的分布式计算能力. 实验结果表明, 在单机和集群模式下, 卷积神经网络模型具有更好的计算效率和数据泛化能力.     

融合社区连接信息的网络嵌入方法

网络嵌入旨在学习节点的低维稠密向量,同时保留原始网络的结构和属性信息。现有的网络表示方法大多未考虑网络中的社区信息和社区间的信息,难以有效地学习网络的低维表示。为有效保留网络中的社区信息和社区间信息,提出了一种融合社区连接信息的网络嵌入方法(network embedding based on community connection information,ECCI)。该方法基于不同社区的亲密程度,捕捉网络中社区间的关系;采用自定义游走的方式得到融合局部结构、社区信息以及社区间信息的游走序列;通过Skip-Gram模型得到与之对应的网络嵌入结果。在3个公开数据集的实验结果表明,ECCI相比基准方法在链接预测上的AUC值和F1-Score都有一定程度的提升。     

输电线路带电作业机器人机械手RBF神经网络控制

针对完全依靠人工带电拧紧高压输电线路耐张跳线引流板螺栓作业效率低、劳动强度大、高空高压危险设计了一种双臂、双机械手的螺栓紧固带电作业机器人.在整个作业过程中着重对螺栓拧紧的关键问题进行了理论分析,建立了螺栓拧紧过程控制的RBF神经网络模型.将机器人的螺栓拧紧过程抽象为神经网络的非线性逼近控制问题,提出了基于RBF神经网络的机器人螺栓拧紧状态监测控制方法.最后带电作业试验结果显示经过该控制方法机器人拧紧的螺栓联接可靠性增强,验证了所提出方法具有较强的工程实用性,同时进一步提高了作业效率、作业安全性及作业可操作性.     

余数制神经网络

提出了一种新的神经元模型，其数据和权值用余数制表示，称之为余数制神经元．它的处理能力等效于一些多层感知机模型．同时提出用中国余数定理重构信号，等效于神经元之间的非线性连接．将此模型用于分类，其单层网络可用于解高阶和边界模糊问题     

多维离散傅立叶变换神经网络函数逼近

利用多维离散傅立叶变换原理构造新颖的神经网络模型用于函数逼近,网络结构为分层前向网络。给出了网络的学习算法,网络的大部分权值都是固定的,只有输出层与最后隐层之间的权值需要调节。     

基于Chebyshev神经网络的非线性Fredholm积分方程数值解法

利用Chebyshev扩展块代替隐层结构, 提出一种基于函数逼近的Chebyshev神经网络模型求解非线性Fredholm积分方程的方法, 并给出其最佳逼近解及算法的收敛性分析. 数值算例验证了算法的可行性和有效性.