基于卡尔曼滤波的二次型神经网络学习算法及收敛性分析

提出了二次型多层前馈神经网络的卡尔曼滤波学习算法,并证明了该算法的收敛性。与文献［２,３］中的学习算法和经典的误差反向传播学习算法相比,新的学习算法具有更快的学习速度、良好的泛化能力,并且对学习率有很好的鲁棒性,不容易陷入局部极小点。仿真实验结果表明了新算法的有效性。     

经济复杂性系统主体学习算法理论综述

对经济复杂性系统研究文献中常见的主体学习算法进行了一个全面的梳理.将学习算法分为来自智能计算或演化计算的学习算法以及来自心理学和实验经济学的学习算法,并结合文献介绍了各类学习模型在经济学研究中的主要应用.还回顾了文献中对各种算法的分析比较,并对学习算法的发展前景进行了展望.由于学习算法还是一个相对较新的领域,对经济系统中个体学习行为需要进行更加深入的研究和探索.     

多层前馈神经网络的快速学习算法及其仿真研究

本文主要研究多层前馈神经网络的快速学习问题。文中首先概述了多层前馈神经网络的B—P学习算法,并分析了这种算法的主要缺陷,在此基础上提出了若干克服和缓解这些缺陷的技术方法,由此构造了一种新的多层前馈神经网络的快速B—P学习算法即FB—P算法。通过对FB—P算法学习过程进行较详细的分析,本文还建立了一种改进的FB—P学习算法即MFB—P算法。最后本文以三层前馈神经网络识别五类地面目标图像为例,对文中提出的FB—P和MFB—P学习算法的性能(即学习速度与推广特性)进行了计算机仿真实验,同时与B—P学习算法的性能作比较,理论分析与仿真实验表明:MFB—P与FB—P学习算法比B—P学习算法具有更快的收敛速度,且MFB—P算法收敛最快;MFB—P算法比FB—P和B—P学习算法具有更好的推广特性,而后两者的推广特性则大致相同。     

遗传算法中两种学习机制的混合应用

在遗传算法中引入个体学习机制能够提高算法的性能,避免算法收敛过慢或陷入局部最优.常用的个体学习机制有两种,即拉马克学习与鲍德温学习,通过分析比较了两种学习机制在遗传算法中的性能差异,指出了它们各自的优势与不足.为进一步提高算法性能,基于"学习潜能"的新概念及利用鲍德温学习挖掘个体学习潜能的方法,将两种学习机制有机结合在一起,使学习的优势得到充分发挥,使其不足得到有效抑制.数值试验结果表明,包含两种学习机制的新算法取得了很好的效果.     

Prism系列归纳学习算法综述

模块化分类规则的归纳学习是机器学习领域应用较广的一类算法,已经发展形成了多个分支和派系,其中,Prism系列算法是当前该类学习算法的典型代表之一。Prism系列算法历经近20多年的发展,在多种归纳学习任务中得到了成功应用,目前已经成为决策树归纳算法的主要竞争者。本文在Prism系列算法基本框架的基础上,分别从单机算法和并发算法两个方面对Prism系列算法进行了综述,比较分析了不同算法对于多种分类问题的适应性、优缺点及相互关系,并展望了未来该类算法的发展方向。     

结合局部结构学习的Bayesian优化算法

在Bayesian优化算法中Bayesian网络的学习是算法应用的关键,而Bayesian网络学习是一个NP-hard问题,并且计算量大。为了能够快速获得较稳定的Bayesian网络,提出了一种新的学习策略,在学习Bayes-ian网络结构时采用对局部结构的贪婪算法,并结合局部搜索利用打分测度选取最优边。对所提算法进行了分析,在算法复杂度较小的情况下,所学习的Bayesian网络可靠性明显提高,算法收敛速度加快,并且避免陷入局部最优。仿真研究表明文章所提出算法寻优能力优于传统Bayesian优化算法。     

基于佳点萤火虫算法与BP神经网络并行集成学习的旱情预测模型

针对传统BP神经网络在旱情预测的实际应用中随机初始权值和阈值导致网络学习速度慢、易陷入局部解以及计算精度低等缺陷,提出一种基于数论佳点集萤火虫(good point set glowworm swarm optimization,GPSGSO)算法与BP神经网络(back propagation neural network,BPNN)并行集成学习算法(GPSGSO-BPNN)的旱情预测模型.首先,借鉴数论中佳点集理论构造初始均匀分布的萤火虫种群,并引入惯性权重函数动态修正移动步长,生成基于数论佳点集理论萤火虫算法,并从理论上分析算法的有效性;其次,将GPSGSO算法与BPNN相结合构建并行集成学习算法,实现两种算法的并行交互集成.最后,将并行集成学习算法应用于农业干旱灾害预测中,构建基于GPSGSO-BPNN并行集成学习算法的旱情预测模型.通过8个Benchmark函数验证了GPSGSO算法在收敛速度、计算精度及稳定性等方面的有效性.同时,以皖北农业干旱气象数据作为仿真数据,实验结果表明GPSGSO-BPNN算法在计算速度、精度及稳定性方面较传统BPNN、GSO-BPNN及GA-BPNN等算法有较明显的优势,提高了旱情等级预测的准确性.     

基于模糊推理的自适应BP算法

ＢＰ网络是迄今为止应用最广泛的一种神经网络，但这种算法也存在着收敛速度慢、容易陷入局部极小点等问题．本文在标准ＢＰ算法的基础上提出一种改进ＢＰ算法，称之为自适应ＢＰ算法．这种自适应ＢＰ算法采用模糊规则动态调整学习参数，并且能在学习过程中和学习完成后通过隐节点调整算法优化网络结构，有比标准ＢＰ算法更好的收敛性和更好的泛化能力     

基于学习进化的机器人同时定位与地图创建

利用学习与进化结合的思想,改善基于粒子滤波的SLAM算法。在对学习与进化的关系深入分析的基础上,针对基于粒子滤波的SLAM算法,提出将滤波过程分成学习和进化两个阶段,分别给出相应算法解决粒子有效性与多样性的问题,缓解二者之间的矛盾,改善了SLAM算法的效果,增强了算法的鲁棒性,也验证了学习与进化的关系。最后,通过多次Monte-Carlo仿真实验结果表明了该算法的有效性。     

基于限制型粒子群优化的贝叶斯网络结构学习

贝叶斯网络结构学习是数据挖掘与知识发现领域的主要研究技术之一,在网络结构的搜索空间相对较大的情况下,已提出的相关算法往往都会存在算法收敛速度慢、学习到的结果准确性较差的缺陷。提出一种信息论结合粒子群优化的算法,利用互信息限制粒子的初始化,使得粒子群优化算法能在较短的时间内收敛,应用ASIA网络作为仿真模型,并与K2算法比较。实验结果表明,提出的算法能够快速、准确地得到贝叶斯网络结构。     

Basic features of an information and communication system aimed at promoting organisational learning

The purpose of this article is to design the basic features of an information and communication system in order to promote organisational learning. The purpose is, further, to categorise the concept of learning to prevent errors of categorisation in connection with organisational learning. The article is, in accordance with this purpose, clearly normative. First, we weave together parallel currents in organisational learning, by referring to sources influencing these currents. We categorise three currents of learning: the system-theoretical, the classical school of learning, and the strategic school of learning. Our contribution is linked mainly to the system-theoretical school of learning. We then develop basic features of an information system aimed at the promotion of organisational learning. Then we discuss basic features of a communication policy, also focused on organisational learning. Finally, we categorise organisational learning at four levels.     

供应链复杂性对组织学习和运营竞争力的影响

供应链上的企业越来越认识到组织学习对其基本生存与持续发展的重要性,然而组织学习面临着内外复杂环境的影响.从供应链内部复杂性、上游复杂性和下游复杂性三个维度探讨了组织内部学习和外部学习,并探究了两种组织学习对企业运营竞争力的影响.基于全球10个国家的317家高绩效制造(high performance manufacturing,HPM)企业的一手数据,采用结构方程模型方法,提出并验证了"复杂性-组织学习-运营竞争力"的模型.结果表明,供应链上游复杂性对内部学习和外部学习均有负面影响,下游复杂性对内部学习有负面影响,而内部复杂性对内部学习和外部学习均无显著影响;内部学习显著提升了运营竞争力中的交付、创新、客户服务,而外部学习显著提升了质量和客户服务.     

鲁棒迭代学习控制及在高精密平台中的应用

针对不确定性系统,提出一种非因果的鲁棒迭代学习控制方法。采用反馈控制和迭代学习控制分别设计并统一进行鲁棒性分析的方法,以提高系统的反馈性能和学习性能。首先采用H_∞控制方法,保证反馈部分的鲁棒稳定性;其次采用二次型优化迭代学习控制律来提高系统的学习效率;最后结合μ分析理论,对迭代学习控制系统进行鲁棒性验证,并对优化学习律的参数进行修正。该方法吸取了非因果迭代学习律学习性能好的优点,也充分利用μ分析保守性小的特点来提高系统的性能。算例结果验证了方法的有效性。     

基于强化学习的指挥控制Agent适应性仿真研究

应用人工智能中的学习技术来赋予战争模拟系统中的智能Agent适应能力，是基于CAS理论的战争复杂性研究的基础内容之一。面对战争系统中复杂动态的环境，传统的监督学习方法不能很好满足智能Agent实时学习的要求。而强化学习却可以很好的适应这种动态未知的环境。文章引入强化学习技术对战争系统中指挥控制Agent的适应性进行建模仿真研究。实验结果表明强化学习技术能很好的满足指挥控制Agent无师在线实时学习的要求，从而为战争模拟系统中的智能Agent的适应性机制提供良好的建模手段。     

学习对进化的影响研究及仿真验证

研究了学习与进化的关系,特别是学习如何影响进化。基于Hinton和Nowlan在学习与进化研究领域的第一个计算模型,验证了学习能够指导进化。相对于Hinton和Nowlan较理想化的结果,得到了一个更加客观的结果。通过分析两个实验结果中需要学习来确定的基因所占比率不同,重新设计了系统新的适应度函数,证明了学习指导下进化的具体发展方向：进化向着完成这种学习能力的基因方向发展,学习到的性状最终按照达尔文的进化机制被遗传。     

Adaptive adjustment of iterative learning control gain matrix in harsh noise environment

For the robustness problem of open-loop P-type iterative learning control under the influence of measurement noise which is inevitable in actual systems, an adaptive adjustment algorithm of iterative learning nonlinear gain matrix based on error amplitude is proposed and two nonlinear gain functions are given. Then with the help of Bellman-Gronwall lemma, the robustness proof is derived. At last, an example is simulated and analyzed. The results show that when there exists measurement noise, the proposed learning law adjusts the learning gain matrix on line based on error amplitude, thus can make a compromise between learning convergence rate and convergence accuracy to some extent: the fast convergence rate is achieved with high gain in initial learning stage, the strong robustness and high convergence accuracy are achieved at the same time with small gain in the end learning stage, thus better learning results are obtained.     

Novel Newton''s learning algorithm of neural networks

Newton's learning algorithm of NN is presented and realized. In theory, the convergence rate of learning algorithm of NN based on Newton's method must be faster than BP's and other learning algorithms, because the gradient method is linearly convergent while Newton's method has second order convergence rate. The fast computing algorithm of Hesse matrix of the cost function of NN is proposed and it is the theory basis of the improvement of Newton's learning algorithm. Simulation results show that the convergence rate of Newton's learning algorithm is high and apparently faster than the traditional BP method's, and the robustness of Newton's learning algorithm is also better than BP method's.     

基于多维特征差异的个性化学习资源推荐方法

协同过滤算法和二进制粒子群算法是目前学习资源推荐领域研究热点.然而,协同过滤算法推荐的学习资源过于随机化,不能满足学习者进行整体知识建构的要求.而基于二进制粒子群算法构建的资源推荐模型,以推荐所有学习者完整的学习资源为目标,且模型数据较难预测,不符合在线智能化学习的趋势.针对以上问题,提出了基于多维特征差异的个性化学习资源推荐算法:首先根据学习者和学习资源多维特征差异建立学习资源推荐模型,并考虑了学习偏好;其次引入协同过滤技术对模型数据进行预测;最后针对推荐模型的多目标优化特征,将协同过滤算法和二进制粒子群算法结合,提出了对惯性权重和种群多样性进行动态协同调整的自适应二进制粒子群算法,实现了个性化学习资源推荐.实验证明,该算法具有较好的准确性,能够满足个性化学习资源推荐的需要.     

基于多智能体强化学习的多机器人协作策略研究

研究了一种基于智能体动作预测的多智能体强化学习算法. 在多智能体系统中,学习智能体选择动作不可避免地要受到其他智能体执行动作的影响,因此强化学习系统需要考虑多智能体的联合状态和联合动作.基于此,提出使用概率神经网络来预测其他智能体动作的方法,从而构成多智能体联合动作,实现了多智能体强化学习算法. 此外,研究了该方法在足球机器人协作策略学习中的应用,使多机器人系统能够通过与环境的交互学习来掌握行为策略,从而实现多机器人的分工和协作.     

融合零样本学习和小样本学习的弱监督学习方法综述

深度学习模型严重依赖于大量人工标注的数据,使得其在数据缺乏的特殊领域内应用严重受限。面对数据缺乏等现实挑战,很多学者针对数据依赖小的弱监督学习方法开展研究,出现了小样本学习、零样本学习等典型研究方向。对此,本文主要介绍了弱监督学习方法条件下的小样本学习和零样本学习,包括问题定义、当前主流方法以及实验设计方案,并对典型模型的分类性能进行对比。然后,给出零-小样本学习的问题描述,总结研究现状和实验设计,并对比典型方法的性能。最后,基于当前研究中出现的问题对未来研究方向进行展望,包括多种弱监督学习方法的融合与理论基础的探究,以及在其他领域的应用。