基于神经网络语言模型的动态层序Softmax训练算法

针对词向量训练过程中层序Softmax算法无法进行增量训练及海量数据训练低效的问题,提出了动态层序Softmax算法.通过对数据样本的增量加载,采用结点置换方法动态构建编码树,实现对样本的增量训练.为避免损失函数因样本量较少而呈现震荡式下降,利用梯度的一阶矩估计与二阶矩估计动态调整参数更新方向与学习率,通过梯度迭代缩小权值变化范围和收敛训练误差,提高词向量的训练效率.以维基百科中文语料作为数据进行了试验,完成了训练效率和质量的分析.结果表明:相较于现有方法动态层序Softmax算法显著提高了训练效率,当增量样本大小为10 kB～1 MB时,训练增速有近30倍的提升,有效地缩短训练周期.     

基于强化学习的非玩家角色行为改进

当前游戏中非玩家角色(Non-player Character,NPC)的行为主要基于随机决策或者传统的预定义行为决策,该方法的NPC不具有对游戏环境的自主学习能力.本文研究的目的是探索将强化学习方法应用于提高游戏NPC智能,使NPC在游戏过程中能实时地学习和适应演进的游戏环境,产生最合适的行为策略来响应玩家.本文提出一种动态训练强化学习的探索率参数方法,并将该方法应用于经典的Bomber Man游戏中.实验结果表明,该方法训练的NPC比非强化学习和传统强化学习训练的NPC具有更高的智能.     

基于超闭球小脑模型的系统建模及其校正

为了克服神经网络建模在工程应用中的不足,利用超闭球小脑模型（HCMAC）神经网络所具有的结构简单、学习收敛速度快、泛化能力强等优势,提出了基于HCMAC的非线性动态系统建模原理。分析了建模误差产生的原因,给出了基于误差校正率的神经网络模型多步在线校正策略,采用通过实时扩展模型学习样本空间和基于模型误差可信度的模型参数修正方法训练模型,以跟踪实际动态过程。仿真实验证明：上述方法可有效地减小由于样本精度不高和在模型输入空间中的分布不均匀所带来的初始模型误差,同时可实时适应非线性动态过程工况的变化。     

短期利率动态模型收益率和波动参数的估计

利用局部逼近的方法研究了短期利率动态扩散模型中参数的局部估计问题,给出了动态CKLS模型中的收益率参数的局部加权最小二乘估计和波动率参数的局部极大似然估计.基于上海银行间市场同业拆借利率(Shibor)的实证分析,展示了局部估计的效果,并研究了动态CKLS模型在利率波动率预报上的表现,结果显示,利率波动率的预报能较好地反映利率的实际波动.     

持续学习：研究综述

深度学习模型通常限定在固定数据集中进行训练，训练完成之后模型无法随着时间而扩展其行为.将已训练好的模型在新数据上训练，会出现灾难性遗忘现象.持续学习是一种能够缓解深度学习模型灾难性遗忘的机器学习方法，它旨在不断扩展模型的适应能力，让模型能够在不同时刻学习不同任务的知识.目前，持续学习算法主要分为4大方面，分别是正则化方法、记忆回放方法、参数孤立方法和综合方法.对这4类方法的研究进展进行了系统地总结与分析，梳理了衡量持续学习算法性能的评估方法，讨论了持续学习的新兴研究趋势.     

基于VGG-F动态学习模型的苹果病虫害识别

为了提高自然环境下苹果病虫害的识别准确率和识别效率,提出了具有动态学习特征的VGG-F苹果病虫害识别模型。首先,依据常见的苹果病害和虫害类型构建图像数据集,同时采用Retinex算法对数据集中的含雾图像进行增强处理;然后选择网络层数较少的VGG-F网络模型作为迁移学习对象,并依据数据样本特性对重训练过程进行学习率动态调整,以及基于试验对比选取最佳动量值;最后,利用数据集对三种不同模型进行重训练和识别效果对比测试。数值测试结果表明,相比于原始VGG-F模型和深层模型VGG-19,文中模型将苹果病虫害识别准确率分别提升了5%和0.63%,且该模型的重训练时间最短,从而验证了文中苹果病虫害识别模型的有效性。     

基于强化学习的非线性时间序列智能预测模型

针对时间序列预测中非线性、噪声高等特点,提出时间序列向前多步混合智能预测模型.首先,在模型训练过程中,提出一种将强化学习与隐马尔可夫模型相结合的新方法,强化学习运用TD(λ)方法,采用历史观测数据作为报酬回报,强调远近期历史数据的不同影响程度并用以迭代增强历史观测数据在模型中的作用;进一步,在向前多步预测过程中,提出一种以强化学习为桥梁、将神经网络与隐马尔可夫模型相结合的方法,用以充分发挥神经网络数据拟合优势和隐马尔可夫模型减小系统随机误差方面的优势.利用稀土期货交易数据进行预测实验,结果表明:智能预测模型显著降低了预测的平均绝对误差、百分比绝对平均误差、均方根误差,提高了预测的准确性和效果.     

基于自适应学习速率法的补偿模糊神经网络

为克服常规网络收敛速度慢、无法结合专家知识等缺点,引入补偿模糊神经元,结合模糊系统强大的知识表达能力和神经网络优秀的自学习能力,并利用自适应学习速率法动态地改变学习率.提出了一种新型的基于自适应学习速率法的补偿模糊神经网络,并将其应用到实际例子中.结果证明,它不仅能在线适当调整参数,还能动态地优化相应的模糊推理,加快训练速度.     

基于Q学习参数辨识的动物学习能力评价方法

动物在特定环境下对行为决策的学习能力是其生存的重要基础,因此,如何准确地评价动物在马尔科夫决策任务中利用过去经验与重视未来奖励的学习能力,对于动物行为学与心理学研究至关重要。设置了含有状态转移概率的马尔科夫决策任务,训练家鸽在不同状态下从两个选项中做出选择,并考虑未来收益,以最大化累计奖励。实验结束后,对家鸽的行为决策进行Q-learning建模,用学习率α评估其利用过去积累经验做出选择的能力,用折扣因子γ评估其对未来奖励的重视程度。结果表明,家鸽在马尔科夫决策任务中利用过去经验与重视未来奖励的学习能力可以通过Q-learning模型参数进行评价。     

一类鲁棒辨识算法的研究

提出了一种新的基本参数模型估计的辨识算法,该算法不仅辨识出一个参数点还辨识出每个参数的误差界。它将噪声界代入辨识,并在辨识过程中依据误差,动态修正辨识收敛速率及方向,以期获得满意的辨识性能。     

关于农业区划地图集中的统一协调问题

图集的统一协调,对图集质量有很大影响。本文是作者在编制北京市农业区划地图集的实践基础上,根据地图信息传输论的观点,对农业区划地图集的统一协调的内容及方法进行了探讨。试图总结编制这类图集的统一协调模式,以供读者编图时参考。     

民间法正义观的转型

研究了国家法的抽象正义观与民间法的情理正义观,认为西方国家法的抽象正义观与东方民间法的情理正义观存在实质的不同,原因在于思维方式、超验与经验传统、政治结构的差别。在现代法治理念下,传统民间法所代表的正义观将向混合正义观转型,西方法治所代表的国家法抽象正义观是其骨架。     

关于一维非自治时滞系统点态退化一例

给出了一维非自治时滞系统点态退化的一个例子,拓宽了该领域的研究。     

十二烷基苯硝化选择性的测定

利用对位异构体的对称性由核磁共振氢谱测定了工业十二烷基苯在硝硫混酸中的硝化选择性，发现一硝化产物中对位异构体的比例为７５％￣８０％。以月桂酸和苯为原料，经氯化、酰化和还原合成了正十二烷基苯。在同样条件下研究了正十二烷基苯的硝化，由核磁共振氢谱和气相色谱分析，发现一硝化产物中对位异构体的比例仅为６０％。根据空间位阻效应，对结果进行了讨论，并与甲苯，乙苯，异丙苯等短链烷基苯的硝化结果进行了比较。     

YBCO掺杂效应研究

介绍了YBCO掺杂的基础知识,总结了YBCO各个位置采用典型元素掺杂而导致的超导电性和结构的变化,阐述了掺杂对YBCO的重要影响,并简介了当前YBCO掺杂效应研究中的几个热点问题.     

A_5的一类12阶子群的构造

由于有限群的Lagrange定理的逆不成立,因此,n较大时要确定n次交代群An的所有子群或对An阶数的每一个正因数,确定是否存在这个阶数的子群是较困难的问题.文章通过对5-循环置换各次方幂的计算及其研究,构造出了A5的5个12阶子集,并证明了每一个子集都是A5的12阶子群,最后对A5的部分阶的子群做了总结.     

高频机组基础振动检测分析

为了找出诱发高频机组基础不良振动的原因，从基础计算模型方面对基础激励与响应进行了分析，以两个高频机组基础为动测实例，经模态分析得出钢筋混凝土构架式基础竖向1阶振动与电机产生共振；应用功率谱法对动力机组及基础平台进行动测，得出平台异常响应频率66Hz为水泵工作频率，调整机器的工作频率可避开不良振源影响，达到明显的减振效果。由此而知，动力机器基础出现不良振动时，不可盲目改变结构的动力特性，应在机器不同工况比如：停机、起机及正常转速下，对机器及基础进行动测并对振动信号进行比较分析，以制定出行之有效的减振方法。     

圈幂补图的树宽

基于“前沿分支”的观点研究了圈幂补图的树宽，首先确定了它的树宽下界，又给出了达到此下界的标号，从而得到了它的树宽表达式。     

鸡法氏囊病及其防治

报告鸡法氏囊病的流行状况，主要症状，剖检情况及诊断，提出了综合性防治措施。