基于长短期记忆模型的交通拥堵预测方法

为了在交通拥堵预测算法中充分考虑各类因素的影响以及挖掘交通流数据隐含的深层特征,该文提出基于长短期记忆(Long-short term memory,LSTM)模型的交通拥堵预测方法。该方法充分考虑交通流特征、天气、节假日等因素,首先利用去噪自编码模型提取输入数据的核心特征,再使用LSTM模型长时记忆历史数据,二者结合对城市交通拥堵程度进行有效预测,通过与已有的交通拥堵预测模型进行对比,结果表明,该方法具有较高的预测准确度和鲁棒性,准确度能达到92%以上。     

基于BERT预训练语言模型的电网设备缺陷文本分类

电网设备缺陷部位识别是设备故障分析的关键环节。该文提出一种基于预训练语言模型双向Transformers偏码表示(Bidirectional encoder representation from transformers,BERT)的电网设备缺陷文本分类方法。基于BERT预训练语言模型对电网设备缺陷部位文本进行预训练生成具有上下文特征的词嵌入(Word embedding)向量作为模型输入,然后,利用双向长短时记忆(Bi-directional long short-term memory)网络对输入的电网设备缺陷文本向量进行双向编码提取表征缺陷文本的语义表征,并通过注意力机制增强电网设备缺陷文本中与缺陷部位相关的领域词汇的语义特征权重,进而得到有助于电网设备缺陷部位分类的语义特征向量。通过模型的归一化层实现电网设备缺陷部位文本分类。在主变压器、SF6真空断路器这两种设备缺陷文本数据集上实验结果表明,提出的方法比基于BiLSTM-Attention模型的F_1值分别提升了2.77%和2.95%。     

基于主题约束的篇章级文本生成方法

针对计算机自动生成的文本缺乏主题思想这一问题, 提出一种基于主题约束的篇章级文本自动生成方法。该方法围绕用户输入的主题描述语句提取若干主题词; 然后对主题词进行扩展和主题聚类, 形成文章主题规划; 最后利用每个聚类中的关键词信息约束每个段落的文本生成。该模型从文本主题分布、注意力评分方法和主题覆盖生成3个方面对现有基于注意力机制的循环神经网络文本生成模型进行了改进。在3个真实数据集上分别与Char-RNN, SC-LSTM和MTA-LSTM基准模型进行对比, 并对3个方面的改进进行独立验证。实验结果表明, 所提方法在人工评判和BLEU自动评测上均优于基准模型, 生成的文本能更好地贴合主题。     

基于长短期记忆神经网络模型的空气质量预测

随着城市化和工业化的快速发展,空气污染问题日益突出,空气质量预测显得尤为重要。当前一些有代表性的研究对空气质量进行实时监测和预报,例如周广强等采用数值预报的方法对中国东部地区的空气质量进行分析,但其实验结果表明该方法难以预测非常重的污染;SANKAR等使用多元线性回归对空气质量进行预测,但其实验结果表明线性模型预测精度低、效率慢;PéREZ等使用统计方法对空气质量进行预测,实验结果证明统计方法的预测精度比较低;WANG等采用改进的BP神经网络建立了空气质量指数的预测模型,其实验验证了BP神经网络收敛速度慢、容易陷入局部最优解的问题;YANG等利用相邻网格的空气质量浓度效应,建立了基于随机森林的PM_(2.5)浓度预测模型,通过实验过程证明网格划分程序削弱了后续空气质量分析的质量和效率。这些方法都难以从时间角度建模,其中预测精度低是比较重要的问题。因为预测精度低可能会导致空气质量预测结果出现较大的误差。针对空气质量研究中预测精度低的问题,提出了基于长短期记忆单元(long short-term memory,LSTM)的神经网络模型。该模型使用MAPE,RMSE,R,IA和MAE等指标来检测LSTM神经网络与对比模型的预测性能。由于Delhi和Houston是空气污染程度比较严重的城市,所以使用的实验数据集来自Delhi的Punjabi Bagh监测站2014—2016年的空气质量数据和Houston的Harris County监测站2010—2016年的空气质量数据。LSTM神经网络与多元线性回归和回归模型(SVR)的比较结果表明,LSTM神经网络适应多个变量或多输入的时间序列预测问题,LSTM神经网络具有预测精度高、速度快和较强的鲁棒性等优点。     

带有非线性边界条件的弱衰退记忆型非自治经典反应扩散方程解的渐近性

考虑当内部非线性项和边界非线性项均以超临界指数增长并满足一定的平衡条件, 且外力项仅为平移有界而非平移紧时, 弱衰退记忆型非自治经典反应扩散方程解的渐近性态. 应用收缩函数方法和新的先验估计技术, 证明在拓扑空间L²(Ω)×L²_μ(R⁺;L²(Ω))上一致吸引子的存在性, 并给出其拓扑结构.     

基于语义共现与注意力网络的问题分类方法

针对汽车故障问答文本特征稀疏、语义信息不全、深层次语义特征较难提取等问题,提出基于问题-答案语义共现的多层次注意力卷积长短时记忆网络模型(co-occurrence word attention convolution LSTM neural network,CACL)的问题分类方法。通过向量空间模型计算问题与答案文本中语义相似的共现词,使用注意力机制聚焦问题文本中的共现词特征,输入卷积神经网络(convolutional neural network,CNN)提取问题局部特征,通过长短时记忆网络(long short-term memory network,LSTM)及词级别注意力机制提取长距离依赖特征及其更高层次的文本特征,采用Softmax进行问题分类。结果表明,相比较于主流的问题分类方法,该方法有效提高了问题分类的精度,最高提升了10.04%的准确率。同时,试验发现当选用11个有效共现词且共现词来自问题文本时,模型的处理精度最佳。合理利用问题-答案文本语义相似的共现词,能有效提升汽车故障问题的分类性能,且共现词的个数、来源对问题的分类精度有一定的影响。     

基于注意力机制的车辆行为预测

为了解决智能驾驶场景中对周边车辆未来行为的预测问题,研究了基于注意力机制的长短时记忆网络(LSTM)模型的车辆行为预测方法.首先提出了一种非均匀步长的时间序列数据划分方法,将属于特定行为的车辆时序信息进行分类;以LSTM为基本的神经网络框架,用注意力机制判断输入时序信息中各个时间步信息的重要程度,分配不同的权重值;以目标车辆及其周边车辆的历史轨迹信息作为算法输入,用来预测目标车辆将来的运动行为.结果表明:该算法可以解决固定步长的时序分类方法导致的信息遗漏或计算资源负担增加的问题,同时能够有效提高行为预测准确性,减少车辆行为预测时间.     

基于长短期记忆网络的电力系统扰动后的功率缺额预测方法

电力系统在发生发电机脱落或发电机母线断线等严重的有功不平衡扰动时,会导致频率骤降。提出一种基于长短期记忆（long short-term memory,LSTM）网络的电力系统扰动后的功率缺额预测方法。该方法无需获取实时的系统惯量,仅根据负荷侧的信息就能预测出扰动后系统的功率缺额,有效改善了现有的功率缺额计算方法。在IEEE-39节点系统上的仿真结果表明,本方法得到的功率缺额预测值与真实值的相对误差较小,预测时间较短。与深度神经网络（deep neural networks,DNN）和支持向量回归（support vector regression,SVR）算法的预测结果进行比较,本方法能快速、准确地预测出扰动后系统的功率缺额,对保障系统的频率稳定具有重要意义。     

Robust stability and stabilization for uncertain discrete-time switched singular systems with time-varying delays

The problems of robust stability and stabilization via memoryless state feedback for a class of discrete-time switched singular systems with time-varying delays and linear fractional uncertainties are investigated. By constructing a novel switched Lyapunov–Krasovskii functional, a delay-dependent criterion for the unforced system to be regular, causal and uniformly asymptotically stable is established in terms of linear matrix inequalities (LMIs). An explicit expression for the desired memoryless state feedback stabilization controller is also given. The merits of the proposed criteria lie in their less conservativeness and relative simplicity, which are achieved by considering additionally useful terms (ignored in previous methods) when estimating the upper bound of the forward difference of the Lyapunov–Krasovskii functional and by avoiding utilizing any model augmentation transformation. Some numerical examples are provided to illustrate the validity of the proposed methods.     

从错误记忆的角度透视阿尔茨海默症患者的记忆障碍

阿尔茨海默症患者(Alzheimer’s disease patients, AD患者)的记忆障碍在心理学以及临床医学中一直受到广泛关注. 除了在传统的记忆测验中对其正确记忆的考察, 近年来通过对比AD患者与正常老年人在各种类型的错误记忆中的不同表现, 揭示了早期阿尔茨海默症发展进程中记忆障碍的各个层面. 本文通过对AD患者的关联性记忆错觉、流畅性记忆错觉和源记忆错误的相关研究的分析和讨论, 并与正常老化相对照, 明晰了AD患者在编码阶段的梗概加工及表征能力受损, 提取阶段基于熟悉性和回想的再认提取过程也受到损伤, 正是由于这些损伤使得AD患者可以利用的信息非常有限, 导致其更倾向于依赖提取时的加工流畅性做出记忆判断. 此外, 源记忆和源监控能力的降低, 又影响了AD患者通过监控过程抑制错误记忆的能力. 对于AD患者记忆障碍的产生机制的分析, 将会有助于阿尔茨海默症的临床诊断和治疗.