基于Bi-LSTM 的多层面隐喻识别方法

以双向长短期记忆网络(Bi-LSTM)为核心,结合多层卷积神经网络以及单向长短期记忆网络构建了多层面隐喻识别模型.基于多特征协同作用的思想,利用依存关系特征、语义特征、词性特征等多特征融合输入方法,丰富了模型的学习信息.为降低信息干扰,利用基于统计学的规范化文本输入方法提升模型识别效果.在英文语料词层面和句层面实验中,各个特征均表现出明显的正向作用.裁剪和填充处理及多特征协调作用在英文语料词层面研究中使F_1值分别提升2.5%和5.1%,在句层面研究中F_1值分别提升3.1%和1.9%.在中文语料句层面实验中,最优效果的F_1值可达88.8%.     

基于NER的石油非结构化信息抽取研究

随着"智能油田"的建设加快,构建基于海量石油数据的智能分析系统意义重大。然而,由于石油生产过程中产生的文本数据往往无结构且类型多样,从中抽取关键信息进行分析成为一个研究热点,而信息抽取又需要高质量的语义实体做支撑。根据这一特定问题,提出基于命名实体识别（Named Entity Recognition,NER）技术针对石油非结构化文本进行信息抽取,构建双向长短时记忆（Bidirectional Long Short-Term Memory,Bi LSTM）网络模型提取语料特征,并结合条件随机场（Conditional Random Field,CRF）做分类器,构建了基于Bi LSTM+CRF的高精度NER模型,针对石油工业领域的非结构化文本进行命名实体抽取。通过在修井作业文本数据集上进行对比实验表明,本方法具有较高的精确率和召回率。     

基于深度主动学习的信息安全领域命名实体识别研究

针对通用领域模型不能很好地解决信息安全领域的命名实体识别问题,提出一种基于字符特性,双向长短时记忆网络(Bi-LSTM)与条件随机场(CRF)相结合的信息安全领域命名实体识别方法.该方法不依赖于人工选取特征,通过神经网络模型对序列进行标注,再利用CRF对序列标签的相关性进行约束,提高序列标注的准确性.而且,针对信息安全领域标注数据样本不足的问题,采用主动学习方法,使用少量标注样本达到较好的序列标注效果.     

基于Bi-LSTM和Max Pooling的答案句抽取技术

针对传统问答系统答案抽取方式对答案片段的分词和上下文语义理解准确性的依赖严重,抽取过程耗费大量的人力和时间的问题,提出采用分步抽取答案的方法,先从答案片段中抽取包含答案的句子,再从提取的答案句中进行最终答案的抽取方式。在答案句抽取过程中使用Bi-LSTM( Bi-directional Long Short-Term Memory)和Max Pooling 结合的方法构建答案句抽取模型。实验结果表明,在答案句的抽取中,该模型的MＲＲ( Mean Average Precision) 指数接近0． 75。     

基于改进Bi-LSTM和XGBoost的电力负荷组合预测方法

电力负荷预测在平衡能源分配、经济性和电力系统安全可靠运行方面发挥着重要作用,精准的负荷预测可以降低电力运行的成本和风险,提高电网环境效益和经济效益.首先根据加权灰色关联投影算法对数据进行预处理,然后应用注意力(Attention)机制来改进双向长短期记忆(Bi-LSTM)模型,并结合极端梯度提升(XGBoost)模型构...     

基于时间关系的Bi-LSTM+GCN因果关系抽取

针对传统时间关系只应用在机器学习方向关系抽取的问题, 提出一种基于序列标注实体识别的关系抽取方法. 先构建双向长短期记忆网络(Bi-LSTM)模型进行特征提取, 再输入时间关系作为特征矩阵进行图卷积. 实验结果表明: 时间关系能提高因果关系抽取效果, 并且包含时间关系的Bi-LSTM+GCN模型能有效抽取因果事件; 带有时间关系的Bi-LSTM+GCN模型获得因果关系的抽取结果优于传统方法因果关系的抽取结果.     

基于CNN和Bi-LSTM的脑电波情感分析

针对目前大多数脑电波情感识别方法存在的依赖手动特征提取等问题,提出一种基于卷积神经网络(convolutional neural network,CNN)和双向长短时记忆(bidirectional long short-term memory,Bi-LSTM)网络的混合模型.首先将一维数据转换为二维数据,采用CNN提...     

基于DTW-SC与Bi-LSTM网络的电动公交短期充电负荷预测

对电动公交车进行较为精准的短期充电负荷预测,有利于电网合理调度,从而在一定程度上缓解大规模电动公交车接入对电网冲击的影响。因此,提出一种基于DTW-SC与Bi-LSTM网络的电动公交短期充电负荷预测方法,以提高负荷预测精度。首先,结合电动公交车充电负荷具有的间歇性和波动性特点,提出基于动态时间规整(dynamic time warping, DTW)的改进谱聚类(Spectral Clustering, SC)方法,对公交车日充电负荷曲线进行聚类;其次,对每类负荷综合考虑时间、日类型、温度及历史负荷值等影响因素,利用双向长短期记忆(bi-directional-long short-term memory, Bi-LSTM)构建电动公交车短期充电负荷预测模型;最后,利用某市实际天气数据和历史负荷数据进行仿真验证,并与其它预测方法进行对比分析。实验结果表明,所提方法能提高短期充电负荷预测准确度。     

基于时空特征融合的飞机尾涡识别

为了实现动态尾流缩减技术，减少进近阶段前机尾流对后机飞行安全的影响。依据相干激光雷达（coherent Light Lidar，简称CDL）扫描风场循环周期性特点，提出一种基于时空特征融合的飞机尾涡识别模型。首先，CDL扫描生成的径向速度风场转换成序列输入和块输入。然后，双向长短时记忆（bidirectional long short-term memory, 简称Bi-LSTM）网络用于提取序列输入的时间特征，卷积神经网络（convolutional neural network, 简称CNN）网络用于提取径向速度风场块输入的空间特征。最后，将融合的时域和空域特征输入全连接层分类器，得到最终分类识别结果。实验团队在深圳宝安机场附近采集风场，并构建尾流数据集来验证所提得融合模型，结果表明：基于CNN和Bi-LSTM时空特征混合模型具有较好的分类性能，在尾涡识别上的准确率、召回率、F1分数分别达到97.13%、97.50%、97.03%，且相比单一模型是一种更有效的识别方式，能够获得实时高效尾流预警。     

城市交通网格集群的Bi-LSTM的流量预测

为提升交通流预测精度，深层次地挖掘交通流数据的时空特征，提出一种基于双向长短时记忆网络(Bi-LSTM)的城市交通网格集群流量预测模型。将所获得的网约车轨迹数据集网格化；考虑人为确定集群个数对结果的影响，用贝叶斯信息准则进行参数估计确定集群数，利用高斯混合模型对交通状况相似的网格进行聚类得到不同交通网格集群；利用集群内部交通网格的输入时间序列的相互影响设计多对多模型，构建Bi-LSTM模型预测不相交集群上的流量；以经典多元线性回归模型(MLRA)作为对照组进行实验验证，采用平均绝对误差(MAE)、均方根误差(RMSE)、平均绝对百分比误差(MAPE)和动态时间规整(DTW)这四类评价指标对预测结果进行综合评价，验证基于Bi-LSTM模型的城市交通网格集群流量预测的可行性。实验结果表明：MLRA模型和Bi-LSTM模型对城市交通网格集群流量的预测值小于真实值，早高峰时段尤为明显；各交通网格集群的交通状态态势相似，集群的簇内相关性较强，两类模型均可实现较好的流量预测效果，Bi-LSTM表现更优； MLRA和Bi-LSTM预测模型的精度MAE、RMSE、MAPE分别为3.2011、4.4009、0.3187，3.0687、4.2943、0.3045，Bi-LSTM与MLRA相比，模型精度分别提高了4.14%、2.40%、4.46%，说明所构建的Bi-LSTM交通流网格集群流量预测精度高、误差低，要优于MLRA模型，表现出较好的泛化性能； MLRA和Bi-LSTM的DTW结果分别为52938.6356、54815.1055，构建的Bi-LSTM模型较MLRA模型各自工作日和节假日时间序列相似性DTW结果提高3.42%，表现出更好的鲁棒性。利用城市交通流量的特点和交通轨迹数据网格化的优点，基于Bi-LSTM模型的城市交通网格集群流量预测与MLRA交通流量预测模型相比，具有精度高、误差低的特点。同时，DTW指标方面，基于Bi-LSTM对城市交通网格集群流量模型与真实流量变化趋势一致，表现出较好的鲁棒性。