基于双向长短期记忆网络和标签嵌入的文本分类模型

提出了一种基于双向长短期记忆网络和标签嵌入的文本分类模型。首先利用BERT模型提取句子特征,然后通过BiLSTM和注意力机制得到融合重要上、下文信息的文本表示,最后将标签和词在联合空间学习,利用标签与词之间的兼容性得分对标签和句子表示加权,实现标签信息的双重嵌入,分类器根据给定标签信息对句子进行分类。在5个权威数据集上的实验表明,该方法能有效地提高文本分类性能,具有更好的实用性。     

基于多层次动态门控推理网络的文本蕴含识别

现有的文本蕴含模型通常计算一次词级别注意力得到两段文本在不同层面的交互特征,但对于文本不同层面的理解,不同重要词的注意力应该是不同的,并且一次词级注意力推理仅能捕捉到文本对局部特征.针对这个问题,提出一种多层次动态门控推理网络,该网络结合了词级别信息的细粒度推理和句子级别门控机制来动态捕捉文本对的语义信息,并采用不同注意力计算方式提取文本对不同层面的语义特征,共同推理文本对的蕴含关系.本文在两个文本蕴含数据集上均做了实验,相较于基准模型和现有主流模型,准确率提升了0.4%～1.7%,通过消融分析,进一步验证了本文模型各部分结构的有效性.     

融合词性和注意力机制的舆情本体非分类关系抽取研究

针对目前大多数非分类关系抽取方法忽略词性和部分局部特征的问题,提出融合词性信息和注意力机制的BiLSTM模型.利用预训练词向量和词性标注工具,将舆情信息语义词向量和词性词向量作为BiLSTM的输入来获取句子高维语义特征,解决长距离依赖问题.利用词语层注意力机制计算2个概念与上下文词语的相关性,获取句子的上下文语义信息.通过构建句子层的注意力来降低噪声数据的权重,减少错误标签的干扰,进而完成舆情本体概念间非分类关系的抽取.最终在新闻网站上抽取11227条数据进行了验证.结果表明,该方法的精确率(P)和召回率(R)相比于其他方法更好地实现了非分类关系的抽取,验证了该方法的有效性.     

基于XLNet+BiGRU+Att(Label)的文本分类模型

传统的词向量嵌入模型,如Word2Vec、GloVe等模型无法实现一词多义表达;传统的文本分类模型也未能很好地利用标签词的语义信息。基于此,提出一种基于XLNet+BiGRU+Att(Label)的文本分类模型。首先用XLNet生成文本序列与标签序列的动态词向量表达;然后将文本向量输入到双向门控循环单元(BiGRU)中提取文本特征信息;最后将标签词与注意力机制结合,选出文本的倾向标签词,计算倾向标签词与文本向量的注意力得分,根据注意力得分更新文本向量。通过对比实验,本文模型比传统模型在文本分类任务中的准确率更高。使用XLNet作为词嵌入模型,在注意力计算时结合标签词能够提升模型的分类性能。     

基于ENCODER_ATT机制的远程监督关系抽取

在信息抽取中,关系抽取是一项准确识别自然语言中实体间关系的关键技术。针对关系抽取模型中容易丢失关键语义特征问题及远程监督的基本假设容易引入噪声数据的问题,本文提出一种基于远程监督的ENCODER_ATT关系抽取模型。基于循环神经网络构造的ENCODER模型在以词级别进行特征记忆提取,并在句子层面进行语义特征信息整合,保证不遗失关键语义特征的同时去除冗余特征。然后在句子层面引入了注意力机制来降低噪声数据对实验结果的影响。在真实的数据集上进行实验,并绘制准确率-召回率曲线,实验结果表明ENCODER_ATT模型对比同类型的关系抽取方法有明显的提升。     

基于卷积神经网络和双向门控循环单元网络注意力机制的情感分析

传统的情感分析方法不能获取全局特征,以及否定词、转折词和程度副词的出现影响句子极性判断.在深度学习方法基础上提出了基于卷积神经网络和双向门控循环单元网络注意力机制的短文本情感分析方法.将情感积分引入卷积神经网络,利用情感词自身信息,通过双向门控循环网络模型获取全局特征,对影响句子极性的否定词、转折词和程度副词引入注意力机制实现对这类词的重点关注,提取影响句子极性的重要信息.实验结果表明,该模型与现有相关模型相比,有效提高情感分类的准确率.     

社会化标签语义相似度的协同过滤算法

为解决传统的协同过滤算法不能准确理解用户的喜好,影响推荐准确率和推荐效果,提出基于社会化标签语义相似度的协同过滤算法.算法以标签语义相似度为基础,将项目资源和相关标签的语义信息纳入,显著提高了推荐系统的预测性能.研究结果表明:与以具体评分数据为基础的算法相比,该算法较好地解决了词相似度和句子相似度计算问题,推荐准确度和性能较以往的协同过滤算法有明显提高,改善了推荐效果.     

基于数据分布的标签噪声过滤

在监督学习中,标签噪声对模型建立有较大的影响。目前对于标签噪声的处理方法主要有基于模型预测的过滤方法和鲁棒性建模方法,然而这些方法存在过滤效果差或者过滤效率低等问题。针对该问题,该文提出一种基于数据分布的标签噪声过滤方法。首先对于数据集中的每一个样本,根据其近邻内样本的分布,将其及邻域样本形成的区域划分为高密度区域和低密度区域,然后针对不同的区域采用不同的噪声过滤规则进行过滤。与已有方法相比,该方法从数据分布角度出发,使得噪声过滤更具有针对性从而提高过滤效果;此外,使用过滤规则对噪声数据进行处理而非建立噪声预测模型,因而可以提高过滤效率。在15个UCI标准多分类数据集上的实验结果表明:该方法在噪声低于30%时,噪声检测效率和分类精度均有很好的表现。     

基于增强问题重要性表示的答案选择算法研究

针对经典的文本匹配模型在问答系统中应用的缺陷和不足,提出了一种基于增强问题重要性表示网络BIWN的答案选择算法.目前,现有的答案选择模型普遍将问题句子和答案句子直接进行匹配,忽略了问题句子和答案句子中的噪声词对匹配的影响.针对这个问题,首先,利用自注意力机制修改问题句子中各个词的权重,生成“干净”的问题句子向量;然后,利用词级交互矩阵捕捉问题句子和答案句子之间的细粒度语义信息,从而有效地弱化了噪声词对正确答案的影响;最后,利用多窗口CNN提取特征信息得到预测结果.基准数据集上的对比实验表明,BIWN模型在答案选择任务的性能优于主流的答案选择算法,MAP值和MRR值提升了约0.7%～6.1%.     

基于双向门控机制和层次注意力的方面级情感分析

针对传统情感分析模型将单词或词语作为单一嵌入,而忽略句子之间依存信息和位置信息的问题,提出基于双向门控机制和层次注意力的方面级情感分析模型（Based on Bi-GRU and Hierarchical Attention,BGHA）。首先,将文本数据转成词向量再加入位置编码信息,得到包含位置和语义信息的词向量后通过双向门控机制提取上下文特征;接着,分别在单词注意力层和句子注意力层用注意力机制对特征分配权重,突出重点词和重点句信息;最后,结合给定的方面信息选择性提取与其较匹配的情感特征。在SemEval 2014、SemEval 2016和Twitter短文本评论数据集上的实验结果表示,BGHA模型的准确率对比其他模型都有不同程度的提高,证明了模型的有效性。     

非高斯噪声下的参数自适应高斯混合CQKF算法

研究非高斯噪声环境下的高斯混合滤波方法,进行纯方位跟踪系统的目标跟踪。利用改进的参数自适应方法,调整位移参数的大小,从而修正了高斯混合模型,提出了在非高斯噪声下的参数自适应高斯混合CQKF算法;基于非高斯噪声下的离散系统模型,分析了高斯混合CQKF算法中建模过程的局限性,并结合初值优化方法,提出了利用参数自适应方法修正高斯混合滤波模型的方法,从而克服了高斯混合滤波的局限性,提高了滤波精度。仿真实验表明在非高斯噪声下参数自适应高斯混合CQKF算法比原算法有更高的滤波精度。      

PFC+半桥LLC电路传导共模EMI特性分析与抑制

为了研究开关电源的传导共模EMI特性,在分析交错并联PFC+半桥LLC电路传导共模噪声传输机理基础上,提出了磁元件可视为共模滤波器的新观点。理论分析了磁元件的共模滤波特性,通过优化设计变压器绕组结构,改善变压器容性分布特性,可提高变压器的共模噪声滤波能力;通过构造反相噪声源,补偿抵消原始噪声,可提高功率电感共模噪声滤波能力。最后,通过一台音频功放电源样机进行了实验验证,实验结果表明优化磁元件共模EMI滤波特性,可有效抑制电路的共模噪声。     

一种考虑多尺度噪声的平滑去噪方法

针对在实际采集三维点数据模型中遇到多种尺度噪声的问题,提出了一种基于噪声分类组合滤波平滑去噪的方法。首先根据点模型中噪声的位置、密度和无用性等特点,将其分为伪噪声、大尺度噪声和小尺度噪声三类;分别使用直通滤波、半径滤波和统计滤波,以及移动最小二乘重采样(MLS)去除;同时考虑到点云冗余,将体素化网格滤波与移动最小二乘重采样相结合,实现重采样点模型的优化。实验结果表明:能够很好的解决地面三维激光扫描仪采集的点数据模型中存在多种尺度噪声的问题。从模型视觉效果上的漏洞修复、特征保持和光顺效果,以及实际变形度上看,方法优于直接使用MLS重采样和Laplace平滑去噪。     

基于噪声顺序解相关的两阶段Kalman滤波融合

针对传统两阶段Kalman滤波只能处理单一或部分复杂噪声情形,在充分考虑多雷达跟踪系统的误差噪声有色建模和四类噪声相关性建模基础上,建立一种基于噪声顺序解相关的两阶段Kalman滤波融合算法。首先给出能有效避免噪声相关性耦合化的噪声解相关顺序,进而应用等价变换技术来获得有色噪声、过程噪声和测量噪声三者间不相关的目标跟踪融合模型,最后应用平方根分解和单位下三角阵求逆技术来实现多雷达量测噪声相关系统的集中式Kalman滤波融合,并通过4个仿真实验验证了该算法对复杂噪声情形的有效性和高精度。     

过程检测控制系统中的快速自适应滤波

本文分析了LMS噪声抵消法的局限性,在讨论过程检测控制系统中信号和噪声一般模型的基础上,针对强噪声情况提出了一种基于建立相关模型的快速自适应滤波(FAF)。它是利用快速横向滤波(FTF)自适应算法对相关模型进行仿模而实现的。仿真与试验表明,本文所提出的方法较LMS法优越,适于过程检测控制系统采用。     

基于L~1范数变分模型的高密度椒盐噪声滤波

针对现有图像滤波算法在去除高密度椒盐噪声方面的不足,提出了一种基于L1范数变分模型的去噪算法.该算法首先根据椒盐噪声的特点和像素的局部灰度特征分离出噪声点和信号点,在滤波过程中,对信号点不予处理,而对噪声点采用基于L1范数的变分模型进行恢复.由于椒盐噪声的灰度值与原始像素无关,因此,去噪时只利用噪声点邻域内信号点本身的灰度信息,并将已处理过的噪声点当作新的信号点,以避免对下一像素滤波时的影响.最后通过仿真实验,结果表明,在高密度噪声条件下(50%),该算法的噪声去除能力和细节保护能力均可获得令人满意的结果.     

一类噪声相关多传感器系统的新型序贯式融合滤波

对于过程噪声与观测噪声一步互相关、各观测噪声一步自相关的多传感器融合滤波问题,提出了一种新的低维序贯式融合滤波算法.基于低阶迭代正交变换的思想提出了解相关的方法,将观测方程经过等价改写去除系统噪声的相关性,然后依据序贯滤波的思想,依次处理到达融合中心的观测信息,进而得到一类实时序贯式融合滤波算法.整个推导过程在线性最小均方误差意义下严格进行,能够实现系统状态的最优融合估计.最后的仿真验证了新算法在处理上述噪声相关问题上的最优性.     

心脏医学超声图像序列的噪声抑制

从超声图像噪声的特点出发,利用各向异性扩散滤波技术,实现超声图像的自适应噪声抑制;并将其扩展到时间域图像序列的平滑中,以提高滤波的准确程度.模拟和临床实验表明:该方法可有效实现超声图像中斑点噪声的抑制,并提高图像序列的峰值信噪比;同时对心脏结构特征具有较好的保持和增强效果.     

X射线头影图象的自适应卡尔曼滤波方法研究

以口腔医学中Ｘ射线头影图象为背景，提出了一种基于输出相关法的有色噪声卡尔曼滤波方法，用来解决图象中有色观测噪声的滤波问题。该方法不增加滤波器的维数，而是改变系统的观测方程，使等效观测方程的测量噪声变为白噪声，再利用卡尔曼滤波方法进行滤波，大大降低了计算的复杂性。而且该方法不需要事先知道观测噪声的方差，从而弥补了传统卡尔曼滤波方法的不足，更加符合实际情况的需要。实验表明，用该方法对Ｘ射线头影图象进行处理后，可使图象的质量得到明显的改善。     

基于模糊逻辑的数字滤波器设计

针对传统滤波器单一模型设计的缺点,提出一种将滤波噪声统计特性与模糊逻辑相结合的数字滤波器设计方法.该方法根据噪声统计特性,利用缩短三角型模糊函数,确定模糊逻辑滤波器的参数.通过滤波噪声标准偏差与最大滤波噪声门限的比较,提出了分别采用单值滤波和均值滤波的方法,并推导了均值滤波方法中的周期抽样数目.给出了算法具体设计步骤,包括:滤波方法选择、连续信号周期采样、模糊化数据处理和去模糊化.仿真表明,基于模糊逻辑的数字滤波器对不同标准偏差的噪声均有良好的滤波性能,并且设计经济合理,时间开销小,软硬件易实现,有工程应用价值.