基于不完整语义理解的文本数字水印

首先分析了现有文本数字水印存在的问题,随后给出一个基于不完整语义的文本数字水印方案.基于该方案,可以在不完整理解文本语义的情况下,将水印直接插入到文本内容中去.然后具体给出一个基于助词“的”的水印方案,并讨论了水印容量增加的问题以及水印方案的鲁棒性.实验结果表明该方案是容易实现的,且具有一定的鲁棒性.     

中文阅读理解系统的研究与实现

阅读理解系统作为开发、评估和比较自然语言问答方法的可控测试平台,引起了自然语言领域越来越多学者的关注,设计并实现了一个中文的阅读理解系统,着重分析了问题分析、答案定位和答案提取等关键技术;并根据不同的问题类型,设计了不同的答案提取策略.实验表明,系统的性能比基准测试方法提高了近5个%.     

基于度量学习和层级推理网络的抽取式摘要方法

当前大部分的抽取式摘要方法主要关注对摘要句的表示和抽取，容易忽略对文本特征表示的充分性。为了解决这一问题，提出一种基于度量学习和层级推理网络的抽取式摘要方法。首先，在抽取式任务基础上提出基于度量学习和层级推理的抽取式摘要模型（MLHIN）；其次，在CNN/DailyMail数据集上进行模型评估，并在英文摘要数据集CNN/DailyMail上进行测试；最后，对测试结果进行验证。结果显示，所提方法模型在Rouge-1,Rouge-2,Rouge-L上的得分明显优于其他模型，比Lead-3模型分别高出0.84％，1.29％和2.43％；通过将提出的度量损失metric和层级推理模型中的句子编码器替换掉，可以看出模型性能均有不同程度的下降，证明了提出的层级推理网络和度量损失的有效性。新算法能够提高模型捕捉长距离依赖的能力，增强模型对摘要句与非摘要句的分辨力，有效改善了抽取式摘要方法的性能。     

双向循环进化的实体链接及知识推理框架

为体系化、智能化提升自然语言处理中实体链接任务的准确率, 同时解决图谱噪声混杂、关系稀疏等问题, 基于第三代人工智能知识&数据双轮驱动思想提出一种双向循环进化的实体链接与知识推理框架。基于知识图谱下的实体链接技术设计正向进化模块, 基于知识推理与元学习等技术设计反向进化模块, 多次循环双向控制过程实现两任务在弱监督下自我迭代和智能升级。实验表明, 在模块化设计加持下, 该框架可从特定领域文本习得特定领域知识, 并实现快速增量更新, 有效提升实体链接、知识推理效率; 同时兼具开放性, 为各业务领域小样本下文本分析能力的迭代升级提供新方法。     

一个基于金融混合数据的智能问答模型

智能问答系统（Question Answering System,QAS）是一种让人类通过自然语言与机器进行问答来获取信息的人机交互系统，是自然语言处理的一个集综合性与广泛性于一体的应用．现有的智能问答系统模型研究主要考虑单一型数据．然而，现实生活中结合表格和文本的混合型数据十分普遍，如金融领域的财务报表．本文对已有的财务报表智能问答模型进行改进并提出了一个新模型，该模型有更好的效果．     

分类算法在范例推理中的研究与应用

将范例推理中的范例初步匹配看作文本分类的特殊情形,提出基于类别中心向量的分类算法。通过确定待处理案例的归属类别,缩小范例检索范围,减少在范例精确匹配阶段的计算量,提高案例初步匹配的准确性。在此基础上,将上述算法应用在对交通事故案例的处理与交通信息预警系统中。实验与使用表明,该算法能较为准确地判断事故类型并给出相应的预警信息。     

人工智能如何“说人话”?——对于自然语言处理研究的哲学反思

目前的自然语言处理技术的发展,依然面临如下问题:(1)不同的自然语言处理机制之间缺乏融合;(2)自然语言处理技术与人工智能研究的其他技术缺乏彼此融合;(3)基于大数据的自然语言处理技术的运作必须以“剥削”人类的智能为前提;(4)基于大数据的自然语言处理技术缺乏灵活处理隐喻、反讽、双关等修辞现象的能力。这些问题所涉及的主要哲学问题有:(1)语言是外部世界的表征,还是言说者内部世界的表征?(2)语言中的规则,究竟是先验的,还是经验的?(3)语言表征与言说者的心理活动之间的关系为何?(4)与语言表征有关的认知构架,在多大程度上需要被“具身化”?     

基于密度Canopy的评论文本主题识别方法

融合Sentence-BERT和LDA的评论文本主题识别（SBERT-LDA）方法，将LDA的主题数作为K-means算法中的k值，导致算法可解释性较差、主题一致性较低。为了解决上述问题，提出基于密度Canopy的SBERT-LDA优化方法（SBERT-LDA-DC），利用密度Canopy改进K-means算法。实验结果表明，提出的方法在一致性指标上要优于使用K-means以及K-means++对特征向量聚类的同类方法；与SBERT-LDA方法相比，在1 852条戏剧评论数据集上，一致性指标值提高了22.9%。因此，所提出的SBERT-LDA-DC方法是有效的，对产品或服务提供者更好地了解用户意见、完善自身产品或提升服务水平提供了新方法，具有较强的实际应用价值。     

基于关系模式与深度强化学习的DS数据去噪模型

远程监督(Distant Spervision，DS)数据集中存在大量错误标注的数据，而现有的DS数据集去噪方法通常只考虑针对具有标签的数据进行去噪，没有充分利用无标签数据，导致去噪效果不佳。本文提出一种新型DS数据去噪模型——Pattern Reinforcement Learning Model (PRL模型)：首先利用基于关系模式的正样例抽取算法提取DS数据集中高质量的有标签数据；然后利用Filter-net作为分类器，提取DS数据集中高质量的无标签数据；最后将高质量的有标签数据和无标签数据作为深度强化学习(Reinforcement Learning，RL)方法的训练数据集，获得去噪效果更好的远程监督数据集。将PRL模型应用于New York Times(NYT)数据集，并以去噪后的数据集来训练PCNN+ONE、CNN+ATT、PCNN+ATT 3个模型。实验结果表明，经过PRL模型对数据集进行去噪后，这些模型的性能得以提升。因此，PRL模型是一种轻量的数据去噪模型，可以提升基于深度神经网络模型的性能。     

基于深度学习的短文本语义相似度计算模型

基于深度学习的短文本语义相似度度量方法是现代自然语言处理任务的基石，其重要性不言而喻。本文提出一种基于卷积神经网络和双向门控循环单元的文本编码模型，通过卷积层提取重要语义并且通过双向门控循环单元保证语义顺序，采用孪生神经网络结构保证文本编码的一致性。选取传统的卷积神经网络和长短期记忆网络以及BERT模型进行对比验证，在Quora、Sick和MSRP数据集上的验证结果表明，本文模型的精确率和召回率表现优异，且F₁值也优于传统模型。