基于语义的汉语文献主题词提取算法研究

为了适应信息时代的迅速发展,提高从汉语文献中自动提取主题词的准确率,给出一种基于语义理解的汉语文献主题词自动提取算法模型.该模型以中文文本为处理对象,结合领域背景,构建概念语义网络作为分词词典和知识库,用概念之间的联系和匹配取代传统的字面匹配,克服了仅局限于表面形式的缺陷;把自然语言处理从目前基于关键词层面提高到基于知识的层面,从而在概念层次上理解文献主题,突破了传统的关键词匹配的局限,在一定程度上解决了词汇差异问题.该方法能对自然语言进行某种程度的语义理解,利用领域知识来实现主题词的规范标引.实验表明,采用本方法对测试文档进行主题词提取的准确率可达到71.03%,与传统方法相比提高了近1.87倍.     

一种基于SVM和规则消除组合型歧义的算法

歧义的处理是影响分词系统切分精度的重要因素,也是中文自动分词系统中较为困难的问题.提出一种基于支持向量机(SVM)和规则(Rules)相结合的算法(SR算法),对中文分词过程中的组合型歧义字段进行排歧.SR算法主要思想是利用支持向量机分类的原理,结合词性搭配的一些规则排除组合型歧义.实验表明,用此算法对几种不同的语料进行排歧测试,排除组合型歧义字段的切分正确率可达83%左右,为解决中文自动分词难题提供了一条新路径.     

基于多模型集成的语义文本相似性判断

作为目前自然语言处理及人工智能领域的主流方法,各种预训练语言模型由于在语言建模、特征表示、模型结构、训练目标及训练语料等方面存在差异,导致它们在下游任务中的表现各有优劣。为了更好地融合不同预训练语言模型中的知识及在下游任务中的学习能力,结合语义文本相似性判断任务的特点,提出一种多模型集成方法MME-STS,给出相应的模型总体架构及相应的特征表示,并针对多模型的集成问题分别提出基于平均值、基于全连接层训练和基于Adaboost算法的3种不同集成策略,同时在两个常用的经典基准数据集上验证该方法的有效性。实验结果表明,MME-STS在国际语义评测SemEval 2014任务4的SICK和SemEval 2017 STS-B数据集上的Pearson共关系值和Spearman相关系数值均超过单个预训练语言模型方法。     

基于改进BERT模型的时政微博评论情感分类

微博的流行使公众能够更加容易也更加积极地参与到社会话题的讨论中去,识别公众对事件的情感倾向已经成为一个有价值的话题。目前已有的情感分类方法往往是选择一种分类模型(比如SVM)或者结合几种分类模型,然后将数据直接进行分类,没有考虑根据数据的不同领域来调整分类模型。基于预训练的BERT网络,可以使用无标签的时政微博语料改进BERT模型,然后再进行情感二分类任务,其优势在于进行分类任务之前先进行无监督学习,使BERT模型学习到时政微博评论的语料特征,从而提高后续的分类任务效果。在约8万条时政微博评论的数据集上的实验结果表明该方法比直接采用BERT模型具有更高的准确率。     

SUSANNE语料库中语法规则的抽取

近年来自然语言理解的研究中,语料库占有越来越重要的地位。将现实中真实的语言材料经过语言专家分析和加工,集中到一个库里面,然后计算机专家通过计算机技术从语料库中获取有用的知识从而指导自然语言处理系统的开发与研究已经成为常用的方法。语料库中语法规则的抽取是语料库数据预处理重要的一环,本文基于中山大学软件研究所WordHelp项目,讨论了SUSANNE语料库中抽取英文语法规则的问题。     

管窥俄语学界的歧义研究

回顾了欧美语言学界对歧义问题研究的渊源,介绍了前苏联、俄罗斯语言学界以及我国国内俄语学界对歧义问题的研究成果。针对当前国内外关于歧义研究问题的不足之处,提出了改进之道。     

基于转换的无指导词义标注方法

词义标注是自然语言处理的难题之一。该文提出用于文本词义标注的转换规则自动获取算法及相应的词义排歧算法。该算法用可能的句法关系对语境进行限制,减少了训练数据中的噪音; 为提高学习算法的速度,提出利用预排序方法减少规则搜索次数,以及只调整变化部分数据的计算方法; 并给了改善召回率的词义排歧算法。在近５ 万词的语料库上对本算法进行了实验,开放测试的词义排歧正确率为７４３％ 。     

自然语言处理系统中自动分词的研究

首先分析了自动分词方法的基本假设和实现途径以及现有方法的不足之处,然后介绍汉语自然语言整体处理信息框架和在自然语言整体处理框架中自动分词方法,最后给出实验结果     

形式语言及其应用中的新进展

形式语言理论被广泛地认为是理论计算机科学的支柱。它主要源自数学生成语言学。此后新的专业从计算机科学、生物学、语言学或者数学中产生。在某种意义上，所有人类问题的解决能力被认为是由符号及由符号组成的结构的处理，它实际上是形式语言理论的主干。语言以它的两种基本形式存在，自然的和人工的，它是符号系统的一种特殊情况。作为一门基础学科，形式语言理论的概念和技术存在于现代研究的各种各样的理论和应用领域中，这些领域都涉及了符号的处理，例如离散数学、生物信息学、自然语言处理、模式识别、文本检索、学习、密码学、压缩等。     

智能系统中的研究与发展：第20卷 人工智能创新技术及其应用

本书是2003年12月在英国剑桥大学举行的“人工智能国际会议”的会议录。所收论文代表了在机器学习、知识表示法与推理、知识的获取、约束满足与调度和自然语言处理等领域中的创新发展。