基于RoBERTa-wwm-ext与混淆集的中文文本校对模型

中文文本自动校对技术是自然语言处理领域中的主要任务之一.针对中文文本中字粒度级别的错误(音似、形似和义似替换错误),提出一种基于RoBERTa-wwm-ext与混淆集的中文文本校对模型.该模型在RoBERTa-wwm-ext结构的基础上，利用transformer结构中的encoder机制读取整段中文文本序列，然后通过softmax函数计算当前字符权重分布来判断该字符是否错误，并在纠错任务中引入混淆集，使用混淆集找到该错字对应的候选字符，最后结合掩码语言模型给出的修改建议，完成文本校对.在SIGHAN2014与SIGHAN2015中文拼写检查数据集上，设计字粒度级别的中文文本校对实验，对比模型性能.实验结果表明，与当前主流的中文文本校对模型相比，该模型的中文文本校对效果表现更佳，文本校对的准确率、召回率、F1值均有所提升.     

基于POS-CBOW语言模型的相似词分析

相似词分析是自然语言处理领域的研究热点之一,在文本分类、机器翻译和信息推荐等领域中具有重要的研究价值和应用意义。针对新浪微博短文本的特点,给出一种带词性的连续词袋模型(POS-CBOW)。该模型在连续词袋模型的基础上加入过滤层和词性标注层,对空间词向量进行优化和词性标注,通过空间词向量的余弦相似度和词性相似度来判别词向量的相似性,并利用统计分析模型筛选出最优相似词集合。实验表明,基于POS-CBOW语言模型的相似词分析算法优于传统CBOW语言模型。     

自然语言处理下的语音形式化研究

论述在自然语言处理进程下,在语言学范畴内,应用数学方法针对语言研究中的语音问题加以形式化研究,辅助实现语音信息的存储、传输、分析和再生。     

A nonmonotone filter line search technique for the MBFGS method in unconstrained optimization

This paper presents a new nonmonotone filter line search technique in association with the MBFGS method for solving unconstrained minimization. The filter method, which is traditionally used for constrained nonlinear programming （NLP）, is extended to solve unconstrained NLP by converting the latter to an equality constrained minimization. The nonmonotone idea is employed to the filter method so that the restoration phrase, a common feature of most filter methods, is not needed. The global convergence and fast local convergence rate of the proposed algorithm are established under some reasonable conditions. The results of numerical experiments indicate that the proposed method is efficient,     

AlphaGo?不,智能语音离生活更近

2016年春节联欢晚会上,一场优必选的机器人表演令数亿观众耳目一新.时隔不久,2016年3月,谷歌人工智能AlphaGo大战韩国棋手李世石引起巨大轰动,这场较量把人工智能推向了前所未有的关注高度,用一种具象化的游戏对决将人工智能的抽象思维呈献在大众眼前. 智能语音:人工智能“优秀代表” 人工智能的发展依赖于对大脑的彻底解读,遵循大脑思维的发展过程.同人脑一样,人工智能的主干是五种智能:首先是计算智能,包括最浅层的计算、存储和记忆功能;第二是感知智能,即听、看、闻、触、尝;第三是执行表达智能,也就是动作、姿势、说等行为表达;第四是认知智能,是比较高级的、在行为背后更高层的智能,即理解、反馈、决策、学习、进化;最高级的就是抽象思维智能,包括逻辑演绎和主动推理.     

面向事件的多文档文摘生成算法的研究

针对目前基于主题相似性生成多文档文摘的系统存在语义不精确、只能传达多篇具有同一主题的文档所携带的主要信息(横向文摘)的问题.本文基于HNC理论,提出的面向事件的多文档自动文摘模型,旨在用很短的文本来传达多篇具有同一事件的文档所携带的后续报道信息(纵向文摘).实验结果表明,本方法在信息覆盖率、信息冗余度和文摘流利度方面比TF×IDF方法有很大的改进.     

基于词聚类的依存句法分析

利用语义、语法等语言知识,对中心词驱动的句法分析模型规则进行分解和修改,结合分词、词性标注进行句法分析,提出一种可同时考虑多个语义依存关系的模型.利用互信息给出基于邻接关系、语义依存关系的2种词相似度定义,提出一种自下而上的分层聚类算法,以解决中心词驱动模型数据稀疏问题,用改进的句法分析模型进行句法分析实验.研究结果表明:模型精确率和召回率分别为88.14％和86.93％,综合指标比Collins头驱动句法分析模型的综合指标提高6.09％.     

一种新型的文本无监督特征选择方法

结合文档频数DF(Document Frequency)和特征相似度FS(Feature Similarity)方法,提出一种新的无监督特征选择方法DFFS.该方法利用文档频数过滤掉90%的特征之后,再借助特征相似度移除尽可能多的冗余特征.采用K-均值方法,对比DFFS方法与其他3种常用特征选择方法(DF,TC,TS)的聚类性能.实验一:当特征数量由6 000减少到1 047时,DF方法的聚类性能急剧下降,而DFFS方法则有提高,甚至当特征数量进一步减少到350时,DFFS方法也没有下降.实验二:在保持10%～2%的特征时,DFFS方法优于其他3种方法,特别是在只保留2%的特征时,DFFS方法的明显优于其他方法.     

以自然语言为界面实现VC＋＋程序的自动生成

本文提出以自然语言为界面实现程序自动生成的研究成果。该研究系统使用面向对象的方法与技术,以自然语言为输入界面,使用扩充的格语法进行语法语义分析,将用户描述的VC 期望程序功能的汉语篇章依次进行自动切词处理、语法处理、语义分析理解、目标程序的自动生成,最终形成满足用户要求且符合Visual C 语法的结果程序。