基于ERNIE和双重注意力机制的微博情感分析

针对传统词向量无法在上下文中表示词的多义性,以及先验的情感资源未能在神经网络中得到充分利用等问题,提出一种基于知识增强语义表示（Enhanced Representation through Knowledge Integration,ERNIE）和双重注意力机制（Dual Attention Mechanism, DAM）的微博情感分析模型ERNIE-DAM.首先利用现有的情感资源构建一个包含情感词、否定词和程度副词的情感资源库;其次采用BLSTM网络和全连接网络分别对文本和文本中包含的情感信息进行编码,不同的注意力机制分别用于提取文本和情感信息中的上下文关系特征和情感特征,并且均采用ERNIE预训练模型获取文本的动态特征表示;最后将上下文关系特征和情感特征进行拼接融合,获取最终的特征向量表示.实验结果表明,新模型在COAE2014和weibo＿senti＿100k数据集上的分类准确率分别达到了94.50%和98.23%,同时也验证了将情感资源运用到神经网络中的有效性.     

基于BERT-BiGRU-Attention的在线健康社区用户意图识别方法

针对传统用户意图识别主要使用基于模板匹配或人工特征集合方法导致成本高、扩展性低的问题,提出了一种基于BERT词向量和BiGRU-Attention的混合神经网络意图识别模型。首先使用BERT预训练的词向量作为输入,通过BiGRU对问句进行特征提取,再引入Attention机制提取对句子含义有重要影响力的词的信息以及分配相应的权重,获得融合了词级权重的句子向量,并输入到softmax分类器,实现意图分类。爬取语料实验结果表明,BERT-BiGRU-Attention方法性能均优于传统的模板匹配、SVM和目前效果较好的CNN-LSTM深度学习组合模型。提出的新方法能有效提升意图识别模型的性能,提高在线健康信息服务质量、为在线健康社区问答系统提供技术支撑。     

融合跨语言特征的柬埔寨语命名实体识别方法

为了解决柬埔寨语词法标注语料稀缺、柬埔寨语命名实体缺乏明显标识特征的问题,提出一种引入英柬跨语言特征的柬埔寨语命名实体识别方法.首先,借助英语命名实体的成熟模型及英柬双语平行语料的词对齐关系,将源语言的实体类别映射到目标语言;然后根据柬埔寨语词向量构造最近邻图,采用标签传播算法,获得柬埔寨语单词的实体类别分布,完成跨语言知识转移;最后,将柬埔寨语单词的命名实体类别分布作为约束特征融入到条件随机场模型中.实验结果表明,融入跨语言特征的条件随机场模型能有效地提升柬埔寨语命名实体识别的效果.     

基于分层最大边缘相关的柬语多文档抽取式摘要方法

为了解决传统多文档抽取式摘要方法无法有效利用文档之间的语义信息、摘要结果存在过多冗余内容的问题,提出了一种基于分层最大边缘相关的柬语多文档抽取式摘要方法。首先,将柬语多文档文本输入到训练好的深度学习模型中,抽取得到所有的单文档摘要;然后,依据类似分层瀑布的方式,迭代合并所有的单文档摘要,通过改进的最大边缘相关算法合理地选择摘要句,得到最终的多文档摘要。结果表明,与其他方法相比,通过使用深度学习方法并结合分层最大边缘相关算法共同获得的柬语多文档摘要,R₁,R₂,R₃和R_L值分别提高了4.31%,5.33%,6.45%和4.26%。基于分层最大边缘相关的柬语多文档抽取式摘要方法在保证摘要句子多样性和差异性的同时,有效提高了柬语多文档摘要的质量。     

宁波市农村发展模式初探

文章对宁波市农村发展模式的内涵及其成因进行了探讨和分析,并提出了关于宁波市未来农村发展的几点思考.     

用单片机控制的多信道、数字信令式无中心拨号系统(DCL系统)

本文介绍了采用MCS-51系列单片机——8031做为控制单元,实现移动电台的多信道、数字信令式无中心台拨号系统的原理与设计。此系统采用扫描空闲信道方式,实现了信道复用,有效地提高了频率利用率,并扩展了原电台的信道数。在相同的呼损率下,通信网内可容纳更多的用户。可望缓解频率资源日趋紧张的局面。此系统具有硬件简单,软件功能强的特点,从而提高了系统的可靠性与实用性。此系统适用于150MHz,400MHz,900MHz等带数字频率合成器的电台组成通信网。     

基于兴趣和专业度建模的CQA专家发现方法

现有问答社区专家发现方法通过学习用户解答的问题序列单向信息建模用户兴趣，忽略了用户兴趣的波动性，对于解答过较少问题的用户建模准确度将受到影响，此外，未考虑历史回答与问题的语义相关性对评估用户表现的作用。论文提出基于兴趣和专业度建模的CQA专家发现方法，首先，使用BERT4Rec学习用户近期解答的问题序列双向信息得到近期动态兴趣表示；其次，构建用户社交网络，使用DeepWalk算法学习网络结构特征，得到用户长期兴趣表示；再次，构建用户专业度评估网络，依据用户回答与问题的语义相关性及反馈信息计算权重，对相应问题进行加权，引入注意力机制，重点关注用户在与新问题相近问题上的表现，得到用户专业度表示；最后，综合用户近期动态兴趣、长期兴趣和专业度表示与新问题进行匹配打分，为新问题找出有意愿接受邀请并能提供优质回答的用户。实验表明，该方法取得了较好表现，较基线方法在英语、3D打印和天涯问答数据集的MRR评价指标上分别提升了5.2%、2.7%、16.1%。