司法机器阅读理解的优化策略研究

针对司法领域阅读理解数据集缺乏、现有模型在不可回答问题样本和噪声样本上表现不佳等问题,提出了三种优化策略.首先,采用通用领域阅读理解数据集对RoBERTa-wwm模型进行预训练;然后,采用基于UniLM的问句生成模型生成不可回答问题样本,扩充已有训练集;最后,在微调阶段采用对抗训练算法对模型进行优化,增强模型的鲁棒性....     

面向阅读理解过敏感性和过稳定性的数据增强研究

机器阅读理解是自然语言处理领域的一个重要任务,然而许多研究工作表明目前的模型在鲁棒性方面仍存在一些缺陷。文章针对机器阅读理解模型鲁棒性中的过敏感性问题和过稳定性问题,提出了一种基于数据增强的策略。首先使用回译数据增强法和传统的EDA数据增强法扩充数据,然后采用基于离群点检测的方法对扩充后的数据进行过滤,从而提高模型的鲁棒性。在DuReaderrobust数据集上的实验结果表明,本文方法可以提高模型在过敏感性和过稳定性方面的性能,F1值分别得到2.75%和1.18%的提升。     

面向自动问答的机器阅读理解综述

人工智能正在深彻地变革各个行业.AI与教育的结合加速推动教育的结构性变革,正在将传统教育转变为智适应教育.基于深度学习的自动问答系统不仅可帮助学生实时解答疑惑、获取知识,还可以快速获取学生行为数据,加速教育的个性化和智能化.机器阅读理解是自动问答系统的核心模块,是理解学生问题,理解文档内容,快速获取知识的重要技术.在过去的几年里,随着深度学习复兴以及大规模机器阅读数据集的公开,各种各样的基于神经网络的机器阅读模型不断涌现.这篇综述主要讲述3方面的内容:介绍机器阅读理解的定义与发展历程;分析神经机器阅读模型之间的优点及不足;总结机器阅读领域的公开数据集以及评价方法.     

基于集成学习的智能电网主机恶意软件检测方法

目前智能电网恶意软件检测系统主要基于特征库对已知恶意软件进行检测,不适用检测恶意软件未知变种.而现有基于机器学习的恶意软件未知变种检测方法的准确性和鲁棒性有待进一步提升,不足以满足智能电网实际需要.因此,提出一种基于集成学习的恶意软件未知变种检测方法,利用多源数据集和多种机器学习方法交叉构建单一检测模型,并设计一种基于Logistic的集成学习方法,构建恶意软件未知变种集成检测模型.实验对比分析表明,构建的集成检测模型相较于传统单一检测模型在准确性和鲁棒性方面有着显著提升.     

基于机器阅读理解的中文司法实体识别优化策略研究

针对中文司法领域信息抽取数据集中实体专业性较强、现有机器阅读理解(MRC)模型无法通过构建问句提供充足的标签语义且在噪声样本上表现不佳等问题,本研究提出了一种联合优化策略。首先,通过聚合在司法语料中多次出现的实体构建司法领域词典,将专业性较强的实体知识注入RoBERTa-wwm预训练语言模型进行预训练。然后,通过基于自注意力机制来区分每个字对不同标签词的重要性,从而将实体标签语义融合到句子表示中。最后,在微调阶段采用对抗训练算法对模型进行优化,增强模型的鲁棒性和泛化能力。在2021年中国法律智能评测(CAIL2021)司法信息抽取数据集上的实验结果表明：相较于基线模型,本研究方法F1值提高了2.79%,并且模型在CAIL2021司法信息抽取赛道中获得了全国三等奖的成绩,验证了联合优化策略的有效性。     

基于机器阅读理解的商品属性识别

属性抽取的目标是从非结构化文本中抽取与文本实体相关的属性和属性值，然而在电商场景下基于序列标注的模型缺少应对大规模属性抽取任务的可扩展性和可泛化性能力。本文提出基于阅读理解的商品属性抽取模型，通过额外加入问句来强化模型对属性的理解，结合双仿射注意力机制捕获问句和文本之间的语义特征，进一步提高模型的抽取性能。本文在电商数据集上对不同类型问句和不同解码器进行了对比实验，结果表明本文提出的方法优于多个基线模型，相较于OpenTag和SUOpenTag模型，属性抽取的F1值分别提升7.70%和3.26%，未登录词识别的F1值分别提升15.51%和8.12%。     

基于注意力机制的机器阅读理解模型研究

机器阅读理解是自动问答领域的重要研究.随着深度学习技术发展,机器阅读理解已逐渐成为实现智能问答的技术支撑.注意力机制能够作为机器阅读理解中抽取文章相关信息而被广泛应用.文章总结了注意力机制发展历程发展原理以及在机器阅读理解模型中的使用方法：(1)介绍注意力机制的衍生过程及其原理;(2)阐述三种注意力机制在机器阅读理解模型中的作用;(3)对三种方法进行对比分析;(4)对注意力机制在机器阅读理解领域的应用进行总结展望.注意力机制可以帮助模型提取重要信息,能够使模型做出更加准确的判断,从而更广泛地运用于机器阅读理解的各项任务中.     

基于MEG虚相干功能连接的阅读理解能力预测模型的研究

【目的】阅读理解是人类最重要的认知能力，评价人类的阅读理解能力需要客观指标。【方法】提出一种基于脑磁图(magnetoencephalogram, MEG)虚相干脑功能连接的预测模型，使用虚相干算法构建全脑MEG功能连接，并通过单变量特征选择算法对特征进行选择，采用偏最小二乘回归(Partial Least Squares, PLS)构建预测模型对阅读理解能力进行预测。【结果】基于MEG虚相干功能连接的偏最小二乘回归模型可以成功预测阅读理解分数；进行单变量特征选择的模型预测性能更高、预测更准确(R²[PVT-Language]=0.524,MSE[PVT-Language]=5.042;R²[ORRT-Language]=0.536,MSE[ORRT-Language]=5.142),并且发现采用与阅读理解相关的任务态数据集比静息态数据集更适合用来预测阅读理解能力，且特征选择的功能连接更精确。【结论】基于MEG虚相干功能连接的PLS预测模型可以用来客观评价人类阅读理解能力。     

一种基于语义增强和指导路由机制的方面级情感三元组抽取方法

目前，细粒度情感分析已在观点挖掘、文本过滤等域获得广泛应用，通过细粒度情感分析，能完成更精准的文本理解和结果判断.其中，包含方面、观点和情感极性的情感三元组抽取任务是一个具有代表性的细粒度情感分析任务，且大多数相关研究是基于管道模型和端到端模型开展的.然而，一方面，管道模型本质为两阶段模型，存在错误传播的问题；另一方面，端到端模型也无法充分利用句子中各组成之间的联系，存在高层次语义关系捕获能力欠缺的问题.为解决以上问题，本文对句法和语义知识进行特征补充，提出一个基于语义增强和指导路由机制的情感三元组抽取方法(ASTE-SEGRM).首先，基于键值对网络学习源文本的句法特征和词性特征.区别于以往的建模方式，本文所提方法动态捕捉不同句法及词性类型的重要程度，并赋予不同的权重，以实现语义增强；其次，受启发于迭代路由机制，引入指导路由机制构建神经网络，使用先验知识指导情感三元组的抽取；最后，在四个基准数据集上的实验结果证明，本文所提方法优于数个基线模型.     

基于八叉树的复杂矿体块段模型高效构建

针对复杂矿体结构模型三角形面片数量大、模型几何质量不高,致使基于结构模型构建块段模型非常耗时、鲁棒性不高等问题,提出通过三维到二维的转换方式,将体元与多面体内外关系的三维判断转化为在二维面上进行多边形区域内外点集筛选的方法,并结合栅格扫描法,实现三维复杂矿体的块段模型快速构建算法;通过引入伪八叉树作为规则网格与八叉树模型的桥梁,实现基于八叉树的块段模型高效构建.实验结果表明:该算法可以处理任意复杂矿体模型构建基于八叉树的块段模型,速度快、鲁棒性高,不仅适用于基于矿体结构模型构建块段模型,也适用于同类三维矢量数据向三维栅格数据的转换.     

工程力学实验教学改革探讨

结合工程力学实验教学模式的背景,广东工业大学建设学院提出了＂引导和考核①＋设计和考核②＋实验和考核③＂三个环节的实验教学模式,介绍了＂三个环节＂实验教学模式的内容和特点,通过对＂三个环节＂实验教学模式实践情况调查及分析,结果显示：＂三个环节＂的实验教学模式有利于工程力学的实验教学和发展。     

基于DCT的战机3D模型多重水印算法

为有效保证战斗武器装备3D（Three Dimensions）模型的独创性与安全性, 以战机3D模型为例, 利用数字水印技术, 将自身版权信息嵌入其中, 并提出了一种基于DCT（Discrete Cosine Transform）变换的3D网格模型多重水印算法。该算法将3D模型进行仿射变换, 以模型重心为三维笛卡尔坐标系原点, 分别抽取3D模型经主元分析后的顶点在XOY、XOZ、YOZ 3个2D（Two Dimensions）平面上的投影坐标数组。针对3组2D离散信号分别进行2D DCT变换, 并将2D数字图像水印分别嵌入到3组
变换后的中频系数中。多重水印的嵌入, 使其在仿射不变空间下, 实现了3D模型对简化、噪声、 剪切等攻击的鲁棒性。实验结果表明, 该方法不仅具有较强的鲁棒性, 而且具有良好的水印不可见性, 进而有效防止了战斗武器装备模型的非法二次开发或应用。     

基于随机平滑的恶意软件识别深度学习模型鲁棒性认证方法

面向恶意软件识别的任务中,使用随机平滑算法向所有特征中添加噪声得到的噪声样本可能会失去恶意功能. 现有的认证算法按照噪声空间分布的似然比从大到小的顺序构建认证区域,使认证的鲁棒区域小、认证准确率低. 本文提出一种基于随机平滑的恶意软件识别深度学习模型的鲁棒性认证方法,方法只向与恶意功能非必需的特征中添加离散伯努利噪声构建可认证的平滑模型,选取似然比更小的区域构建认证区域,实现更准确的鲁棒性认证. 实验表明,提出的方法在3个数据集上平均认证半径是对比方法的 4.37倍、2.67倍和2.72倍。该方法可以提供与实际鲁棒边界更紧密的认证半径,在模型鲁棒性评估方面具有较强的实用价值.      

融合语态特征的日英层次短语翻译模型

针对不同语种的被动和可能语态的句法结构差异影响机器翻译质量的问题,提出融合语态特征的最大熵翻译模型。首先从日语端分出被动语态、可能语态和其他语态,然后从英语端对被动和可能语态进一步分类,抽取双语特征训练最大熵规则分类模型,将语态特征融合到对数线性模型中以改善翻译模型。提高解码器在翻译被动语态和可能语态时规则选择的准确性。实验结果表明,该方法可以有效地改善日英统计机器翻译的句法结构调序和词汇翻译,提升被动语态和可能语态句子的翻译质量。     

基于多层CatBoost的电力系统暂态稳定评估

随着大规模新能源并网以及新装置的不断应用,电力系统暂态稳定问题日益复杂,为进一步提升暂态稳定评估(transient stability assessment, TSA)的精确性和可靠性,提出一种基于多层CatBoost的TSA方法。首先,以电力系统故障前的稳态运行变量作为输入特征,采用一种最大相关最小冗余(maximal relevance minial redundancy, mRMR)集成方案,从输入特征中筛选出多组不同的关键特征集。然后,利用这些关键特征分别单独训练多个CatBoost模型,建立多个CatBoost驱动的TSA模型,并结合多个训练好的CatBoost模型构建TSA综合模型。在暂态稳定分析时,综合多个CatBoost模型的分析,通过多数投票表决方式判定最终评估结果。最后,在IEEE 39节点系统和某省级电力系统上进行性能测试实验。测试结果表明:所提出的TSA综合模型不仅具有极高的预测精度,而且拥有良好的泛化能力和鲁棒性。     

城市公交网络的鲁棒性分析模型

城市公交网络的鲁棒性是考核城市公交系统性能的重要指标,对其进行分析有助于更好地提出评价和优化措施.文中基于二分图模型,构建了城市公交系统的公交原始网络模型、公交站点网络模型和公交线路网络模型,定义了城市公交网络的拓扑结构鲁棒性指标,提出了针对大规模网络的鲁棒性分析的快速算法.最后以北京市公交系统为例,对3种公交网络模型在随机攻击和蓄意攻击下的鲁棒性进行了分析.结果表明:公交网络与随机网络相比,对于随机攻击方式的鲁棒性差别不大,但是对于按度数和按介数的攻击方式的鲁棒性要差于随机网络.     

城市公交网络鲁棒性分析模型研究

城市公交网络的鲁棒性是考核城市公交系统性能的重要指标,对其分析将有助于更好地提出评价和优化措施。本文基于二分图模型,构建了城市公交系统的公交原始网络模型、公交站点网络模型和公交线路网络模型,定义了城市公交网络的拓扑结构鲁棒性指标,提出了针对大规模网络的鲁棒性分析的快速算法。最后以北京市公交系统为例,对三种公交网络模型在随机攻击和蓄意攻击下的鲁棒性进行了分析。     

深度优先搜索在耦合任务集识别中的应用

在复杂产品项目管理中,合理的任务分解可以优化资源配置和利用,降低设计过程中任务间的信息交互复杂度和约束度.耦合任务集是任务分解后得到的一组具有相互依赖关系的任务集合,它反映了设计过程对多领域知识集成的要求,对设计时间和资源配置均有着关键影响.通过对设计过程所转化的有向图以及其转置图,使用深度优先搜索算法,旨在找出有向图中的强连通分支,以实现对设计过程中耦合任务集的识别.给出了识别设计过程中的耦合任务集的算法步骤,并利用实例对算法如何识别耦合任务集进行了说明,证明了该方法对设计过程中耦合任务集的识别是准确有效的.     

粗糙集与决策树比较研究

粗糙集和决策树都属于归纳学习方法,都可以从一个离散值决策表中抽取出规则.本文从算法过程、计算复杂性、规则个数、泛化能力、稳健性几个方面对粗糙集和决策树进行了比较研究,得出了一些重要结论,能为相关研究提供一些有价值的参考.     

网格的任务调度算法研究与分析

介绍网格计算中的任务调度技术,通过三个典型的调度模式,分析了适合各种环境下网格任务调度的基本模式。并给出几种经典的网格任务调度算法,通过对比各种算法的优缺点,指出调度问题进一步研究的方向。