基于层次注意力机制的垃圾用户检测模型

目前基于网络的垃圾用户检测方法只考虑了简单社会关系,缺乏对更多复杂社会语义关系的利用,难以达到最优性能.针对这一挑战,提出一种基于层次注意力机制的垃圾用户检测模型(HAM-SD).模型首先使用异质信息网络对社交媒体进行建模,挖掘丰富的语义与结构信息,接着利用节点级注意力层聚合元路径邻居增强节点表示,同时利用自适应层级聚合模块选择不同层级特征提升表征能力,然后通过语义级注意力层融合不同元路径下的节点表示,最后带入分类检测模块实现垃圾用户检测.在公开数据集上的实验结果表明该模型能够有效检测垃圾用户,并在不平衡数据分布时保持较强的稳定性.     

基于双重匹配注意力网络的观点型阅读理解

提出一种基于双重匹配注意力网络的方法.先用动态匹配机制迭代综合获取全局观点信息,同时利用多维度匹配机制在不同特征空间上计算全局语义信息,然后交互式多路注意力机制通过两路注意力之间的交互计算对上述全局的观点与语义信息进行融合,最后与选项表示结合预测答案的观点倾向.在观点型阅读理解数据集ReCO和Dureader上面的实验表明,该方法相对于基准模型在准确率上提升了1.18%和0.84%,在加权宏F1上提升了1.16%和0.75%.     

基于残差卷积自注意力神经网络的铝电解过热度识别方法

过热度是反映铝电解槽当前生产效率的重要指标,由于过热度难以在线实时测量,本文提出一种基于残差卷积自注意力神经网络的过热度识别方法.针对铝电解生产过程数据为时间序列数据且具有多源异构特性,设计异构数据的同构表示方法.在此基础上建立残差卷积自注意力神经网络模型以提取同构时间序列数据的全局与局部特征.针对过热度数据标签少且类别分布不均匀问题,采用基于自动编码器的无监督预训练方法与加权交叉熵损失函数以提高过热度识别任务的性能.在基准数据集上进行仿真对比实验以验证本文所提方法的有效性,然后在只包含少量不平衡标签的铝电解过热度数据集上进行实验验证,结果表明本文构建的过热度识别模型相较与其他现有模型不仅提高了过热度识别准确率,而且在训练样本较少时保证了模型的泛化能力.     

基于变换域注意力机制的压缩伪影去除的方法

图像有损压缩过程往往会导致图像质量退化,使图像出现压缩伪影。针对现有基于深度学习的方法缺乏对联合图像专家组(Joint Photographic Experts Group,JPEG)压缩算法先验信息的利用,提出一种基于变换域注意力机制的去伪影方法。该方法利用卷积神经网络在像素域和离散余弦变换(discrete cosine transform,DCT)域分别提取特征,再将双域学习的特征信息进行融合。利用量化表设计了DCT注意力机制,该模块根据DCT系数的损失程度给予各频率系数不同的权值,使网络自适应补偿量化引起的误差。于此基础上,在像素域引入通道注意力机制,从而更好地利用量化表的先验信息。在主要数据集上,提出的去伪影方法以固定的模型参数对多种质量因子的压缩图像进行伪影去除实验。实验结果表明,所提出的方法在各评价指标和主观视觉上取得较好的效果。     

增强型注意力网络点击通过率预估方法

针对以往模型在对点击通过率(click-through rate,CTR)进行建模预测时,存在着特征重要性学习不足、特征交互低效等问题,提出了一种增强型注意力网络预估模型,用于动态学习特征重要性和特征交互信息,模型主要由注意力层、双线性交互层和全连接神经网络层构成。注意力层的多尺度多头自注意力机制通过设置不同尺寸子空间增强特征重要性学习能力,在得到特征重要性后,进一步采用张量积双线性交互学习特征交互信息。通过对注意力的子空间尺寸大小、张量积交互形式、神经网络层数和节点个数等进行定量分析,确定模型的最佳参数。实验证明,该模型相比已有模型拥有更好的预测能力。     

F?对熔融NaCl–KCl熔盐中钛离子配位结构的影响

本文采用电化学、数学分析和光谱分析相结合的方法,研究了氟离子(F?)对钛离子(Tin+)的电化学行为和配位性能的影响,以α表示F?和Tin+的摩尔浓度比。采用循环伏安法(CV)、方波伏安法(SWV)和开路电位法(OCP)研究了不同α条件下钛离子的电化学行为,并采用原位采样器制备了α = 0、1.0、2.0、3.0、4.0、5.0、6.0、8.0时的熔盐样品,然后用X射线光电子能谱(XPS)和拉曼光谱对样品进行分析。结果表明:熔盐中F?的加入缩短了钛离子的还原步骤,并极大地影响了价态钛离子的比例,使高价态钛含量增加且更加稳定,当α大于3.0时,Ti2+不再存在于熔盐中,最终转移到价态更高的钛离子中。研究发现,这些现象背后的机制是由于配合物(TiCl_jF_im?)的形成,这对揭示钛还原过程机理和电解质的选择具有重要意义。     

基于改进I-Attention U-Net的锌浮选泡沫图像分割算法

针对泡沫图像的高度复杂性导致其难以被准确分割的难题,本文提出了一种新的I-Attention U-Net网络用于泡沫图像分割.该算法以U-Net网络作为主干网络,使用Inception模块替换第一卷积池化层来提取泡沫图像的多尺度、多层次浅层特征信息;引入金字塔池化模块,通过对不同尺度的特征图求和来提升分割效果;并对自注意力门控单元进行改进,使注意力单元更适合于浮选泡沫图像的分割,强化深层特征的重要性并对不同尺寸的泡沫边界进行强化学习.研究结果表明：本文所提出算法的Jaccard系数为91.73%,Dice系数为95.66%.与同类其他分割算法结果相比,Jaccard系数及Dice系数分别提高了1.59%、0.88%.该模型能够较好地对锌浮选泡沫图像进行分割,解决欠分割与过分割的问题,为后续的泡沫特征提取奠定基础.此外,该方法检测时间和模型参数少,具备可以部署在工业现场计算机的能力,有一定的实际应用价值.     

基于扩散偶法的CaO–V2O5和MnO2–V2O5固相界面反应行为比较

钒是我国重要的战略金属资源,广泛应用于钢铁、化工、航空航天等领域。钒渣作为我国最重要的含钒原料,其钙化提钒及锰化提钒工艺在钒的高效分离、尾渣利用和环境保护方面优势显著,但焙烧过程中钒酸钙和钒酸锰始终共存。两种钒酸盐的生成机理及钒与钙、锰反应能力的差异是两种提钒工艺的基本问题和共性问题,这对充实提钒基础理论和促进提钒工艺优化具有重要意义。为此,本文基于扩散偶研究方法,通过制备氧化钙–氧化钒和二氧化锰–氧化钒扩散偶,并在不同时间恒温焙烧,比较研究了钙、锰与钒组元固相反应的界面扩散行为差异;阐明了钒酸钙和钒酸锰的生成机理;进一步基于扫描电子显微镜和能谱分析研究并计算了扩散产物和扩散系数随焙烧时间的变化规律。结果表明,随着焙烧时间的延长,氧化钙–氧化钒、二氧化锰–氧化钒两组扩散反应逐渐进行。氧化钙–氧化钒扩散偶中钙和钒的分布区域边界始终清晰。而对于二氧化锰–氧化钒扩散偶而言,随着恒温焙烧时间的延长,二氧化锰逐渐分解生成三氧化二锰,钒组元能扩散到三氧化二锰内部,但仅有部分钒与锰反应形成扩散产物层。氧化钙–氧化钒、二氧化锰–氧化钒扩散偶的界面反应产物分别是偏钒酸钙和偏钒酸锰。恒温焙烧16 h后,产物厚度分别为39.85和32.13 μm,且由于组元扩散反应能力的限制,两个扩散偶均达到反应平衡。相同恒温焙烧时间内,氧化钙–氧化钒扩散偶的扩散系数略高于二氧化锰–氧化钒扩散偶,这说明钒与钙的扩散反应比钒与锰的扩散反应更易进行。     

基于双向门控机制和层次注意力的方面级情感分析

针对传统情感分析模型将单词或词语作为单一嵌入,而忽略句子之间依存信息和位置信息的问题,提出基于双向门控机制和层次注意力的方面级情感分析模型（Based on Bi-GRU and Hierarchical Attention,BGHA）。首先,将文本数据转成词向量再加入位置编码信息,得到包含位置和语义信息的词向量后通过双向门控机制提取上下文特征;接着,分别在单词注意力层和句子注意力层用注意力机制对特征分配权重,突出重点词和重点句信息;最后,结合给定的方面信息选择性提取与其较匹配的情感特征。在SemEval 2014、SemEval 2016和Twitter短文本评论数据集上的实验结果表示,BGHA模型的准确率对比其他模型都有不同程度的提高,证明了模型的有效性。     

基于时空图注意力的短期电力负荷预测方法

准确的电力负荷预测对现代电力系统的安全经济运行至关重要.电力负荷预测可以表述为一个具有一定潜在空间依赖性的多变量时序预测问题.然而,大多数现有的电力负荷预测工作未能探索这种空间依赖关系.基于此,本文提出了一种基于时空图注意网络的短期电力负荷预测方法.提出一种基于时空图注意网络模块,该模块使用图注意层实现自适应的捕捉各用户间的潜在空间依赖性,同时使用门控卷积注意力层对各用户用电量在时间维度上进行自适应拟合,以提高网络的预测精度.实际数据实验表明,本文提出的模型整体预测精度提高明显,特别是在一定程度上缓解了长程预测精度恶化的问题,验证了所提方法的有效性与可行性.