融合释义与双向交互的成语阅读理解方法研究

中文成语有着独特的抽象语义。在机器阅读理解任务中，为了解决模型不能充分理解成语含义的问题，本文提出一种完形填空式匹配网络。匹配网络将成语与其词典释义以注意力交互的方式融入模型，使成语得到更好的向量表征，并且在段落与候选答案之间采用双向交互的策略。将匹配网络与语言模型(BERT、 ERNIE等)相结合，本文设计出一个针对完形填空式阅读理解任务的模型。实验结果表明，该模型优于传统模型、SKER模型以及结合增强型全局注意力的BERT模型，在中文成语数据集CHID上达到77.0%的准确率。     

改进特征选择的光伏功率预测融合算法

为提高电站光伏功率预测准确率,该文提出了改进特征选择的融合预测模型。首先耦合包裹式和过滤式方法筛选特征参数;然后根据气象特征分类构建XGBoost、LightGBM和MLP的单一模型;最后使用双隐藏层多层感知器（MLP）构建融合模型进行预测。实验结果表明,通过改进特征选择以及使用对非线性描述能力更佳的MLP融合算法,融合预测模型相比单一模型具有更高的预测准确率以及更强的泛化能力,可较好地满足短期光伏功率预测的需求。     

基于改进TADW的链路预测算法

针对经典的节点相似性链路预测算法只考虑网络拓扑结构或者节点属性信息的问题,使用词嵌入模型Word2vec学习得到节点文本属性信息的表示,进而改进TADW(text-associated deep walk)算法,弥补其语义信息表示能力的不足.基于改进的TADW图嵌入方法提出一种融合网络拓扑结构和节点属性信息的相似性指标,并基于此相似性指标提出链路预测算法.在三个真实数据集上的实验结果表明所提出算法可以提高预测精度,并具有更好的鲁棒性,同时使用图嵌入的方法有效解决了网络数据的稀疏性问题.     

基于LNBC模型的中文命名实体识别

针对中文命名实体识别中融合词典信息准确率提升不足的问题,使用在模型内部融合词典信息的策略,并结合预训练语言模型NEZHA增强文本的嵌入表示,提出一种基于LNBC(LE-NEZHA-BiLSTM-CRF)模型的中文命名实体识别方法．首先通过词典树匹配所有潜在的词,然后采用面向中文理解的神经语境表征模型(NEZHA)进行融合嵌入表示,将训练得到的字词融合向量输入双向长短期记忆(BiLSTM)网络进行特征提取,获取长距离的语义信息,最后通过条件随机场(CRF)层降低错误标签输出的概率．实验结果表明,该方法在MSRA数据集和Resume数据集中的F1值分别为95.71%和96.11%,较其他对比模型均有提高．     

融合卷积神经网络和流形学习的肺结节检测

U-net是常用的医学图像分割网络,但仍存在卷积神经网络中泛化能力差、容易过拟合的缺点.针对其缺点,研究全卷积肺结节分割网络,引入随机失活层,采用新的激活函、损失函数、优化器等改进网络结构,改进后的网络具有更高的查全率.然后融合改进重构权值的局部线性嵌入算法对特征进行提取,最后采用XGBoost分类器进行最后的筛选分类.通过实验验证表明,得到实融合以上两种算法的肺结节检测具有更高的准确率更高的准确率和更好的泛化性,可以应用于肺结节检测.     

基于双流卷积网络的宫颈细胞细粒度分类

为了实现对宫颈细胞图像相近类别的准确自动分类,提出了一种双流卷积神经网络算法。算法以DenseNet121网络和Xception网络为基础并对其进行改进,以提高算法对宫颈细胞进行细粒度分类的识别准确率。首先,在DenseNet121中引入DropBlock模块进行网络正则化,用于提高模型的泛化能力;其次,在Xception中加入SE(squeeze-and-excitation)模块调整通道权重,以增强网络提取有效特征的能力;最后,将两个网络输出的特征图进行拼接构建双流网络,来获取宫颈细胞更全面的特征信息。实验结果表明,该网络在Herlev数据集以及SIPaKMeD数据集上各性能指标都表现良好,且都达到了99%的准确率,优于改进融合前的网络,提出的算法在宫颈细胞的细粒度分类中具有较高识别率。     

深度优先局部聚合哈希

已有的深度监督哈希方法不能有效地利用提取到的卷积特征,同时,也忽视了数据对之间相似性信息分布对于哈希网络的作用,最终导致学到的哈希编码之间的区分性不足.为了解决该问题,提出了一种新颖的深度监督哈希方法,称之为深度优先局部聚合哈希(Deep Priority Local Aggregated Hashing,DPLAH).DPLAH将局部聚合描述子向量嵌入到哈希网络中,提高网络对同类数据的表达能力,并且通过在数据对之间施加不同权重,从而减少相似性信息分布倾斜对哈希网络的影响.利用Pytorch深度框架进行DPLAH实验,使用NetVLAD层对Resnet18网络模型输出的卷积特征进行聚合,将聚合得到的特征进行哈希编码学习.在CI-FAR-10和NUS-WIDE数据集上的图像检索实验表明,与使用手工特征和卷积神经网络特征的非深度哈希学习算法的最好结果相比,DPLAH的平均准确率均值要高出11％,同时,DPLAH的平均准确率均值比非对称深度监督哈希方法高出2％.     

基于任务特征的一种小样本学习方法

现在机器学习对于数据量的依赖性过强,大量数据意味着高价的成本,如何在少量样本上取得可观的预测准确率非常关键,小样本学习就是基于该问题提出的.本研究基于MAML的模型框架,加入任务嵌入的思想.MAML是目前主流的元学习模型,它有泛化性能好、适应性强的特点.在此基础上,我们可以引入动态的特征嵌入进行调整来适应不同的任务,在输入任务后,通过预测网络中的特征层生成参数来调整任务特征嵌入.在常用的小样本学习公开数据集Omniglot和MiniImagenet上实验证明了提出的方法能够提高学习性能.     

基于深度学习的肺部医疗图像识别

肺结节作为肺癌早期诊断的重要特征,对其识别和类型判断具有重要意义.目前使用迁移学习的识别算法存在着源数据集与目标数据集差距过大问题,对于肺结节特征提取不足,导致效果不佳.故此提出了基于卷积神经网络的改进神经网络模型.将预训练的GooLeNet Inception V3网络与设计的特征融合层结合,提高网络对特征的提取能力;为确定最佳组合方式,对各组以准确率为标准进行测试.实验在LUNA16肺结节数据集上进行.进行分组测试结果表明,改进的网络准确率达88.80％,敏感度达87.15％.在识别准确率和敏感性指标上,与GooLeNet Inception V3算法相比,分别提高了2.72,2.19个百分点.在不同数据集比例下进行实验,同样达到了更优的效果,具有更好的泛化能力.可以给临床诊断提供相对客观的指标依据.     

加权子空间的随机向量函数链接网络集成方法

随机向量函数链接网络(RVFL)是一种随机权网络模型,其基于非迭代权重更新方式,直接求解输出层权重完成模型训练,因此具有训练速度快的优点,已有的实验证明了其在分类和回归任务中均具有良好的泛化能力.目前在RVFL的改进工作中存在两点问题：改善网络结构会复杂化模型,容易造成过拟合现象;结合集成学习往往无法进一步通过增加集成多样性来提升模型性能.因此,本文基于子空间策略,提出了一种基于加权子空间的随机向量函数链接网络集成方法(WAB-RVFL).基于RVFL网络结构中输入层和输出层直连的线性特点,WAB-RVFL引入属性优化的思想并提出属性加权矩阵的概念,对属性子空间进行加权转化获得更优质的加权子空间,使其更利于模型进行集成训练.通过在8个高维分类数据集上的实验测试,证实了WAB-RVFL的可行性、合理性和有效性,其能够获得比6种流行的RVFL网络模型更优的泛化能力.     

基于Softplus函数的双隐含层BP神经网络的公路客运量预测

为了提高预测模型的精度,提出一种基于Softplus激活函数的双隐含层BP神经网络的预测方法,提高了模型的非线性学习和泛化能力及预测精度,并改善了网络性能。将该方法应用于公路客运量实际预测中进行有效性验证,结果表明该方法对公路客运量有更好的非线性拟合能力和预测准确性。     

基于BP神经网络模型的大众健美操成绩非线性相关分析

确定了分项评价指标及其标准,具体包括以下9个指标:准确性、整齐性、弹性、协调性、稳定性、控制力、健康性、统一性和和谐性.建立了包含输入层,隐含层和输出层的三层BP人工神经网络模型.结果表明,该模型能够很好地反映9个分项指标的成绩与总体成绩之间的非线性关系.各个样本的预测值与真实值十分接近,相对误差在5%上下波动,网络训练成功.表明BP网络经有效训练后应用于竞技健美操成绩评价具有较高的预测精度和良好的泛化能力.     

基于XGBoost-神经网络的建筑负荷预测模型构建

针对建筑负荷预测模型特征选择工作量大、泛化能力提升难的问题,提出一种基于XGBoost-神经网络的建筑负荷特征筛选及预测方法,利用XGBoost算法训练滤波处理后的数据,基于平均绝对误差百分比MAPE确定最优特征子集,以改善模型精度和泛化能力;采用贝叶斯正则化算法训练前馈神经网络,以便能够在训练优化过程中降低网络结构复杂性,从而避免网络过拟合,进一步提升其泛化能力。针对某商业建筑的负荷预测实验结果表明,特征筛选后较筛选前模型MSE降低43.29%,有效提高了模型预测精度;分别以贝叶斯正则化和L-M算法对神经网络进行训练,前者5次试验RMSE和MAPE平均值较后者分别降低87.08%、85.33%,预测模型泛化能力得到有效提升。     

智能网联交通混合标签感知的推荐预测模型

针对智能网联车辆高速移动以及智能网联组网模式多元化导致的传统协同过滤算法有效性受到限制的问题，提出一种新型混合标签感知推荐模型（hybrid tag-aware recommender model，HTRM）。嵌入层采用Word2Vec模型对项目标签、项目评分、用户行为标签和用户评分进行向量表示；特征层引入自编码器提取项目的自相似特征，采用长短期记忆网络（long short-term memory，LSTM）提取用户行为特征；门控层联合用户和项目的特征，并输入至全连接神经网络（fully connected neural network，FCNN）进行评分预测。实验结果表明，与TCF、CCF、ACF和DSPR传统模型相比，HTRM模型设计更合理，可以获得较高的推荐预测精度。     

基于锐度感知最小化与多色域双级融合的视网膜图片质量分级

针对视网膜图片质量差异性大,质量分级模型泛化性能不足的问题,本文提出一种基于锐度感知最小化(Sharpness Aware Minimization,SAM)的多色域双级融合分级方法,用于视网膜图片质量评估。该方法首先采用RGB、HSV和LAB三种色域空间作为模型的特征提取空间,并利用ResNeSt作为特征提取网络,提取不同色域的空间特征。然后利用模型的特征级与预测级进行双级融合,再利用SAM优化方法提高视网膜图片质量分级模型的泛化性能。最后在EyeQ数据集上进行实验仿真,其准确率为87.35%、精确度为85.87%、敏感度为85.07%、F值为85.44%,所提方法的整体分级性能优于其他方法。     

基于回声状态网络优化的宽间隔混沌跳频码预测研究

传统宽间隔混沌跳频码预测方法无反馈结构,记忆能力差;且训练过程烦琐,泛化性能差,对预测精度产生不好的影响。为此,提出一种新的基于回声状态网络优化的宽间隔混沌跳频码预测方法。设计回声状态网络,其由输入层、递归层以及输出层三个部分构成。在递归层内部各神经元间引入连接权值稀疏矩阵,使递归层内部存在动态记忆。回声状态网络储备池规模、储备池内部连接权谱半径、储备池稀疏度、储备池输入单元尺度对宽间隔混沌跳频码预测准确性产生不同的影响。通过和声搜索方法对四种储备池参数进行优化,实现回声状态网络的改进。确定优化回声状态网络输入输出数据,建立优化回声状态网络。确定储备池参数,通过训练数据激活储备池,计算回声状态网络输出连接权矩阵,对宽间隔混沌跳频码进行预测。实验结果表明,所提方法预测结果可靠,和其他方法相比有很高的预测精度。     

液力变矩器通用特性及其匹配方法的研究

利用系列泵轮转速及工况的试验数据,建立了一种基于液力变矩器通用特性的发动机与液力变矩器匹配模型.分析了传统匹配方法产生较大误差的来源,在有限试验数据基础上利用反向传播神经网络的拟合和泛化能力,确定了神经网络结构的隐含层节点数,建立了液力变矩器通用特性预测模型,并与传统经验修正模型进行对比.对比结果显示文中提出的方法使得特性预测精度有显著提升.在此基础上,结合发动机净外特性提出了发动机与液力变矩器通用特性匹配模型,该匹配模型考虑了泵轮转速对液力变矩器稳态性能的影响,更符合实际运行情况下发动机与液力变矩器共同工作特性,提高了液力变矩器与发动机的匹配精度.      

基于深度学习的Wi-Fi信号编码参数盲识别

通信链路层特征盲识别是智能通信和通信对抗领域关键技术。为提高基于IEEE 802.11协议的无线（局域）网/无线保真（wireless fidelity,Wi-Fi）信号的编码参数盲识别精度,提出了一种基于深度学习的低密度奇偶校验码（low density parity check code,LDPC）编码参数盲识别算法,可准确盲识别信道编码算法的信息位码长和码率。算法以解调后的比特流为训练数据集,搭建多层深度神经网络模型,经过多次调参和迁移训练,最终得到了能够准确预测编码参数的网络模型。实验结果表明,该网络模型能够在高达10%误码条件下得到优于91%的编码参数盲预测率,在无误码的条件下,编码参数盲预测准确度高达95.32%,为智能通信和通信对抗的研究提供了一定参考价值。     

融合注意力机制的煤层气产量动态预测

为了提升煤层气产量的预测精度,提出融合注意力(Attention)机制并结合卷积神经网络（convolutional neural networks,CNN）和长短期记忆神经网络（long short term memory,LSTM)的煤层气产量动态预测模型。利用随机森林变量筛选方法,确定井底流压、动液面高度、套压、冲次为排采过程中影响煤层气产量的主控因素;利用CNN信息提取优势,提取煤层气排采数据的特征向量,并将特征向量作为LSTM网络的输入;再将LSTM隐含层融合注意力机制提取重要信息权重,有效解决信息长期依赖性和信息丢失。实验结果表明：融合注意力机制的CNN-LSTM煤层气产量动态预测模型各方面均表现较优。具体表现为：1. 模型预测性能较好,利用不同模型对比预测,改进后的煤层气产量预测模型精度最高,比标准的LSTM预测精度提升了3%~4%;2. 泛化性能较优,预测同一区块不同生产天数的6口煤层气井产量时,预测60天日产气量的平均相对误差均小于5%,预测200天日产气量的平均相对误差均小于8%。     

基于多模态深度神经网络的抓取检测方法

针对机器人抓取检测任务中对未知物体抓取检测精度低的问题,本文提出了一种多模态深度神经抓取检测模型。首先,在RGB和深度两个通道中引入残差模块以进一步提升网络的特征提取能力。接着,引入多模态特征融合模块进行特征融合。最终通过全连接层回归融合特征以得到最佳抓取检测结果。实验结果表明,在Cornell抓取数据集上,本文方法的图像拆分检测精度达到95.7%,对象拆分检测精度达到94.6%。此外,本文还通过消融实验证明了引入残差模块可以提高网络抓取检测性能。