联合实体边界检测的命名实体识别方法

针对传统命名实体识别方法无法有效利用实体边界信息的问题,提出一种联合实体边界检测的命名实体识别方法,即将实体边界检测作为辅助任务,增强模型对实体边界的判断能力,进而提升模型对实体的识别效果。首先,利用Bert预训练语言模型对原始文本进行特征嵌入获取词向量,并引入自注意力机制增强词对上下文信息的利用;其次,在命名实体识别任务的基础上,添加实体边界检测辅助任务,增强模型对实体边界的识别能力;再次,对比联合实体边界检测的命名实体识别方法与基线方法的有效性,并对测试结果进行消融实验;最后,进行样例分析,分析损失权重β对实体边界检测的影响。实验结果表明,在英文社交媒体数据集Twitter-2015上,联合实体边界检测的命名实体识别方法相较于基线模型取得了更高的精准率、召回率和F1值,其中F1值达到了73.57%;并且,边界检测辅助任务提升了基线方法的检测效果。所提方法能有效利用实体边界信息,从而获得更好的实体识别效果,促进了人机交互系统的发展,对自然语言处理下游任务有重要意义。     

基于轻量化深度学习网络的数字仪表识别

数字式仪表常用于变电站、工厂等生产环境,是一种直观的设备监测仪器。然而当前数字式仪表的读取方式还依赖于人工巡检,手动记录等,这些传统的巡检方式来监测设备的运行状态大大降低了巡检效率。为了实现传统行业的数字化转型,本文提出基于轻量化深度学习的数字仪表识别方法,通过改进的YOLOv5的目标检测框架,针对数字仪表目标区域在整张图片大小不一致的情况,提出对于感兴趣区域（ROI）的迭代目标检测方法,首次检测将感兴趣区域进行检测并切割统一到相同的尺度,随后迭代检测网络针对感兴趣区域内的字符进行检测并分类,以达到精确读数的目的。为提升多尺度检测性能,本文采用Res2Net模块主干网络中的的残差模块。采用GIoU取代通用的IoU作为位置损失函数加速模型训练效果的收敛。实验表明,改进后的框架实现了99.62%的准确率和99.55%的召回率,相比基线网络分别提升了12.72%和5.85%。通过将框架在边缘计算平台上的终端部署,在实际生产中取代了人工巡检,实现了商业化运行。     

数据驱动下交通异常行为的双层识别模型

为实现对车辆异常行为的准确识别,提高车辆行驶的安全性,提出了一种基于支持向量机(support vector machine, SVM)、监督学习与长短期记忆(long short term memory, LSTM)深度学习的交通异常驾驶行为双层识别模型。首先,对车辆轨迹数据筛除和滤波,构建异常行为数据集;其次,从异常行为轨迹特征中提取出特定异常行为的特征标签,并人为标定在训练集中;再次,构建SVM模型对训练集进行粗识别,基于SVM的二分法原理,从测试集中筛选出异常行为;最后,通过LSTM时间序列模型构建具体种类的异常行为模型,并通过深度学习的方法,从异常行为数据中细分为蛇形驾驶、急速变向、侧滑、大半径转弯、快速U型转弯、急刹车等具体的异常驾驶行为。本次实验选用下一代仿真(next generation simulation, NGSIM)数据中US-101高速公路和peachtree城市道路的数据集的轨迹数据验证SVM和LSTM双层识别模型的性能,包括均方根误差、识别准确率等。结果表明,构建的双层识别模型在第一层有98%的识别准确率,第二层有超过80%的识别准确率,可以较为准确地识...     

基于图像去噪和图像生成的对抗样本检测方法

针对现有对抗样本检测方法存在检测准确率低和训练收敛速度慢等问题,提出一种基于图像去噪技术和图像生成技术实现的对抗样本检测方法.该检测方法将对抗样本检测问题转换为图像分类问题,无须事先得知被攻击模型的结构和参数,仅使用图像的语义信息和分类标签信息即可判定图像是否为对抗样本.首先,采用基于swin-transformer和vision-transformer实现的移动窗口式掩码自编码器去除图像中的对抗性噪声,还原图像的语义信息.然后,使用基于带有梯度惩罚的条件生成式对抗网络实现的图像生成部分根据图像分类标签信息生成图像.最后,将前两阶段输出的图像输入卷积神经网络进行分类,通过对比完成去噪的图像和生成图像的分类结果一致性判定检测图像是否为对抗样本.在MNIST、GTSRB和CIAFAR-10数据集上的实验结果表明,相比于传统检测方法,本文提出的对抗样本检测方法的平均检测准确率提高6%~36%,F1分数提高6%~37%,训练收敛耗时缩减27%~83%,存在一定优势.     

基于压缩感知的在线多示例学习目标追踪

近年来提出的多示例学习算法在一定程度上能够克服模板漂移问题。然而,在线学习需要获取足够多的有用数据才能达到稳定的追踪效果,但是这却增加了算法的复杂度。为了解决这一问题,在压缩感知理论的基础上,运用随机观测的方法对多尺度图像特征进行降维,提取的这些低维特征中包含大量的有用信息。因此,我们提出的算法是先利用压缩感知理论提取目标特征之后,再使用在线多示例学习算法分类器对这些特征进行分类从而实现目标的稳定跟踪。通过对不同的图像序列进行实验,结果表明基于压缩感知的在线多示例学习算法对实时的目标追踪有很好的适应性。     

联想记忆系统的学习算法设计（Ⅰ）

基于牛顿向前插公式设计了一种新的联想记忆系（ＮＦＩ－ＡＭＳ）的学习算法,用以实现任意阶的多变量多项式函数的无误差逼近。该系统与传统类型的ＣＭＡＣ－ＡＭＳ相比,具有学习精度高和记忆空间小的特点;且比多层的ＢＰ网络具有学习算法简单和收敛速度快的特点。数值模拟表明,这种ＮＦＩ－ＡＭＳ在信号处理,模式识别,及高精度的实时智能控制等领域具有很大的应用潜力。     

基于记忆图样权重的联想记忆神经网络学习算法

提出了记忆图样对神经突触联接强度的贡献权重概念。通过使原图样成为稳定态即稳定条件得到的方案求解该权重,得到了突触联结强度矩阵,实现了神经网络相关模式的联想记忆。将此算法和其它联想记忆算法进行了比较和讨论,并用计算机进行了模拟。     

一种基于空间域和频谱域特征的图象分割方法

提出了一种基于空间域和频谱域特征的神经网络的医学图像分割方法．本方法不需要教师监督,能自动生成最优的网络输出节点,即分类数．对ＣＴ,ＭＲＩ和超声图像的分割表明本方法有效方便．     

对协同学习算法的研究

在讨论协同学习算法和广义逆关系的基础上,指出了最小二乘广义逆的求解算法都可以看作是协同学习算法,从而大大丰富了协同学习算法的种类．理论和实验表明,Ｈａｋｅｎ提及的学习算法在某些性能指标上不如通常的Ｍｏｏｓｅ－Ｐｅｎｒｏｓｅ广义逆求解算法,因此,在具体应用场合,可考虑使用通常的Ｍｏｏｓｅ－Ｐｅｎｒｏｓｅ广义逆求解算法进行协同学习．     

基于神经网络的无监督自学习控制系统

所论系统的控制由两个神经网络完成,即对象放识器和系统控制器。并且提出了一种 新的学习算法,它能利用存贮于辨识网络的信息改进控制策略。该控制系统可以对非线性系统,不确定系统等进行无监督的学习控制。