TransE和TransH模型空间地址表示学习中的对比研究——以广州市天河区为例

将地理知识融入空间地址，研究空间信息与语义信息融合的知识表示学习方法；将空间地址数据集在TransE模型和TransH模型上进行训练，通过元组分类和向量间距离评估的方法进行对比研究.研究结果表明:(1)在地址实体的表示学习任务中，TransH模型在对复杂关系的建模任务上明显优于TransE模型；(2)在语义知识基础上融入空间关系，能够有效地解决地址实体语义相似而空间距离不相近和空间距离相近而语义不相似的两大问题.语义关系与空间关系的融合，将能够挖掘更多有价值的信息，有利于进一步开展地理知识图谱的补全工作，可为地理知识图谱表示学习提供方法借鉴.     

基于知识表示学习的公共计算机课程管理研究

为解决假负例和零损失问题, 将 Transformer 网络结构用于提取知识库中的实体描述信息, 用带有约束性的自注意力机制寻找最能表达实体意义的表示子空间以增强实体的表示能力, 引入对抗生成网络思想生成负样本, 提升了知识表示能力。 该方法在公共计算机课程知识图谱的构建中, 清楚描绘了课程知识点间的内在关系, 对于指导课程设置与进度安排, 引导学生学习具有十分重要的意义。     

基于非负矩阵分解最小二乘的多视角行人分类算法

针对不同视角的行人样本具有较大的类内差异性,造成多视角行人识别错误率较高的问题,提出一种基于非负矩阵分解最小二乘的多视角行人分类算法.采用非负矩阵分解的方法对多视角的行人样本图像进行子空间分解,提取基向量;引入协同表示的方法并在最小二乘约束下,对子空间进行稀疏表示获得稀疏分解系数;利用近邻子空间方法对分解系数进行分类.基于自行构建的多视角行人数据库进行对比实验,结果表明该算法的准确性和有效性优于其他方法.     

基于泛化空间正则自动编码器的遥感图像识别

为了解决遥感图像中的合成孔径雷达(synthetic aperture radar,SAR)图像的样本稀缺问题,该文提出了针对这一小样本问题的泛化空间和泛化样本理论,将机器学习的分类问题转化为泛化空间中的样本密度估计问题。首先,通过研究泛化空间方法,针对有限样本的识别分类问题建立了样本密度估计模型,并从理论上验证了泛化空间方法的可行性;其次,在正则化自动编码器模型中,加入了泛化规则作为新的正则化因子对图像重构误差进行约束,针对有限样本问题建立泛化正则自动编码器(generalized autoencoders,GAE),并提出利用该算法进行图像识别的模型;最后,将该模型应用于遥感图像小样本目标识别问题中。实验结果表明:GAE在SAR图像中具有最优的小样本学习能力,在样本数量有限的情况下,该方法表现出最小的重构误差和测试错误率。在小样本输入情况下,GAE模型实现了对MSTAR图像以及船舶SAR图像的识别分类,进一步证明了该算法相比于同类算法在SAR图像小样本识别问题中更具有优势。     

基于决策树的轨道电路故障诊断知识表示方法研究

针对ZPW-2000A无绝缘轨道电路故障逻辑机理模糊的问题,本文采用了基于决策树的轨道电路专家系统知识表示方法.该方法首先将轨道电路故障影响较大的特征向量样本建立故障决策表,然后运用最小信息熵算法对属性值离散化,根据决策树算法快速学习及分类的特点对离散后的数据样本进行训练学习,生成故障决策树后进行知识规则的获取,在专家系统的知识库中以产生规则存储.通过对ZPW-2000A无绝缘轨道电路的实例分析验证了该方法在轨道电路专家系统知识表示与获取中的有效性和实用性.     

基于四元数图神经网络的知识图谱嵌入

针对当前大多数知识图谱嵌入方法对实体和关系的表示能力低、难以处理复杂关系的问题,提出一种基于四元数图神经网络的知识图谱嵌入方法,用于解决知识图谱的链路预测问题。该方法为了包含更丰富的关系信息,将四元数引入到知识图谱嵌入中对实体和关系建模,并考虑两者之间的共现关系。模型利用勒维图变换将知识图谱中的实体和关系转换为图网络中的节点,采用两者的共现关系构建图中的边;将四元数图神经网络(quaternion graph neural networks,QGNN)作为编码器模块,学习图节点的四元数嵌入;利用四元数空间内的哈密顿乘积构造评分函数对生成三元组进行排序。实验结果表明,所提模型能够很好地捕捉到实体与关系之间潜在的相互依赖关系,在知识图谱嵌入方面优于现有的嵌入模型。     

模式识别中基于Boosting的特征筛选

提出了一种基于Boosting的特征筛选算法.根据Boosting分类训练时的训练错误率、训练过程中错误率的收敛速度以及测试错误率确定特征影响因子;利用这些影响因子对待识别目标的特征进行排序,去除冗余特征,以降低特征空间的维数.对于筛选后保留的特征,根据其影响因子进行加权,以提高目标识别的准确率.用该方法可避免其它分类学习器训练时的过学习现象,生成的分类器模型小,识别速度快,适用于对特征不易确定的目标识别.     

基于知识图谱和图像描述的虚假新闻检测研究

针对传统虚假新闻检测方法主要采用图像统计学和图像分布式表示特征导致没有深层次挖掘图像所表达的文字含义的问题,设计了在融合知识图谱和图像描述的深度学习下的多模态虚假新闻检测模型.该模型一方面抽取出在新闻文本中的3元组形式知识图谱,另一方面生成图像对应的描述文本,同时采用Bert框架将原文本、3元组、图像描述文本加以集成.在基准汉语虚假新闻语料库上的实验结果表明:该模型显著优于传统的代表性方法.     

原核基因识别中的一种负样本生成算法

在基因识别的两类算法中,判别算法通常需要正负两类样本来训练参数.在原核生物的基因组中,由于可充当负样本的基因间序列太少,如何产生负样本便成为原核基因识别中的一个问题.本文提供了一种基于"自相似映射"的负样本生成算法,与通常使用的随机生成算法不同,该算法不需要生成随机数.本文给出了两种负样本生成算法的比较,并初步讨论了自相似性对于DNA序列分析的意义.     

基于大间隔编码的空间非负矩阵分解

虽然基于局部的表示方法在图像处理中具有很好的鲁棒性,但非负矩阵分解只有隐式局部约束,导致分解不唯一和基图像不够局部.另外,局部性与判别性作为样本表示的重要性质几乎没有在非负矩阵分解中被同时考虑过.为此,文中提出了基于大间隔编码的空间非负矩阵分解,将图像数据看作像素构成的二维网络,借鉴网络中的知识将空间信息嵌入基图像,不但施加了显式的局部约束,而且能够弥补数据向量化损失的空间信息.同时,利用大间隔约束学到的额外一维空间平衡重建误差和判别性约束对基图像的影响.在AR数据库和扩展的Yale B数据库上的人脸识别实验结果表明,相比于非负矩阵及其他几种典型的扩展方法,基于大间隔编码的空间非负矩阵分解更加鲁棒.     

基于特征空间嵌入的对比知识蒸馏算法

因能有效地压缩卷积神经网络模型,知识蒸馏在深度学习领域备受关注。然而,经典知识蒸馏算法在进行知识迁移时,只利用了单个样本的信息,忽略了样本间关系的重要性,算法性能欠佳。为了提高知识蒸馏算法知识迁移的效率和性能,文中提出了一种基于特征空间嵌入的对比知识蒸馏（FSECD）算法。该算法采用批次内构建策略,将学生模型的输出特征嵌入到教师模型特征空间中,使得每个学生模型的输出特征和教师模型输出的N个特征构成N个对比对。每个对比对中,教师模型的输出特征是已优化、固定的,学生模型的输出特征是待优化、可调优的。在训练过程中,FSECD缩小正对比对的距离并扩大负对比对的距离,使得学生模型可感知并学习教师模型输出特征的样本间关系,进而实现教师模型知识向学生模型的迁移。在CIFAR-100和ImageNet数据集上对不同师生网络架构进行的实验结果表明,与其他主流蒸馏算法相比,FSECD算法在不需要额外的网络结构和数据的情况下,显著提升了性能,进一步证明了样本间关系在知识蒸馏中的重要性。     

基于鲁棒回归度量学习的图像分类算法

度量学习是机器学习中的重要研究问题之一,针对实际应用中的噪声数据,如何建立一个鲁棒的度量仍是一个挑战.本文将稀疏表示、特征学习与分类模型相结合提出了一种新的基于鲁棒回归度量学习(RRML)的算法并将其应用于图像分类.算法对最优特征子空间和稀疏表示进行联合学习,在更具判别性的低维表征空间中,通过稀疏表示有效地编码数据的局部结构信息,进而更好地揭示数据的内在鉴别信息,并以此指导该模型学习到最优的投影矩阵;同时对噪声矩阵和投影矩阵的行稀疏约束,可以极大降低噪声的影响.实验结果表明所提算法在图像分类准确率和鲁棒性方面均优于其他对比算法.     

原核基因识别中的一种负样本生成算法

在基因识别的两类算法中，判别算法通常需要正负两类样本来训练参数．在原核生物的基因组中，由于可充当负样本的基因间序列太少，如何产生负样本便成为原核基因识别中的一个问题．本文提供了一种基于“自相似映射”的负样本生成算法，与通常使用的随机生成算法不同，该算法不需要生成随机数．本文给出了两种负样本生成算法的比较，并初步讨论了自相似性对于DNA序列分析的意义．     

负选择算法在人工免疫系统中的应用

负选择算法是人工免疫系统中的核心算法之一,其性能对整个系统具有重要意义。负选择算法在选择过程中通常使用的是k连续位匹配规则,由于该匹配规则所固有的特殊性质,无法避免生成互相匹配的检测器。这些互相匹配的检测器在其覆盖空间（对非自体集合）存在非空交集,从而降低了负选择算法所产生的检测器的整体覆盖空间。本文为了避免负选择算法生成互相匹配的检测器,提出一种改进的负选择算法。与传统的负选择算法相比,该算法提高了成熟检测器的整体覆盖空间,使系统的检测能力有所提升。     

基于动作空间扩充及奖励优化的知识图谱多跳推理

知识图谱的不完备性导致多跳推理在探索路径的过程中会缺失关键节点和关系，从而导致推理失败。针对此问题，文章提出了动作空间扩充及奖励优化模型AsaRo(Action Space Augmentation and Reward Optimization)。该模型根据实体的邻域信息寻找其相似实体，并利用相似实体的邻域信息扩充原实体动作空间。在模型优化方面，采用基于带有优势函数的演员评论家A2C(Advantage Actor Critic)算法的强化学习优化路径奖励，并在原有路径奖励的基础上添加状态价值函数以评价策略的好坏，进一步提升了模型效果。在知识图谱数据集UMLS、Kinship、WN18RR、NELL-995、FB15K-237上的实验结果表明，该文模型效果优于大部分现有模型。     

一种融合实体关联性约束的表示学习方法

知识图谱的表示学习方法将实体和关系嵌入到低维连续空间中,从而挖掘出实体间的隐含联系.传统的表示学习方法多基于知识图谱的结构化信息,没有充分利用实体的描述文本信息.目前基于文本的表示学习方法多将文本向量化,忽略了文本中实体间的语义关联.针对上述缺点提出一种利用实体描述文本进行增强学习的方法,基于文本挖掘出关联性实体并对关联性进行分级,将关联性作为辅助约束融合到知识图谱的表示学习中.实验结果表明,该辅助约束能明显提升推理效果,优于传统的结构化学习模型以及基于深度学习的文本和结构的联合表示模型.      

投影自表示无监督极限学习机

无监督极限学习机在投影过程中保持原始高维空间中的稀疏或近邻结构,样本在高维空间中存在冗余信息,原始的数据结构不一定适应于投影后的低维特征空间.为此,结合无监督极限学习机和子空间聚类的自表示学习,提出投影自表示无监督极限学习机模型.该模型是面向聚类的特征提取方法,在投影过程中学习自表示子空间结构,从而使无监督极限学习机提取的特征自适应于聚类任务.在IRIS数据集、 6个基因表达和2个医学影像高维数据集上进行实验,结果表明该模型和算法是有效的.     

特征空间中的拓展稀疏人脸识别

基于稀疏表示分类（SRC,sparse representation for classification）是近年来模式识别领域中备受关注的一个研究热点。当每类训练样本较少时,SRC的识别效果往往不理想。为解决此问题,人们提出了拓展的稀疏表示分类算法。它引入了训练样本的类内变量矩阵,来补充每类训练样本信息。但是,该方法很难获取普遍存在于复杂数据如图像中的非线性信息。为此,提出了特征空间中的拓展稀疏人脸识别算法。该算法将样本集非线性映射到新的特征空间中,计算每个训练样本在表示测试样本时所做的贡献。根据贡献大小,给每个训练样本赋予一定的权重。同时,利用类内变量矩阵,共同表示测试样本。实验表明所提出的算法优于其它经典稀疏表示分类算法。     

基于非负稀疏表示的标签繁殖算法

提出了一种基于非负稀疏表示(nonnegative sparse representation,NSR)的半监督学习标签传播算法.该算法首先构造一个稀疏概率图(sparse probability graph,SPG),其权重由非负稀疏表示算法计算的非负系数组成,自然地反映了各样本之间的聚类关系,避免了传统半监督学习算法中的邻居选择和参数设置过程;然后通过对未标记样本的标签进行迭代繁殖至收敛而获得所有样本的标签.在人脸识别、物体识别、UCI机器学习和TDT文本数据集上的实验结果表明采用非负稀疏表示的标签传播算法比典型的标签繁殖算法具有更好的分类准确率.     

面向推理的知识图谱表示学习方法综述

知识图谱以其错综复杂、信息密集和语义关联的特征,推动了知识应用以及神经网络学科的发展。知识表示学习方法的发展以及日益增长的认知智能需求,使得知识表示与推理成为当前知识图谱和自然语言处理领域的研究热点。得益于良好的知识表示学习方法,基于表示学习的大规模知识推理已在相关数据集上得到验证。文章主要展开如下工作:(1)对已有表示学习与推理方法进行梳理,将知识图谱推理方法划分为:距离模型方法、双线性模型的语义相似度方法、神经网络学习方法和图神经网络学习方法;(2)对未来知识图谱表示学习与推理方法进行展望。知识图谱的表示学习与推理方法的发展,对推动整个知识社区和强人工智能发展具有重要意义。