构建新包空间的多示例学习方法

针对已有神经网络方法采用示例决定标记从而导致多示例学习(MIL)中包结构信息丢失的问题,提出了一种新的RK_BP多示例学习方法.在示例空间,首先采用粗糙集对其进行属性约简;然后进行K均值聚类,利用聚类点构造新包空间;在新空间中,利用误差反向传播神经网络算法进行分类.在多个测试数据集上对算法进行测试,结果表明该算法可有效解决已有神经网络方法包结构信息丢失问题,明显提高分类性能.     

基于核均值漂移聚类的改进局部协同训练算法

【目的】针对协同训练算法不能直接应用于单视图数据，且在迭代过程中加入的无标记样本隐含有用信息不够的问题，提出基于核均值漂移聚类的改进局部协同训练算法。【方法】该算法先在有标记样本集中利用改进局部协同训练算法训练一个完整视图分类器h1，同时挑选出价值高的特征子集来训练局部视图分类器h2，然后在无标记样本集中采用核均值漂移算法选择聚类过程中指定带宽范围内的样本，交由分类器h2标记类别后再加入分类器h1的训练中，以此来优化分类模型。【结果】在UCI数据集上的3组对比实验证明了该算法的有效性，实验结果表明该算法具有更高的模型评价能力。【结论】改进局部协同训练算法将数据集划分为局部视图和完整视图，解决了单视图数据的视图划分问题。利用核均值漂移算法选出较好表现数据空间结构的无标记样本，降低了无标记样本带来的误差。     

一种基于核对齐的分类器链的多标记学习算法

在解决多标记分类问题的问题转换方法中,二值相关是一种常用的方法,其对于标记间相互独立的假设忽略了标记之间的相关性.多标记分类的分类器链算法通过标记信息在分类器之间的传递考虑了标记间的相关性,从而克服了二值相关算法中标记独立性问题.然而此算法中,分类器链的排序是任意指定的,不同的排序具有不同的分类结果.为了解决这个问题,引入核对齐方法对分类器进行排序并提出了两种算法,其中核对齐是用来衡量两个核函数之间一致性程度的量.一种是最大化特征空间中核函数和标记空间中理想核的凸组合的对齐值,根据每个理想核的权重进行排序,其中理想核是由每个标记定义的.另一种是直接计算核函数与每个理想核的对齐值,根据对齐值进行排序.实验结果表明,提出的基于核对齐的分类器链的多标记学习算法是有效的.     

基于树结构的层次性多示例多标记学习

针对多示例多标记学习中标记间树结构的问题,将多示例学习、多标记学习和树结构标记优化方法有机融合,提出了基于树结构标记的层次性多示例多标记学习方法TreeMIML. TreeMIML先将样本中的多个示例转化为单示例,然后通过多标记学习得到新样本的标记,最后通过树结构标记优化方法学习样本的最终标记.实验结果证明,TreeMIML方法在G蛋白偶联受体的生物学功能预测上获得了很好的分类性能,优于目前最好的多示例多标记学习和多标记学习方法.     

基于非参数聚类和多尺度图像的目标跟踪

提出了一种基于非参数聚类和多尺度图像的目标跟踪算法.在利用改进的非参数颜色聚类进行自适应划分目标颜色空间的基础上,定义了目标模型和候选目标模型,该模型利用高斯函数建模颜色直方图中的每一个颜色特征位的空域分布; 根据Bhattacharyya系数的定义得到了目标模型和候选目标模型之间的相似性函数.跟踪算法利用高斯金字塔得到的多尺度图像进行从粗到细的目标空间定位;同时通过利用推导的核函数自动带宽选择公式,实现了目标尺度定位.实验结果表明该方法优于典型的均值漂移跟踪方法,从而验证了该方法的有效性.     

基于谱聚类和多示例学习的图像检索方法

针对基于对象的图像检索问题,提出一种新的谱聚类多示例学习算法.该算法将图像当作包,将分割区域的视觉特征当作包中的示例,针对正包示例集合进行谱聚类,按聚类中心点数最大原则选择潜在正示例中心和潜在正示例代表,并采用径向基函数和金字塔核分别度量潜在正示例间和其它示例间的相似性,最后利用支持向量机和相关反馈实现图像检索.采用S...     

基于转换策略的多标记学习改进算法

针对传统转换多标记学习算法较难确定最低阈值的问题,该文对传统转换策略的多标记学习算法进行改进,提出了一种基于最低阈值的学习算法(TFEL),该方法根据类别标记学习为每个类别得到一个最低阈值.当分类器将一个测试示例预测为某个类别标记的分值大于为该类别标记学得的最低阈值时,则将该类别标记添加到该测试示例的最终分类结果中.实验结果表明, TFEL方法能够得到较好的分类效果,证明了该方法的可行性和有效性.     

改进的主动学习算法及在高光谱分类中的应用

针对主动学习算法能主动从大量未标记样本中选择最能提高分类器性能的样本加入训练集,可从小的非最优训练集建立高性能的分类器这一特点,以及传统主动学习算法熵值装袋查询的多值偏置问题,提出了改进的均值熵值装袋查询算法,引入权值函数保证了取样的多样性.通过对高光谱遥感图像分类的实验表明:主动学习只需大约20%的样本即可达到使用全部数据集作为训练集的分类效果,而且均值熵值装袋查询方法具有较高的分类精度,同时拥有较快的收敛速度.     

带多个核函数的多尺度径向基函数网络

构造了一种带多个核函数的多尺度径向基函数网络.这种网络结构同时使用多个核函数,能根据不同的数据分布特点,自适应地选取核函数的尺度与其他参数.利用k均值聚类方法得到核函数中心参数备选项,用经验确定核函数的尺度,用高斯函数与小波函数构造原子库,最后利用正交最小二乘算法训练网络.实验结果表明,与传统的单核径向基函数网络相比,新网络模型结构更稀疏、泛化能力更强.     

一种利用局部标记相关性的多标记特征选择算法

随着近年来研究的深入,多标记学习已快速渗透到了各个领域中.在多标记学习中,每个实例对应着多个标记,且这些标记彼此之间相互关联,因而标记相关性的挖掘与利用对多标记学习有着重要的影响与意义.然而,目前已有的关于多标记学习的算法大多利用了全局标记相关性,即认为对于任一实例,其在学习过程中所利用的标记相关性均相同.而在现实中,不同的实例往往在其学习过程中所利用的标记相关性也不尽相同.将局部标记相关性利用到多标记特征选择算法中,通过对标记空间进行属性聚类将实例划分为组,从而实现局部标记相关性的利用,提出了结合局部标记相关性的多标记特征选择算法(multi-label feature selection by exploiting label correlod locally,Loc-MLFS).与此同时,该算法可以推广为一个统一架构.多个数据集上的实验结果表明局部相关性的利用有效地提高了多标记特征选择算法的有效性.     

用于高光谱遥感图像分类的空间约束高斯过程方法

高光谱遥感图像分类是遥感图像处理的一项重要内容.高光谱遥感图像具有非线性属性.图像中不同方位光谱特征的变化将使得仅从标记训练样本得到的分类器分类精度不会太高.为了提高分类的精度,一方面应对光谱信息的合理利用;另一方面,对空间信息的利用也非常重要.高斯过程(Gaussion process,GP)是一种贝叶斯统计学习方法,能够建立概率模型,并且使得分类结果更易于解释.传统GP分类方法中核函数的构造仅利用光谱信息.本文提出了一种加入空间关系的新分类方法.利用遥感图像空间相关性,在GP分类方法中通过构造新的核函数(spatial Gauss kernel,SGK)来实现空间约束,部分消除了同物异谱和同谱异物造成的分类错误.实验结果表明,该方法对于提高高光谱遥感图像的分类精度具有积极意义.     

多变量非高斯脉动风压模拟的非迭代法

基于多变量非高斯随机过程间的相关性,将发展的单变量非高斯过程的非迭代算法扩展至多变量非高斯过程的模拟.通过多变量高斯过程的相干函数来考虑多变量非高斯过程的互相关性,建立多变量非高斯过程的非迭代模拟算法.多变量非高斯风压的数值模拟表明:非迭代模拟算法能有效地模拟低、中、高斜度的多变量非高斯过程.     

基于随机标记子集的多标记数据流分类算法

提出了基于随机标记子集的多标记数据流分类算法,其基本思想是在多标记分类过程中,将原始较大的标记集随机地划分为多个较小的标记子集,并针对每个标记子集训练一个概率分类器链.在充分利用标记间依赖关系的同时,又有效地降低了概率分类器链的时间复杂度.同时,在算法中嵌入了自适应滑动窗口算法来检测概念漂移.实验结果表明,同其他算法相比,在大多数数据集合上能够更有效地预测实例的类标集合,更适合概念漂移的环境.     

自适应的over-relaxed快速动态均值漂移算法

为了解决高斯核均值漂移算法收敛速度慢、计算效率不高的问题,提出自适应over-relaxed快速动态更新方法改进高斯核均值漂移算法。首先,在静态均值漂移算法中引入数据集的动态更新机制,每次迭代后将数据集更新到新的数据点,然后,将迭代过程中聚集在一起的数据点用1个收敛点表示,逐步减少参与计算的数据,保证准确性的同时降低计算量。由于非正态分布的数据集动态更新时,主方向上的数据点的收敛速度较慢,采用over-relaxed的策略来提高主方向数据点的迭代步长,并根据数据集直径的变化,自适应地计算步长参数。实验结果表明,改进后的高斯核均值漂移算法以超线性的速度收敛,收敛点的应用降低了收敛过程中的计算量。     

一种新的基于多示例学习的场景分类方法

多示例学习是近年来才出现的一种新的学习框架,并以其对多义性对象的出色表示能力而被成功地运用在图像分类任务中。首先提出了一种新的图像多示例包生成方式,采用特征的概率分布表示图像,并对图像像素分布提取一个高斯混合模型,将每个高斯分布作为一个示例,生成图像的多示例包。然后,在对图像进行分类时,采用了信息瓶颈聚类把多示例包转化成单示例,从而将传统的单示例分类器用在该问题上。为了提高分类器的泛化能力,对多个分类器进行了集成。选取了5类自然场景图像进行试验,结果显示所提出的方法平均性能优于当前常用的一些多示例学习算法。     

一种多层次语义视频对象分割算法

提出一种基于高斯马尔可夫随机场及规则化图划分的多层次语义视频对象分割算法,其主要特点是将视频序列帧中对象的分割看成是“内容树”结构中复合结点的形成过程.首先使用高斯-马尔可夫模型来进行视频帧内的最优标记场标定,然后引入规则化图划分准则进行过分割区域的合并,得到具有语义意义的视频对象.实验表明,本分割算法具有较高的准确性,误差的均值为11.375%,标准方差为0.94%.     

基于多标记图分割的遮挡下多目标分割及跟踪算法

针对遮挡下的多目标分割及跟踪问题,提出一种新的方法,其将空间-彩色混合高斯模型融入到能量函数最小化框架中。当遮挡没有发生时,为每个目标分别构建一个空间-彩色混合高斯形状描述。一旦多目标相互遮挡发生,一个多标记能量函数将在相互遮挡区域建立起来,而后利用多标记图分割技术将其最小化,从而实现对遮挡过程中所有目标进行同时标记和定位。此外,利用多个视频序列证实了所提出算法的性能。     

一种基于决策树的多示例学习算法

提出了一种基于决策树C4.5的多示例学习算法C4.5-MI,通过拓展C4.5的熵函数和信息增益比来适应多示例学习框架.应用梯度提升方法对C4.5-MI算法进行优化,得到效果更优的GDBT-MI算法.与同类决策树算法在benchmark数据集上进行比较,结果表明,C4.5-MI和GDBT-MI算法具有更好的多示例分类效果.     

基于动态BP算法的非线性滞后系统辨识

鉴于很多实际问题都可以转化到多示例框架下求解,多示例学习越来越受到机器学习领域内学者们的关注.提出了一个基于Logistic回归模型的多示例学习算法.首先定义了一个新的似然函数来表示每个包的标签与其示例的隐含标签之间的关系,然后利用凝聚函数把该似然函数转化为一个光滑的凹函数,从而使问题可以用常用的无约束优化方法快速求解.在一些标准数据集和一个文本分类问题上的实验结果表明,所提算法要优于其他常用多示例学习算法.     

嵌入式多标签分类算法的优化研究

多标签分类中如何有效处理具有许多实例和大量标签的大规模数据集、补偿训练集中缺失标签以及利用未标记实例改进预测性能等问题已成为重要研究方向。提出嵌入式多标签分类（EMC）算法,首先从伪实例参数化的高斯过程（GP）中提取两组随机变换来模拟特征向量、潜在空间表示向量和标签向量之间的非线性关系映射,其次引入一组辅助变量结合专家集成（EEOE）方法补偿缺失标签,最后利用未标记实例学习随机函数的平滑映射提高预测性能。仿真结果表明,与特征识别隐式标签空间编码的多标签分类（FaLE）算法和半监督低秩映射多标签分类（SLRM）算法相比,EMC算法优化了处理大规模数据集、补偿缺失标签及利用未标记数据的能力,从而提高了类标签的预测性能,且具有良好的可扩展性,训练时间短。