改进的邻域支持向量解算法

针对实施邻域风险最小化原则的邻域支持向量解算法,根据被错分样本一定是支持向量提出一种利用支持向量删除训练样本中难学习样本的修剪算法;依据最大似然原则对已有的高斯邻域函数参数取值方法进行改进.初步实验表明,训练样本的修剪与邻域函数参数取值方法的改进可明显提高邻域支持向量解算法的泛化能力,比SVM测试准确率提高0.5%左右.     

贝叶斯网络的建造及其在数据采掘中的应用

贝叶斯 (Bayesian)网络近年成为数据采掘引人注目的研究方向。通过剖析 Bayesian网络的结构和建造步骤 ,着重讨论用 Bayesian方法从先验信息和样本数据进行学习以确定网络的结构和概率分布的基本方法 ,分析 Bayesian网络学习的特点 ,探讨 Bayesian网络的适用性。与数据采掘的其它方法相比 ,Bayesian网络的优点是可以综合先验信息和样本信息 ,这在样本难得时特别有用 ;可以发现数据之间的因果关系 ,适合于处理不完整数据集 ,这是其它模型难以做到的。其缺点是计算开销较大 ;确定合理的先验密度比较困难 ;如何判定实际问题是否满足所要求的假设 ,没有现成的规则     

相容的贝叶斯学习及其后验分布的渐近正态性

从计算学习理论的角度研究贝叶斯学习的相容性和后验分布的渐近正态性,给出了贝叶斯学习的正则条件,证明了在这些条件下贝叶斯学习不仅是相容的,而且后验分布是渐近正态的．由于正态分布计算相对简单,该结果为指派恰当有效的先验分布、寻找简化贝叶斯学习计算的方法提供了理论依据,给出的正则条件比Heyde与Johnstone的5个条件更为简化,便于应用．     

基于解释的人工神经网络集成学习方法

基于知识的人工神经网络是集成学习方法领域中最主要的研究方向，它利用领域知识决定神经网络的初始拓扑结构和联接权值的设置。一方面利用领域知识加速了网络的学习，另一方面利用神经网络的鲁棒性减少了领域理论不完善和数据噪声的影响，从而较好的解决了不完善领域理论的学习问题。本文对这方面的几个主要系统ＫＢＡＮＮ、ＲＡＰＴＵＲＥ进行了分析和评价，指出了它们在网络拓扑结构的动态改变、深层网络的加速学习和结果网络到规则的转译等方面的弱点，并因此提出了一种有效的集成学习方法——基于解释的人工神经网络。     

处理连续变量的Bayes分类方法

用离散化方法处理连续变量的Bayes分类方法存在着离散区段个数不好确定、无法利用某些先验信息以及会或多或少降低分类精度等问题。针对上述问题,论文提出将概率密度估计技术应用于连续变量Bayes分类,研究了如何直接利用参数化方法、非参数化方法以及半参数化方法构造连续变量的Bayes分类器,最后分析了3种构造分类器方法的优缺点,为构造连续变量的Bayes分类器和Bayesian网络分类器奠定了理论基础。计算实例表明所述方法是可行的和有效的。     

MC-Tree: Dynamic Index Structure for Partially Clustered Multi-Dimensional Database

Index structure that enables efficient similarity queries in high-dimensional space is crucial for many applications. This paper discusses the indexing problem in dataset composed of partially clustered data, which exists in many applications. Current index methods are inefficient with partially clustered datasets. The dynamic and adaptive index structure presented here, called a multi-cluster tree (MC-tree), consists of a set of height-balanced trees for indexing. This index structure improves the querying efficiency in three ways: 1) Most bounding regions achieve uniform distributions, which results in fewer splits and less overlap compared with a single indexing tree. 2) The clusters in the dataset are dynamically detected when the index is updated. 3) The query process does not involve a sequential scan. The MC-tree was shown to be better than hierarchical and cluster-based indexes for the partially clustered datasets.     

用Bayesian网络处理具有不完整数据的问题分析

针对现有的 Bayesian网络学习方法都不能有效处理缺失数据问题 ,论文给出了两种处理不完整数据问题的方法 :一种方法是先把不完整的数据集修复成完整的数据集 ,利用完整的数据集进行计算 ,并将结果作为不完整数据集对应情况的近似 ;另一种方法是直接使用不完整的数据集进行近似计算 ,而这种近似计算是渐进正确的。实验结果表明前一种方法计算结果准确 ,但效率较低 ;后一种方法效率较高 ,在数据量比较大时能达到很好的效果 ;而且这两种方法的性能比其它处理缺失数据的方法效果要好。     

基于HowNet构造语义场的方法

为了能尽量消除传统语义场研究中的主观随意性,提出一种基于HowNet构造语义场的新方法,并充分利用语义场的空间特性,将词语相似度计算引入语义场用于划分语义场结构.计算实例表明 提出的构造语义场、划分语义场结构的方法,有利于计算机自动获得语义场,具有客观性和可计算性的特点,有效排除了以往构造语义场的主观随意性,可应用到各种基于语义的文本处理方法中.     

计算文本相似度阈值的方法

基于VSM(向量空间模型)的相似度分类器的相似度阈值通常由经验确定导致分类精度不高。该文提出一种基于Boosting机制在不同文档集上自动计算相似度阈值的方法。它利用Boosting迭代生成多个基于相似度划分的子分类器,通过加权把决定这些子分类器的相似度阈值组合起来,得到对理想相似度阈值的一种逼近。实验表明:这样得到的相似度分类器的平均精度比传统方法高15%左右,甚至可以与一些复杂方法相比。它在处理网络实时文本信息处理问题(分类、过滤和检索)中的效率是这些复杂方法的3倍以上,且问题规模越大、越复杂,其优势越大。     

用学习和搜索方法从神经元网络中抽取知识

针对训练好的神经元网络进行解释这一难以解决的问题，提出了一种从神经元网络中抽取规则的新的抽取方法——二阶段法，从隐含层到输出层，利用学习方法从整个隐含激励空间中抽取出有效区域，形成规则；从输入层到隐含层，利用搜索方法，通过分析其间的权值关系抽取出规则，使得所有被这些规则覆盖的实例所产生的隐含激励向量均位于上述有效区域内。实验证明了此方法产生的规则比Ｃ４．５产生的规则的抗干扰力强，同时其可信度比传统的基于搜索的抽取方法——ＫＴ算法要高。