基于自适应双正则化支持向量机的群体基因选择

通过结合部分自适应弹性网络惩罚和hinge损失函数,提出了一种能同时进行微阵列分类和基因选择的自适应双正则化支持向量机模型,并证明了该支持向量机具有自适应群体基因选择性能.     

基于自适应竞争的均衡优化电力系统客户分类

对电力系统客户的精确分类可为客户提供良好的差异化管理和个性化服务.针对客户分类问题,提出了一种基于均衡优化与极限学习机的分类方法.该方法中提出了一种自适应竞争机制来平衡均衡优化的全局探索与局部挖掘能力,从而有效提升了均衡优化搜索最优解的性能.之后,将提出的均衡优化集成极限学习机对电力系统的客户进行分类.通过真实数据集上的实验表明,在不同的分类指标下,所提出的均衡优化集成极限学习机都具有良好的预测效果,可为电力系统客户管理与服务提供有效的技术手段.     

基于布谷鸟搜索算法参数优化的组合核极限学习机

针对单核极限学习机在泛化性能上存在一定局限性的问题, 提出将再生核函数与多项式核函数相结合, 建立一种新的组合核极限学习机模型, 使其具有全局核与局部核的优点, 并选择布谷鸟搜索算法对其参数进行优化选择. 仿真实验结果表明, 采用基于再生核的组合核函数作为极限学习机的核函数可行, 在实验数据集的多值分类和回归问题上, 与传统支持向量机及单核极限学习机相比, 该模型具有更好的泛化性能.     

基于布谷鸟搜索算法参数优化的组合核极限学习机

针对单核极限学习机在泛化性能上存在一定局限性的问题, 提出将再生核函数与多项式核函数相结合, 建立一种新的组合核极限学习机模型, 使其具有全局核与局部核的优点, 并选择布谷鸟搜索算法对其参数进行优化选择. 仿真实验结果表明, 采用基于再生核的组合核函数作为极限学习机的核函数可行, 在实验数据集的多值分类和回归问题上, 与传统支持向量机及单核极限学习机相比, 该模型具有更好的泛化性能.     

基于局部强化最小二乘回归分类法的人脸识别方法

为解决基于表示理论的分类法未考虑噪声样本对重构系数影响的不足,利用局部约束协同表示法改进最小二乘回归分类法,提出局部强化最小二乘回归分类法.该方法通过非负稀疏表示自适应选择近邻样本,并利用近邻样本的协同作用强化重构系数使得局部强化最小二乘回归分类法具有较好的鲁棒性和容噪性.该方法可以克服传统分类方法存在的过拟合问题.在4个人脸图像数据集上的实验结果表明该方法可以提高人脸识别准确率.     

基于自适应核联合稀疏表示的多特征高光谱图像分类

稀疏表示已被证明是高光谱图像(HSI)分类中的有力工具,同时利用多种特征信息进行联合分类的优点在HSI图像分类领域受到关注,但多特征数据的稀疏策略以及数据的非线性是两个棘手的问题.为此提出了自适应稀疏模式的核联合稀疏模型对高光谱图像进行分类.对于几个互补特征(梯度,文理和形状),该模型同时获取每种特征的表示向量,并且通过施加自适应稀疏策略ladaptive,0来有效利用多特征信息.自适应稀疏策略,不仅限制不同特征空间的像素通过来自特定类的原子表示,而且允许这些像素选定的原子不同,从而提供更好的表示方法.此外,提出的核联合稀疏表示模型用于处理数据的非线性问题.核模型将数据投影到高维空间以提高可分离性,实现比线性模型更好的性能.在数据集Indian Pines和University of Pavia的实验结果表明,所提出的算法表现出更高的分类精度.     

基于快速留一交叉验证的核极限学习机在线建模

提出了一种基于快速留一交叉验证(FLOO-CV)的在线核极限学习机(OKELM),以逐次增加新样本与删除旧样本的方式进行在线训练;设计了一种无需人为设定、能够根据系统过程特性自适应改变的FLOO-CV预测误差阈值,根据误差阈值仅引入预报误差较大的样本对模型进行更新,以提高模型的稀疏性和泛化能力;利用Hermitian矩阵求逆引理实现了对网络输出权值的递推求解,减小了在线存储空间和计算时间.经混沌时间序列预测和连续搅拌釜式反应器的过程辨识结果表明,相比于离线核极限学习机、无稀疏策略的在线核极限学习机和在线序贯极限学习机,OKELM具有更快的计算速度和更高的学习精度.     

基于组稀疏的遗传性疾病和性状基因位点选择方法研究

如何从海量基因信息中高效挖掘出遗传性疾病密切相关的基因位点是全基因组关联性分析的核心问题.然而,目前常用的致病基因位点选择单变量分析技术不能发现多基因复杂交互形成的致病机制.为此,本文尝试从多变量分析角度,采用稀疏优化模型,实现致病基因的选择.为进一步实现致病基因位点的选择,采用基于L12范数的最小组稀疏角回归算法,通过调整正则化系数大小来控制模型的组间稀疏度,最终有效实现了致病基因和基因位点的选择.最后,通过某遗传疾病的真实基因数据,验证了该方法的有效性.     

投影自表示无监督极限学习机

无监督极限学习机在投影过程中保持原始高维空间中的稀疏或近邻结构,样本在高维空间中存在冗余信息,原始的数据结构不一定适应于投影后的低维特征空间.为此,结合无监督极限学习机和子空间聚类的自表示学习,提出投影自表示无监督极限学习机模型.该模型是面向聚类的特征提取方法,在投影过程中学习自表示子空间结构,从而使无监督极限学习机提取的特征自适应于聚类任务.在IRIS数据集、 6个基因表达和2个医学影像高维数据集上进行实验,结果表明该模型和算法是有效的.     

基于稀疏表示和最小二乘回归的基因表达数据分类方法

提出基于稀疏表示和最小二乘回归的分类方法:用训练样本重构测试样本,先利用稀疏表示剔除噪声样本,接着用最小二乘回归和最近邻子空间准则对样本分类,可以克服传统分类方法存在的过拟合问题.在6个基因表达数据上的实验结果表明,该方法可以提高分类准确率.     

基于ITAFSVM的微阵列数据特征选择和分类

支持向量机已经被成功应用于基因表达谱数据分析。但是,仍有开放问题需要解决:①支持向量机不能自动进行基因表达谱数据的特征选择;②支持向量机的参数优选没有简单有效的办法。一种新型具有良好特性的支持向量机——全间隔自适应模糊支持向量机(TAFSVM)被提出。并且提出一种新的遗传算法——智能遗传算法(IGA)来设计一个TAFSVM分类器,称为ITAFSVM,同时优化TAFSVM参数集和特征选择,并且结合10-fold交叉验证来确定其泛化能力。最后将ITAFSVM应用于四种基因表达谱数据集。通过与进化支持向量机(ESVM)方法、粗糙集与径向基神经网络组合(RBF-RBFNN)方法进行了比较,实验结果表明运用ITAFSVM不仅可以自动进行基因表达谱数据特征选择,而且分类精度和稳定性都较高,速度更快。     

组稀疏贝叶斯逻辑回归的P300信号通道自动选择算法

为了提高脑机接口中P300脑电信号的分类准确率和计算速度,提出一种组稀疏贝叶斯逻辑回归的P300脑电信号通道自动选择算法.该算法首先在贝叶斯框架下建立P300脑电信号的解码模型,其次提出先验的组自动相关确定(GARD)方法构建组稀疏约束下的P300脑电通道权重系数,最后通过最大似然估计来求解超参数并选出P300脑电通道最优子集,避免了大量的交叉验证过程.所提方法在BCI竞赛数据和自采集数据上进行了验证分析.实验结果表明,所提的方法能够自动选择P300脑电通道子集,提高了P300特征分类准确率.     

用于水声目标识别的自适应免疫特征选择算法

针对水声目标小样本识别中样本数目有限而特征数目不断增加,导致分类系统分类性能下降的问题,提出了一种新的自适应免疫特征选择算法(AIFSA).该算法先利用先验知识生成初始种群,接着利用交叉、变异和新的自适应免疫算子指导种群进化,每代中对分类贡献大且选择特征数目少的个体适应度值高.AIFSA具有可以利用先验知识、收敛速度快以及优化特征子集维数小的优点.提取了实测4类水声目标的多域特征,进行特征选择和分类识别仿真实验,结果表明:AIFSA可以选择有效特征子集,在特征维数下降60%的情况下,支持向量机分类器的平均正确分类率下降很小;AIFSA与标准遗传算法相比,收敛快、稳定,所得优化特征子集具有更高的正确分类率和更好的范化性能.     

面向不平衡数据的逻辑回归偏标记学习算法

偏标记学习是近几年提出的新机器学习框架,已有的逻辑回归偏标记算法尚不能解决数据不平衡问题.建立了一种可以解决数据不平衡的逻辑回归模型偏标记学习算法.基本思想是在多元逻辑回归模型中定义新的似然函数以达到处理不平衡数据的目的.算法先根据训练集中各个类别样本所占比例定义了一个新的似然函数,之后通过逼近和求导等数学手段推导得到了能够求解的光滑的逻辑回归偏标记学习模型.在UCI数据集和真实数据集上的仿真实验表明,所提算法在数据存在不平衡问题时提高了样本的平均分类精度.     

稀疏多元逻辑回归问题优化算法研究

稀疏多元逻辑回归(sparse multinomial logistic regression, SMLR)因为具有在分类的同时嵌入特征选择的作用而被广泛应用于生物信息学、高光谱图像分类、图像中的多类物体识别等领域。SMLR问题最早采用迭代重加权最小二乘法(iterative reweighted least squares, IRLS)的方式进行求解。但IRLS算法在处理高维数据集或者类别数较多的数据集时具有较高的计算复杂度。为了提高SMLR的可用性,提出采用一些高级优化算法如快速迭代收缩阈值法(fast iterative shrinkage threshold method, FISTA)、快速自适应收缩阈值法(fast adaptive shrinkage threshold method, FASTA)、交替方向乘子法(alternating direction multiplier method, ADMM)等来对SMLR问题进行求解。此外,为提高SMLR的适用性,还考虑了SMLR问题的分布式优化求解。对提出的几种SMLR优化求解算法的性能在不同数据集下进行了综合比较。实验结果表明,提出的算法在求解速度和准确率指标上都优于目前最先进的基于IRLS的SMLR优化算法。     

基于邻域互信息和自组织映射的特征基因选取

针对基因表达谱数据的高维度、低样本和连续型等特点,提出一种结合邻域互信息和自组织映射进行特征基因选取的方法.首先提出一种改进的Relief算法,对基因进行排序生成候选特征集合;然后提出基于邻域互信息的自组织映射算法对生成的候选特征基因进行聚类;最后利用提出的属性重要性系数从每一类簇中选择代表基因组成特征基因子集.实验结果表明,该方法可以快速有效地选取肿瘤特征基因,能获得较好的分类结果.     

Logistic回归中的变量选择

在许多情况中,我们需要对logsitic回归模型中的重要变量进行选择,这适用于预测问题,本文从信息论准则出发提出了一种选择程序,并且证明了这些程序是强相合的。     

基于概率图模型的图像纹理模型

 纹理作为一种视觉特征,它广泛应用于图像分析。概率图模型由于其自身特点可以很好地描述纹理。高斯图模型结构可根据局部马尔科夫性和高斯变量的条件回归之间的关系来学习。高斯图模型可用一个邻域系统、一个参数集和一个噪声序列表示。利用惩罚正则化方法,可以选择高斯图模型的邻域并估计参数,然后提取纹理特征进行纹理合成和分类。实验结果显示基于高斯图模型的纹理特征更加有效。     

一种自适应蚁群分类算法

将分类学习看作是一个找出最优分类规则的优化问题,提出一种自适应蚁群分类算法——AdaptiveL_AMP,以得到一组可理解的分类规则.在基于规则的分类方法中,规则评价函数的选取至关重要,本文提出的算法能够针对不同数据集自动选取与之相适应的规则评价函数以提高分类准确性.此外,为进一步提高算法的分类准确率,设计了一种局部搜索策略并将其融入到AdaptiveL_AMP算法中.最后对算法进行了分析,并在多个公用的真实数据集上与相关算法进行了比较,结果表明AdaptiveL_AMP算法能够更加有效地解决分类问题.