基于主成份分析的Bagging集成学习方法

机器学习中数据集的冗余特征会影响学习器的泛化能力,一些流行方法如支持向量机和集成学习也难免于此．研究了利用主成份分析进行特征变换对Bagging集成学习算法的影响,提出一种称为PCA—Bagging的算法,并与其它算法比如单个支持向量机、支持向量机Bagging集成、带有特征变换的单个支持向量机等进行了性能比较．在多个UCI标准数据集上的实验表明PCA—Bagging算法具有更好的性能,这说明即使是泛化能力很强的集成学习方法其学习的数据也需要进行适当的特征变换。     

集成学习算法的比较研究

从差异性出发,研究了基于特征技术与数据技术的集成学习算法,深入分析了这些集成学习算法产生差异性的方法;针对决策树与神经网络模型在标准数据集对集成学习算法进行了实验研究,结果表明集成学习算法的性能依赖于数据集的特性以及产生差异性的方法等因素,并且基于数据的集成学习算法的性能优于基于特征集的集成学习算法的性能.     

基于IHS变换和主成分分析变换的图像融合

研究了IHS变换和主成分分析(PCA)变换的图像融合方法,并针对IHS变换的融合算法和PCA变换的融合算法的优缺点,提出了一种将两者相结合的算法.通过分析实验数据,验证了改进算法优于原来的基于IHS变换融合算法和基于PCA变换融合算法.     

基于K-SVD和PCA运动属性字典学习的行为识别

本文提出了一种基于K-SVD和PCA运动属性字典学习的行为识别方法.首先采用混合高斯背景建模提取运动目标前景,并对其提取四通道光流特征;然后在字典学习阶段对于输入特征采用K-SVD学习过完备初始字典,对初始字典进行PCA变换进一步学习更为紧致的字典,减少原子间的相关性;最后采用OMP算法求解稀疏系数来表征目标的行为.利用本文提出的方法在CASIA数据集上进行测试,实验结果表明该方法具有较高的识别率.     

基于聚类技术的集成学习方法研究

研究了基于聚类技术提高分类器差异性的方法.通过Bootstrap技术与分类器学习算法训练分类器模型,利用分类器在验证集上的分类结果作为聚类的数据对象;然后应用聚类算法对这些数据聚类,并在每个簇中选择分类器代表模型,以此构成集成学习的成员;最后应用融合方法实验研究了基于聚类技术提高差异性的集成学习性能,并与集成学习方法bagging,adaboost进行了实验比较.     

一种PCA和SVM多生物特征融合的视频人脸识别

分析了视频人脸跟踪识别过程中高效特征提取、长时间人脸遮挡、光照变化及多目标跟踪识别等问题,讨论了基于PCA和SVM人脸识别优点及不足,提出了基于PCA和SVM多生物特征层融合的人脸识别模型,设计了多生物特征人脸识别算法,对实验过程进行了描述并对实验结果进行了分析.结果表明,提出的算法识别率高于任一单一算法、更适合实时视频监控取证系统使用.     

一种新的降维算法PCA_LLE在图像识别中的应用

通过结合PCA与LLE两种降维方法,提出新的PCA_LLE算法,使它们优势互补.在手写体数字数据集上进行实验,先对数据集降维,再用K近邻算法对降维后的数据分类.实验结果表明融合两种算法的PCA_LLE降维方法较原来的PCA和LLE算法准确率均有了提升.而且新算法PCA_LLE对新样本的降维时间较LLE算法减少很多.在ORL人脸数据集上的实验表明,PCA_LLE算法较PCA,LLE算法准确率有所提高.     

一种基于集成学习的分布式聚类算法

基于集成学习的思想,提出一种分布式聚类模型.该模型的分布式处理过程分为2个阶段:先在局部站点局部聚类,然后在全局站点全局聚类.局部站点的局部聚类看作是一种基于数据子集的学习过程,所有的局部聚类结果组成了聚类集成系统的个体学习器,全局聚类采用平均法对局部结果进行集成,并定义了一个准则函数来度量集成的精度.把K-means算法推广到分布式环境,提出一种基于该模型的分布式K均值算法DK-means,该算法对局部数据的分布有较强的伸缩性.实验结果表明,DK-means在同等条件下能达到集中式聚类的精度水平,是有效可行的,从而验证了基于集成学习的分布式聚类模型的有效性.     

基于随机贪心选择的选择性集成算法

针对现有的基于贪心选择的选择性集成算法易过早陷入局部最优的问题,提出一种基于随机贪心选择的选择性集成算法(SERGS);该算法引入了随机化策略来扩展贪心搜索的搜索空间,从而降低了算法陷入局部最优的可能性,并且算法的计算性能也得到了改善。在UCI数据集上的实验表明,与现有的集成学习算法和选择性集成算法相比,SERGS的分类精度高于其他算法,且建模时间少于同类型的算法。     

面向垃圾短信过滤的亚文档集成学习

针对垃圾短信过滤问题,提出了一种亚文档集成学习方法.该方法采用亚文档集成学习框架将短文本在线二值分类问题转化成若干个子分类问题,并通过线性组合多个子问题的分类结果得出最终的分类预测.利用基于串频索引的文本分类算法实现了一种有效的弱分类器.实验数据表明亚文档集成学习框架能够提高现有文本分类算法的效能,而在亚文档集成学习框架下,基于串频索引的弱分类器过滤效果最佳.