基于二维最小二乘回归的子空间分割

现实中有很多样本数据是二维的,且多数聚类方法需将二维样本数据向量化,从而导致二维数据的内部几何信息丢失.针对这一问题,提出二维最小二乘回归子空间分割方法直接对二维数据进行聚类,将一维最小二乘回归子空间分割方法推广到二维,使得原始数据的结构信息得以保留.在人脸数据集和哥伦比亚大学图像数据集上进行实验,结果表明该方法是有效的.     

基于核偏最小二乘回归的人脸识别

在采用主成分分析进行人脸重构和识别时,仅从样本自身提取特征向量会导致识别误差。因此,在参考主成分分析的基础上,采用偏最小二乘回归进行人脸图像的训练和识别,并对偏最小二乘回归引入核函数。在ORL人脸数据库上的实验结果表明,偏最小二乘回归明显优于主成分分析,同时核偏最小二乘回归也显著提高了识别正确率。     

模式收缩最小二乘回归子空间分割

基因表达数据聚类为肿瘤新类别的发现提供了重要手段。然而,直接对原始数据进行聚类会在一定程度上丢失数据本身隐含的流形结构信息,影响子空间分割方法的聚类效果。为解决这一问题,提出模式收缩最小二乘回归(pattern shrinking least square regression, PSLSR)子空间分割方法。该模型能够同时进行模式收缩和仿射矩阵的学习,并利用交替优化方法进行求解。在6个基因表达数据上的实验结果表明该方法优于现有子空间分割方法。     

基于动态聚类与偏最小二乘回归分析的居民用电负荷预测

先用动态聚类法对福州市居民历史用电负荷进行聚类分析以获得一个样本空间,在此基础上采用偏最小二乘回归方法进行建模和短期负荷预测分析.     

基于聚类的鲁棒最小二乘支持向量机

现实数据集通常是呈非线性分布的,虽然很多最小二乘支持向量机算法利用分治策略可以对这一类数据集进行建模,但是由于子模型缺乏鲁棒性,所建的总体模型易受噪声的干扰进而失效。为了对带有噪声的数据集建模,提出了一种基于聚类的鲁棒的最小二乘支持向量机。首先,使用聚类方法将样本分成几个子数据集,每一个子数据集对可以相应地建立一个局部的最小二乘支持向量机来获取对应子数据集的局部动态性。其次,通过在损失函数里加入一个全局正则化因子,使得局部子模型间能够智能地协调,保证建立的全局模型不仅是光滑连续的,同时具有良好的泛化性和鲁棒性。数学和实际例子表明,对于含有噪声的样本集,所提出的方法具有更好的建模效果。     

面向高维小样本数据的层次子空间ReliefF特征选择算法

高维小样本数据的特征维数远远高于样本数,因为其通常包含大量的冗余特征,ReliefF算法在处理这类数据时存在以下挑战：传统ReliefF算法无法剔除冗余特征,而现有的改进ReliefF算法大多通过启发式地计算特征与特征之间的互信息来剔除冗余特征,不适用于高维数据;通过截取与标记相关性最大的若干特征来进行分类,可能不是最优选择,因其没有考虑不同特征组合对分类性能的影响.为了解决以上问题,提出一种基于层次子空间的ReliefF特征选择算法,将原始特征集划分为具有层次结构的子空间,并利用邻域粗糙集理论来计算低层子空间的局部依赖度,能在高维小样本数据上高效率地批量剔除冗余特征.此外,为了考量不同特征组合对结果的影响,引入“局部领导力”的概念,保留部分子空间中“带队”能力较强的特征,从局部和全局的角度共同给予特征更加客观的评价.在六个微阵列基因数据集上的实验表明,与现有方法相比,提出的方法更高效,而且能保持良好的分类性能.     

基于粗糙集的偏最小二乘回归方法

针对变量之间多重相关性导致最小二乘估计失效的问题,提出基于粗糙集改进偏最小二乘回归建模方法.首先,利用粗糙集对数据进行一般约简,去除冗余信息,再进行偏最小二乘回归分析,建立回归模型.通过实例计算,并与PLSR、PCR进行比较分析.结果表明：用粗糙集改进的PLSR建模精度为3.65%,分别高于PLSR(4.07%)和PCR(4.45%),从而验证了所提出方法的通用性及实用价值.     

一种改进的稀疏子空间聚类算法

在现有的稀疏子空间聚类算法基础上提出了一个改进的稀疏子空间聚类算法。首先,利用高维数据可以通过同一子空间的低维数据稀疏地表示这一理论,建立一个稀疏最优化模型,获得稀疏矩阵。然后把稀疏矩阵应用到一个正则化谱聚类算法中,从而有效地把数据聚类到子空间中。最后,该算法应用到一个视频序列中,对每个视频帧里的运动物体进行识别,并与现有的子空间聚类算法相比较。实验结果表明,该算法能够有效地识别运动物体,具有良好的实时性和有效性。     

基于整体最小二乘的空间直线拟合算法

首先通过一定方式的转换将空间直线六参数拟合问题简化为平面直线四参数拟合问题,然后将方程组进行矩阵化,有利于利用整体最小二乘理论进行算法计算,最后分别利用本算法和最小二乘法对实测数据进行空间直线拟合计算,并对2种算法的结果进行比较,初步验证了本算法的可靠性和精确性.同时,将计算结果与不同文献的研究结果相比,证明了本算法的有效性与正确性.     

基于属性最大间隔的子空间聚类

子空间聚类能有效的发现各簇与所属于的子空间的联系,同时减少高维数据中因为数据冗余和不相关属性对聚类过程产生的干扰.已有的子空间聚类方法强调各子空间中簇的发现,往往忽略子空间的划分.提出了基于属性最大间隔的子空间聚类,该方法主要思想是对子空间的划分时信息的丢失达到最小,从而子空间聚类的结果的效果比较好.主要工作包括:第一,建立了子空间划分的目标函数,也就是使各划分的子空间相互依赖达到最小,第二,设计了基于属性最大间隔的子空间聚类算法Maximum Margin Subspace Clustering(MMSC)进行子空间聚类集成.最后,采用UCI和NIPS2013比赛等数据来做实验,结果表明,在大多数数据上MMSC算法比其他子空间算法能得到更好的聚类结果.     

样本依赖型最小平方回归学习算法的收敛速度

目的研究基于样本依赖型的范数正则化学习算法的收敛性分析。方法概率论与数理统计的方法。结果给出了一种用K-泛函表示的收敛速度。结论文中的研究表明,样本依赖型学习算法与通常的核学习算法具有相同的收敛速度。     

基于最小二乘法的递推回归

推导出基于最小二乘法的回归系数、总离差平方和、残差平方和、回归平方和的递推计算公式,在此基础上可计算决定系数和复相关系数,并进行回归方程的显著性检验和回归系数的显著性检验.在整个递推计算过程中,只有在第一步计算回归系数时需要求逆矩阵,其余步骤均不需要求逆矩阵,可大大减少计算量.     

偏最小二乘法与人工神经网络耦合的小流域产沙模型

针对小流域侵蚀产沙的复杂性,将偏最小二乘回归与人工神经网络耦合,建立了小流域降雨侵蚀产沙检验模型,并应用于小流域降雨侵蚀产沙预报.采用偏最小二乘法对多维自变量中的信息进行组合和提取,从而得到对因变量解释能力最强并可很好概括自变量信息的主成分,有效克服了变量之间的多重相关问题,实现了对高维数据的降维处理.把提取的主成分作为神经网络的输入,提高了网络的学习效率和稳健性.应用结果表明,偏最小二乘神经网络耦合模型的拟合和检验精度均优于偏最小二乘回归模型和人工神经网络模型精度.     

基于稀疏表示和最小二乘回归的基因表达数据分类方法

提出基于稀疏表示和最小二乘回归的分类方法:用训练样本重构测试样本,先利用稀疏表示剔除噪声样本,接着用最小二乘回归和最近邻子空间准则对样本分类,可以克服传统分类方法存在的过拟合问题.在6个基因表达数据上的实验结果表明,该方法可以提高分类准确率.     

基于分水岭变换和核聚类算法的图像分割

提出了一种基于分水岭变换和核聚类算法的图像分割算法．通过分水岭变换把图像分割成多个小区域,为实现过分割小区域的合并,利用Mercer核把各小区域的灰度平均值映射到高维特征空间,使原来没有显现的特征突现出来,在特征空间进行更准确的聚类,为下一步图像分析提供较为准确的分割区域．实验结果证明了该算法的可行性和有效性．     

基于偏最小二乘法回归的工序质量建模

针对制造工序质量控制问题,应用多元统计分析中的偏最小二乘回归法建立了质量模型.利用该模型可以定量分析加工工序与最终成品率之间的关系,进而通过将大量的工序影响因子约简得到主要影响因子子集.根据在线生产的相关质量数据,采用非线性迭代偏最小二乘法获得影响因子的权重.得到偏最小二乘因子权重可以在线预测成品质量变化,避免离线测试.在半导体制造实例研究中,以工序质量水平为自变量,成品质量水平为因变量,建立了质量水平传递模型,应用该方法可实现多工序质量异常的在线诊断和预测,为质量控制提供了定量依据.     

基于模糊核聚类的肝脏MRI肿瘤提取方法

针对肝部图像特点,在传统模糊核算法中引进邻域像素的空间信息,提出灰度和空间信息相结合的特征加权核聚类方法.该方法在核聚类过程中利用分割熵作为高斯演化策略的适应度函数对灰度和空间信息的权重进行优化,从而达到肿瘤提取的目的.本方法对福建省肿瘤医院提供的30个腹部MR图像序列进行实验,结果表明该方法对肝脏MRI肿瘤提取的有效性.     

基于最小二乘回归模型的EIT数据分析

医学电阻抗成像技术（EIT）是当今生物医学工程领域重大研究课题之一。本文利用最小二乘回归模型分析了圆形场EIT扫描数据,实现了场域内干扰物质的相对尺寸及相对位置的确定,为实现EIT动态心肺监测活动奠定基础。