基于低秩表示的判别特征提取算法

为了更好地获取高维数据的特征,提出一种特征提取算法——低秩判别映射. 首先基于低秩表示构造代表样本关联性的关联矩阵,然后利用关联矩阵应用判别准则. 低秩表示以样本作为基函数,利用所有样本构建关联矩阵,其构造特点决定了关联矩阵能够很好地体现样本集的全局结构和样本之间的判别关系. 人脸数据集的实验表明,低秩判别映射优于其他广泛应用的特征提取方法.     

基于低秩类间稀疏判别最小二乘回归的图像分类

在多分类任务中基于最小二乘回归(least squares regression,LSR)的分类器是有效的,但大多数现有方法因使用有限的投影而损失许多判别信息,有的算法只关注样本与目标矩阵的精确拟合而忽略了过拟合问题。为了解决这些问题并提高分类性能,本文提出了一种基于低秩类间稀疏性的判别最小二乘回归(low-rank inter-class sparsity discriminative least squares regression,LRICSDLSR)的多类图像的分类方法。在判别最小二乘回归模型中引入类间稀疏性约束,使得来自同一类的样本间隔大大减小,而来自不同类的样本的间隔增大;对由非负松弛矩阵获得的松弛标签施加低秩约束,以提高其类内紧凑性和相似性;在学习标签上引入了一个额外的正则化项,以避免过拟合问题。实验结果表明,这3个改进有助于学习明显的回归投影,从而实现更好的分类性能。     

秩回归模型用BIC建模的相容性及应用

文[1]提出秩和回归模型预测方法,本文研究用BIC准则选择秩回归变量的相容性问题和建模原则,给出具体的模型设计方法,并在气象预测应用中效果良好。     

Moore-penrose逆交换性的秩方法

M-P逆不具有交换性,即(AB)+=B+A+一般不成立,但利用投影算子的理论得到了(AB)+=B+A+的一些充要条件.将用矩阵秩这种新的研究方法研究广义逆的交换性使得证明变得更简洁.     

多尺度低秩图像盲去模糊方法

针对现有的大多数基于统计先验的单幅图像盲去模糊方法对图像纹理细节恢复效果不佳且存在振铃效应的问题,提出了一种基于逐块局部最大梯度先验和低秩先验的多尺度图像盲去模糊方法。为了恢复得到清晰图像,采用由粗到精的多尺度框架,通过灰度化与下采样操作逐层构建图像金字塔;在单尺度层面,将逐块局部最大梯度先验和低秩先验带入到最大后验概率框架中,利用交替方向乘子法与半二次分裂法估计出潜在图像和模糊核;结合超拉普拉斯先验与总变差L_2方法,对模糊图像与估得的模糊核进行非盲反卷积,获得清晰图像。在计算过程中,由于直接求解低秩项的计算代价很大,将加权Schatte-1/2范数约束的低秩项子问题转化为非凸权重L_(1/2)范数子问题,采用广义软阈值方法求得全局最优解。在基准数据集上的实验结果表明:与现有的经典图像去模糊方法相比,所提方法取得了更优的图像去模糊效果;在K9hler的合成数据集上进行图像去模糊后,平均峰值信噪比为30.06 dB,平均结构相似性为0.946 5,估计出的模糊核更加精确。     

基于低秩非局部稀疏表示的图像去噪模型

在去除加性高斯白噪声的过程中,为克服图像失真,提高图像视觉质量,使图像之间联系更加密切,本文提出了一种基于低秩非局部稀疏表示的去噪算法模型。在该模型中,首先通过PCA方法线训练字典得到稀疏字典集,然后用奇异值分解求解低秩问题,最后用欧拉-拉格朗日方法得到去噪图像的能量泛函,从而重构图像。仿真实验结果表明,提出的新算法不仅能克服图像失真,改善图像视觉质量,还提高了峰值信噪比和图像相似度。     

面向点云数据的复杂几何模型对象优化方法研究

针对高精度、高保真的点云数据在精简后点云数据重构网格精度降低误差增大的问题,提出了面向点云数据的复杂几何模型对象优化方法.首先通过空间八叉树法建立点云数据和网格的拓扑关系,并利用原始点云到重构网格的距离确定网格的误差,以目标精度为阈值,然后利用增点法对面片进行划分,最后根据插入点算法重新定位插入点.实验验证表明：利用该文方法对兔子和龙进行一次细分使得精简率90%兔子重构网格误差由0.81 mm提升到0.48 mm,精简率90%龙重构网格误差由0.36 mm提升到0.11 mm.     

基于双高斯先验的低秩矩阵分解模型

为了更好地拟合复杂噪声,增强低秩矩阵分解模型的鲁棒性,将双高斯先验引入到传统的高斯混合模型中,提出了基于双高斯先验的低秩矩阵分解(low-rank matrix factorization with double Gaussian prior, DGP-LRMF)模型,通过模型分解得到的2个矩阵均服从高斯先验,从而实现对噪声的有效建模,并在贝叶斯理论框架下利用EM算法实现模型参数的推断。实验结果验证了所提模型能够有效地处理含有复杂噪声的数据,取得了更优且更具稳定性的去噪效果。     

回归模型及其优化识别

模型的选优问题,是统计推断中最重要的问题之一,随机影响为正态分布的回归模型,用ＡＩＣ准则可以进行很好地识别,针对这一问题,讨论最大熵原理,最小ＡＩＣ准则和最大假然函数的关系,列举了几种典型的回归模型,指出了模型识别过程中应注意的几个问题。     

面向网络数据的Elastic Net回归模型

线性模型作为一种经典的回归模型,具有简洁的表达形式和较强的可解释性。然而,传统的线性模型是基于样本独立假设的,并不能有效地处理网络数据问题。为了有效地表达网络数据之间的关联信息,本文利用网络结构图,构建了包含样本邻近信息的回归模型。进一步,为了合理估计回归模型参数,并提高处理强相关变量数据的能力,本文提出了一种能够有效处理网络数据的Elastic Net回归模型。具体地,该模型由平方损失和Elastic Net正则项组成,其中平方损失项既包含数据的属性变量信息,又包含响应变量的网络结构信息,能够更好地提高模型学习的准确性;Elastic Net正则项不仅可以保证模型的稳定性和稀疏性,而且具有变量分组效应,能够将强相关性变量组全部剔除或保留。最后采用坐标下降和交替迭代算法对目标函数进行求解。在实验过程中,分别采用Scale-free网络、Hub网络以及Erd?s-Renyi网络进行了大量实验,实验结果显示模型的预测误差能够降低到0.006 6,0.010 3,0.009 7,表明了所提模型的有效性。真实数据集上的实验结果也表明Elastic Net模型具有更高的准确性,能够更加有效地适用...     

面向图片识别的深度学习模型并行优化方法

针对机器学习中的图片识别问题,结合已有的图片识别方法,在集群并行系统上对图片识别的并行优化方法进行研究。通过引入参数服务器机制,对分布式随机梯度下降算法中的参数更新机制进行了改进。一方面对Worker节点计算出的梯度进行稀疏化处理,以减少Worker节点和参数服务器节点之间的通信量;另一方面将参数服务器节点向Worker节点发送更新后的模型参数转换为参数服务器节点向Worker节点发送累积的梯度,然后对累积的梯度进行稀疏化处理,以进一步减少Worker节点和参数服务器节点之间的通信量。此外,为了解决由于稀疏化而引起的训练精度损失问题,引入了一种应对动量损失的动量修正方法,以提升图片识别模型的精度。实验结果表明,与基本的异步随机梯度下降算法ASGD相比,本文并行优化方法在3种不同的压缩率下,对深度学习图片识别模型的训练速度平均可提高2.95倍,测试准确率平均提高了4.6%。     

基于自适应LASSO的逻辑回归砂土液化判别模型

逻辑回归模型在国际上常用于地震液化判别,但该方法难以处理过多影响因素引发的共线性问题,进而严重影响模型的预测精度.能同时进行变量筛选和参数估计的自适应LASSO在处理共线性问题上有着独特的优势.因此,本研究以国内外533组历史液化案例为样本,在综合考虑地震液化多影响因素的基础上,引入自适应LASSO估计法,对逻辑回归液化判别模型进行优化,建立了基于自适应LASSO的逻辑回归砂土液化判别模型,该模型还包括了新的液化影响因素——土壤分类指数I_c,最后对重要液化影响因素进行敏感性分析.结果表明：针对因素过多的液化判别问题时,自适应LASSO逻辑回归模型可有效地选择重要因素进行建模;相比其它逻辑模型模型和简化方法,自适应LASSO逻辑回归模型精度更高,泛化能力更强;引入了新变量土壤分类指数I_c后,模型性能进一步提升,验证了建立逻辑回归液化判别模型时考虑I_c的重要性;敏感性分析发现重要影响因素的排序为：修正尖端阻值、峰值加速度、土壤分类指数、水位、细粒含量、侧壁摩阻值.     

稀疏低秩协同正则优化及航空轴承故障诊断

航空发动机振动测点少,主轴轴承微弱的故障特征信息被多源非高斯噪声干扰所淹没,难以有效诊断。针对该问题,首先分析了整机振动信号源成分的表征机制,揭示了故障特征信号在特定二维变换空间的低秩先验以及谐波干扰信号在频域的稀疏先验,进而分别构建了特征信息的空域低秩正则函数和谐波干扰信号的谱域稀疏正则函数,通过协同空域和谱域的两类正则函数,提出了稀疏低秩协同正则优化算法。所提算法基于故障信号和干扰信号在不同变换空间的结构差异性,将两类信号分别在两个完全不耦合的空间进行表示和正则,解决了目前稀疏分解算法难以构造高度不耦合字典的瓶颈问题。仿真分析表明,所提算法可实现冲击特征、谐波干扰信号和高斯噪声这3种成分的解耦,从而可靠提取轴承微弱的冲击故障模式。两组航空轴承实验表明,所提算法不仅可实现运行转速为1 800 r/min、剥落面积为1.0 mm²的航空轴承故障诊断,并且可有效识别加速疲劳寿命实验中轴承故障萌生初期的特征信息。     

矿井涌水量回归模型预测方法研究

涌水量预测一直是矿井防治水工作中重要部分,准确的预测可以预防矿井水害的发生.本文应用传统ARIMA模型对某矿过去近20年涌水量数据进行拟合建立数学回归模型,并在此基础上,考虑多因素众变量的影响,提取出涌水量数据中的趋势-循环因子、季节影响、波动因素,重新建立起数学回归模型,对两种不同方式所建立起的模型进行对比分析,结果...     

面向绿色制造的集成工艺优化模型研究

为了提高工艺规划在实际生产中的执行性、减少制造过程的资源消耗以及对环境的负面影响,建立了一种基于动态工艺、以制造资源为核心、面向绿色制造的CAPP/PPC并行集成模式,并在此基础上建立了以成本、交货期、资源消耗和环境影响为优化目标的集成工艺优化模型。该模型不仅实现了工艺路线的优化,而且实现了资源的优化配置,从而大大地提高生产计划的执行性,满足了绿色制造对工艺规划的要求。     

面向新产品概念设计优化的裁剪方法研究

裁剪作为TRIZ理论中分析、解决问题的方法,其可简化系统结构、降低成本;同时可以有效优化系统问题,提高创新效率。为优化新产品概念设计方案、提高产品质量,应用扩展的失效预测(AFD-2)方法确定面向新产品概念设计优化的裁剪关键问题,基于所确定的裁剪关键问题辅助建立系统功能模型,进而确定裁剪元件,对系统进行裁剪,构建了面向新产品概念设计优化的裁剪创新设计过程模型。最后通过架桥机的裁剪实例验证了此方法的合理性。     

面向饲料加工的排产优化方法研究

为了提高饲料企业在成本和质量上的优势,需要采用更加科学的方法制定排产计划。首先根据饲料加工排产的特点构建了基于批量组织生产的排产模型;其次,针对布谷鸟搜索(cuckoo search,CS)算法收敛速度慢与局部搜索能力弱的问题,提出不同的改进策略形成改进CS算法求解了排产模型,改进算法运用NEH方法、Logistic混沌映射方法以及随机方法生成初始解,使用了动态改变步长的策略以平衡算法探索能力与开发能力,增加基于差分进化的交叉阶段以增强最优解的挖掘能力。采用改进CS算法,以最小化总流经时间为求解目标,在40个Taillard测试集实例和实际饲料排产数据上进行了实验,验证了改进CS算法的寻优能力。结果证明了改进CS算法在求解流水线式生产车间排产问题上的有效性。     

实矩阵正定性的简单判别方法

对于实方阵的正定性的研究,已有多种方法.本文提出了一种判断实方阵(不一定对称)正定性的简单方法.通过此方法,能有效的判别一个实方阵的正定性.     

马尔可夫过程的低秩谱估计

针对马尔可夫过程的谱估计算法利用了非负投影而导致估计矩阵不能满足低秩要求的问题,提出一个低秩谱估计算法(Low-rank Spectral Estimation Algorithm, LRSEA):首先,建立秩约束状态转移矩阵集合的局部Lipschitz型误差界,并给出满足该集合误差界不等式的近似投影矩阵; 然后,基于近似投影矩阵对现有的谱估计算法进行低秩修正,得到LRSEA算法,并为该算法建立统计误差界。通过人工合成数据实验对LRSEA算法、经验估计方法和谱估计方法进行比较,结果表明LRSEA算法的估计误差最小。最后,将LRSEA算法与k-均值聚类算法结合应用到纽约市曼哈顿岛出租车轨迹的分析问题。     

基于多元线性回归的古代玻璃体系判别方法

古代玻璃易受到外界影响而风化,从而导致内部化学成分发生变化,影响对古代玻璃化学成分体系的判别。为解决这些问题,在数据处理和加性对数比转换（ALR）后,根据数据构建并拟合了风化玻璃每种化学成分的预测函数以及玻璃体系的判别函数。通过风化后古代玻璃的化学组成含量预测相应的风化前化学成分,并将数据代入判别函数,从而确定玻璃样品的成分体系。随后通过实例说明了该方法的有效性和适用性,为研究古代玻璃体系提供了一种新的思路。