支持向量机增广拉格朗日方法的探究

支持向量机是机器学习中一种非常重要的分类方法,它在文本分类、语音识别、图像分析、信息安全等诸多领域均有重要的应用.提出了基于支持向量机对偶问题的一种非精确增广拉格朗日算法,讨论了所提算法的收敛性结果,并利用支持向量机模型的稀疏特性,结合矩阵不完全Cholesky分解以及Sherman-Morrison-Woodbury公式等程序实现技巧,极大地减少了所提算法的时间与空间复杂度.数值结果验证了提出算法的可行性和高效性.     

统计回归模型及其优化算法综述

在大数据时代,正则化(惩罚)回归模型成为高维数据分析的一种有效分析工具.文中从统计模型理论和优化算法两个角度对正则化回归模型进行简要的概述,主要介绍线性回归模型、广义线性模型和分位数回归模型三种经典且重要的回归模型以及相应的正则项.对于线性回归模型,介绍最小二乘回归和l_1-正则最小二乘回归问题的优化算法;对广义线性模型和分位数回归模型,介绍逻辑回归模型和求解l_1-正则逻辑回归问题的优化算法,并展示分位数回归模型和求解相应的正则化分位数回归模型的优化算法.最后,对正则化回归模型未来的研究方向进行展望.     

求解低秩密度矩阵约束最小二乘问题的优函数罚方法

本文应用优函数罚方法求解具有低秩密度矩阵约束的最小二乘问题. 首先用凸差方法处理非凸的低秩约束,并结合罚方法和优函数方法将原问题转化为一系列具有密度矩阵约束的凸优化问题,然后给出求解该优化问题的优函数罚方法,并对该方法进行收敛性分析. 之后,运用半光滑牛顿增广拉格朗日算法求解优函数罚方法的子问题. 最后,合成数据集和真实数据集上的数值结果表明了优函数罚方法有效地求解了具有低秩密度矩阵约束的最小二乘问题.     

数学分析“四段式全程追踪”教学模式的研究与实践

针对信息与计算科学专业数学分析课程教学中存在的问题,提出了以数学知识的"产生-形成-应用-分流追踪"为主线的"四段式全程追踪"的教学模式,该模式融合了启发式、案例式、讨论式、研究式等教学方式,是教学模式的创新。具体介绍了该教学模式的实施过程:1)引导学生对数学分析课程做好认知的准备和情绪的准备;2)对教学内容进行优化重组;3)结合专业学习的需要有选择的融入数学实验与数学建模的内容;4)建立网络教学平台、开设选修课以及考研数学辅导班等对不同需求的学生进行分流追踪教学。通过该教学模式的实施,使得信息与计算科学专业学生数学分析课程的学习取得了显著成效。     

二阶锥互补问题的一类效益函数与全局误差界

二阶锥互补问题的一种常用解决方法是将它转化为某一效益函数的无约束极小化问题进行求解，效益函数的选取对这种方法的有效性起着很重要的作用．为此提出了二阶锥互补问题的一类效益函数，这类效益函数具有一些很好的性质．在某些条件下，基于这类效益函数建立了二阶锥互补问题解的一个全局误差界及这类函数的水平有界性．另外，还给出了这类效益函数的两个具体函数。并证明了这两个函数满足这些条件．     

求解一般l1趋势过滤问题的原始对偶内点法

针对一般l₁趋势过滤问题提出一种原始对偶内点法，首先给出原始对偶内点法的算法框架，并对原始对偶内点法进行收敛性分析和算法复杂度分析.最后，将提出的算法和目前流行的半光滑牛顿增广拉格朗日方法和交替方向乘子法进行对比.实验结果表明：当模型中的参数变化时，原始对偶内点法更加高效和稳健.     

超平面交单调锥上投影算子的快速算法及其实现

研究超平面交单调锥上的投影问题，给出求解该问题的池相邻违反算法和半光滑牛顿法，并对算法进行有效性分析，最后将两种算法进行数值对比.数值实验结果表明：在求解随机数据集上的投影问题时，池相邻违反算法比目前流行的半光滑牛顿算法更高效.