支持向量机的最大间隔和对偶性

最初出现的支持向量机理论是基于2类线性可分问题的.针对线性可分情况,研究表明线性硬间隔分类机的对偶问题与凸壳问题(平分最近点法)是等价的,线性硬间隔分类机的最大间隔与凸壳问题的2个最近点的距离相等:针对非线性可分情况,研究表明线性软间隔分类机的对偶问题与缩小的凸壳问题(推广的平分最近点法)是等价的,线性软间隔分类机的最大间隔与缩小的凸壳问题的2个最近点的距离相等.对支持向量机分类问题给出了直观解释.     

非线性抛物-双曲耦合方程组的第三边值问题的特征-差分解法

讨论了非线性抛物－双曲耦合方程组第三边值问题的特征－差分解法，给出了基于线性插值的特征－差分格式最大模误差估计，完善了以往的一些重要结果。     

抛物-双曲耦合方程组的Crank-Nicolson特征差分格式

针对抛物-双曲耦合方程组提出了一种Crank-Nicolson类型的特征差分格式,证明了该格式按离散L2模是收敛的,且其收敛阶为O(Δt2+h2).     

基于取样的潜在支持向量机序列最小优化算法

为了提高潜在支持向量机求解大规模问题的训练速度,提出了基于样本取样的潜在支持向量机序列最小优化算法,去掉了大部分非支持向量,把支持向量逐渐压缩到取样样本集中.此算法特别适合大样本数据且支持向量个数相对较少的情况.实验表明,改进的序列最小优化算法加速了潜在支持向量机分类器训练时间.     

时标上一阶脉冲方程的周期边值问题

针对时标上一类一阶脉冲方程的周期边值问题,该论文基于算子不动点原理、上下解方法和单调迭代技巧,给出了周期边值问题解存在性的充分条件,并举例加以验证了主要结果.     

基于行列式点过程的变分拉普拉斯自编码器

变分自编码器(Variational Autoencoders,VAE)是一类重要的学习概率潜在变量的生成模型,然而VAE对复杂模型的表现力较差,生成的图像往往比较模糊.为了解决VAE生成图像模糊的问题,提出一种基于行列式点过程的变分拉普拉斯自编码器(Variational Laplace Autoencoders-Determinantal Point Process,VLAE-DPP)模型,将行列式点过程方法引入变分拉普拉斯自编码器模型,在原始目标函数的基础上添加一项无监督惩罚损失,以此来提高生成图像的质量.VLAE-DPP模型利用行列式点过程来捕获一个与真实数据类似的多样性,然后通过从编码器中提取特征来学习核.最后,训练解码器优化核的伪、实、特征值和特征向量之间的损失,以鼓励解码器模拟真实数据的多样性,从而生成高质量的图像.在Fashion-MNIST,SVHN,CIFAR10数据集上的实验结果表明,VLAE-DPP模型能提高生成图像的质量.     

不平衡数据分类问题的基于间隔放大损失的支持向量机

针对不平衡数据分类问题,提出了一种带有间隔感知标签分布损失函数的支持向量机,称为基于间隔放大损失的支持向量机(support vector machine with margin magnification loss,MM-SVM)。考虑各类样本的分布情况以及数据不平衡比,设计了一种间隔放大损失函数,最小化基于间隔的泛化误差界;将间隔放大损失函数应用于SVM模型中,增强了少数类样本对分类超平面的影响,实现对少数类样本的准确分类。在Keel和UCI数据库上的实验表明,MM-SVM在不平衡数据分类精度和时间效率上均优于其他5种对比方法,实现了对不平衡数据的有效分类。     

带有方差减小的加权零阶随机梯度下降算法

随机梯度下降(stochastic gradient descent,SGD)算法是机器学习问题中的高效求解方法之一.但是,对于非平衡数据,传统的随机梯度下降算法,在训练时多数类点被抽到的概率远大于少数类点,易导致计算不平衡;对于目标函数不可导或不易求导的问题,计算代价太大或无法进行计算;在每次迭代中利用单个样本梯度近似代替全梯度,这必然会产生方差,严重影响算法的分类性能.针对上述问题,提出了带有方差减小的加权零阶随机梯度下降算法,考虑了数据的间隔分布情况,在目标函数中引入了间隔均值项,并对多数类样例赋予了较小的权值,对少数类样例赋予较大的权值.在对优化问题的求解中,采用零阶优化的方法对梯度进行估计,并且引入了方差减小策略.在一些非平衡数据集上的实验验证了所提算法的有效性,并有效解决了上述问题.