非平行文本下基于变分自编码器和辅助分类器生成对抗网络的语音转换

提出了1种基于变分自编码器和辅助分类器生成对抗网络的语音转换方法,实现了非平行文本条件下多对多的高质量语音转换.在该方法中,利用辅助分类器生成对抗网络替代基于变分自编码器和生成对抗网络模型中的Wasserstein生成对抗网络.由于辅助分类器生成对抗网络将特征样本的类别标签作为辅助信息,其鉴别器不仅能预测样本真假,还能预测生成样本所属的类别,从而提高了生成对抗网络的生成效果.充分的客观和主观评价表明:本文提出的方法明显优于基准模型,在显著改善语音质量的同时也有效提升了说话人个性的相似度.     

混合高斯过程回归模型在铁水硅含量预报中的应用

为了提高基于高斯过程回归的软测量模型的预测精度,提出了一种混合高斯过程回归模型。该模型将高斯过程回归模型预测输出值的方差及其分布作为主要考虑因素,对多个高斯过程回归模型的输出值进行组合输出,获得了比单个高斯过程回归模型更高的预测精度和更强的模型鲁棒性。将该模型实用于高炉铁水硅含量预报模型的建模,获得了比使用单个高斯过程回归模型建模时更好的应用效果。     

基于样本稀疏化高斯过程的发酵过程软测量建模方法

提出了一种基于样本稀疏化高斯过程(GP)的发酵过程软测量建模方法。该方法将聚类和灰色关联度分析相融合，综合考虑样本点间欧式距离和各个特征向量对样本点间相似度的影响，通过剔除相似度比较大的样本点，实现训练样本集的稀疏化，降低了模型的计算复杂度。利用基于样本稀疏化的高斯过程构建青霉素发酵过程的软测量模型，同时得到青霉素浓度的预估值和表征预估值的不确定度，实验结果表明，本文所提方法与标准GP方法相比，在保证模型预测精度的前提下，减少了模型的训练时间。     

基于生成对抗网络与深度学习的少数据云资源预测

精确的云资源预测对计算平台实现安全运行具有十分重要的意义,针对新公司的云计算资源缺乏足够数据样本而造成预测模型精度降低的问题,本文提出一种基于WasserStein生成对抗网络和双向门控循环单元网络的少样本云计算资源预测模型。通过生成对抗网络去学习原始少样本数据的分布规律,以高斯噪声作为输入生成与原始数据具有相同分布的新样本数据,实现数据增强的行为;由于传统门控单元网络无法完全利用数据的时间信息,本文采用双向门控循环单元网络对数据的前向、反向时间信息进行双向提取并预测。以Google公开数据集进行仿真,对无增强数据和增强数据后的不同机器算法模型的预测结果进行对比。实验结果表明,使用WasserStein生成对抗网络数据增强后的双向门控循环单元网络模型精度的达到98.3%,所提方法适用于少样本数据的云计算资源预测。     

基于生成对抗网络的恶意网络流生成及验证

针对基于深度学习的分类器面对对抗样本时缺乏稳定性的问题,基于生成对抗网络(GAN)提出了一种新的模型,用于生成对抗样本。该模型首次实现了直接以恶意网络流为原始样本的对抗样本生成,并首次提出了弱相关位的概念,用于保证恶意网络流对抗样本的可执行性和攻击性。利用该模型生成的对抗样本能够有效地欺骗基于深度学习的网络安全检测器,且通过实验验证了该对抗样本具有实际攻击效果。     

基于组稀疏卡尔曼滤波的多步轨迹预测方法

提出一种基于组稀疏卡尔曼滤波的机动轨迹多步预测方法。首先引入组稀疏编码,通过一次学习建立简单的多步线性回归预测模型,克服了传统方法未能充分利用历史数据而导致预测精度降低的问题;再利用最小角回归算法来计算该模型的稀疏系数,进一步改善模型系数估计的准确性;然后改进了卡尔曼滤波算法,并结合上述组稀疏编码算法,来确保预测结果的精确性;最后通过与传统BP、长短时记忆网络和组稀疏编码方法的仿真比较,验证了所提方法的有效性。     

基于稀疏贝叶斯回归的正则化核密度估计算法

为了加快核密度估计(KDE)的计算速度,简化模型复杂度,提出了一种基于稀疏贝叶斯回归的KDE稀疏构造算法SBR-KDE.该算法将经人工加噪处理后的分布函数逼近值作为输入,获得了KDE的极为稀疏表示形式.实验结果表明:与传统KDE算法相比,在保持相当计算精度(多数情况下降低了模型误差)的情况下,文中算法的时空效率大幅度提高,而且在小样本训练集条件下得到的密度估计更光滑;独立成分分析及高斯化变换的应用使文中算法在一定程度上缓解了维数灾难.     

基于高斯过程的点匹配方法

针对点匹配问题,在已知两个点集对应关系的情况下,通过高斯过程回归计算两个点集的空间几何变换模型.首先,给定高斯过程的协方差函数,通过对训练样本的学习计算协方差函数中的未知参数,得到后验的高斯过程.然后,根据后验的高斯过程预测测试样本的目标值,完成函数映射.该方法在空间几何变换模型的非线性映射能力与问题求解复杂度之间折衷,是一个基于训练样本的自动学习过程.仿真结果表明:该方法具有较好的非线性映射能力,并且只需较少的运算时间.     

基于隐变量后验生成对抗网络的不平衡学习

针对现有不平衡分类问题中过采样方法不能充分利用数据概率密度分布的问题,提出了一种基于隐变量后验生成对抗网络的过采样(LGOS)算法.该方法利用变分自编码求取隐变量的近似后验分布,生成器能有效估计数据真实概率分布,在隐空间中采样克服了生成对抗网络采样过程的随机性,并引入边缘分布自适应损失和条件分布自适应损失提升生成数据质量.此外,将生成样本当作源领域样本放入迁移学习框架中,提出了改进的基于实例的迁移学习(TrWSBoost)分类算法,引入了权重缩放因子,有效解决了源领域样本权重收敛过快、学习不充分的问题.实验结果表明,提出的方法在分类问题各指标上的表现明显优于现有方法.     

面向稀疏数据场景的生成对抗网络推荐算法

基于生成对抗网络的协同过滤算法(CFGAN)是生成对抗网络在个性化推荐领域上的重大突破,但CFGAN存在缺乏对用户可能交互物品的关注以及面对稀疏数据场景特征提取能力较弱的问题。另外,结合负采样技术提出的优化CFGAN方案存在无法结合用户属性抽取负样本的缺陷。为此,本文提出一种改进的CFGAN模型,通过引入增强的置换注意力机制强化面向稀疏数据集的特征聚焦能力,同时考虑用户可能交互物品对推荐结果的影响;此外,采用协同用户社交网络从用户反馈中提取的语义好友特征嵌入CFGAN,以实现负样本的个性化抽取,进一步提升模型面向稀疏数据场景的推荐效果。     

一种改进的随机向量函数链接网络集成模型

针对传统随机向量函数链接网络集成模型时多样性不足和泛化性能差的问题，提出一种改进的随机向量函数链接集成模型.首先，通过6种简单回归模型替代传统随机向量函数链接网络中的直接链接；其次，采用高斯过程回归(Gaussian process regression, GPR)方法初始化隐含层参数，增强各基分类器的多样性；最后，使用不同的结合策略，集成具有差异性的基分类器得到预测模型.结果表明，改进的随机向量函数链接集成模型的预测精度明显高于其他传统集成模型，较传统随机向量函数链接网络具有更好的泛化性能.     

基于SNGAN的黑盒恶意软件对抗样本生成方法

目前，为了应对数以百万计的Android恶意软件，基于机器学习的检测器被广泛应用，然而其普遍存在防对抗攻击能力差的问题，对恶意软件对抗样本生成方法的研究有助于促进恶意软件检测领域相关研究的发展.黑盒场景下的对抗样本生成技术更加符合现实环境，但相较于白盒场景效果不佳.针对这一问题，本文提出了一种基于SNGAN的黑盒恶意软件对抗样本生成方法，将图像领域的SNGAN方法迁移到恶意软件领域，通过生成器网络和替代检测器网络的迭代训练生成对抗样本，并通过谱归一化来稳定训练过程.该方法能够对已有的恶意软件添加扰动，达到欺骗机器学习检测器的效果.实验结果证明，该方法对多种机器学习分类器均可以有效规避检测，验证了方法的可行性和可迁移性.     

过程混合的高斯过程模型混合采样推理

提出了基于Dirichlet过程混合的高斯过程模型揭示复杂动态系统结构数据的多态性的内在机制.针对均值结构与协方差结构稀疏性的差异性,设计了参数先验与非参数先验来构建基于Polya urn与过松弛层采样的混合采样框架体系.该混合采样方案不但能够在统一的Metropolis Hasting(M H)概率评价准则下实现,而且能够最大限度地克服高斯随机走步的缺陷,方便、快速地获得马尔科夫样本链的展开.仿真结果表明,混合采样算法比高斯过程回归模型及高斯过程函数回归混合模型具有更广泛的适应性及更好的预测效果.     

基于多准则和高斯过程回归的动态软测量建模方法

为了解决静态软测量建模预测精度低和鲁棒性差等问题,提出了一种基于多准则和高斯过程回归的动态软测量建模方法.该方法综合考虑多种模型定阶准则,提出了高斯过程回归动态软测量模型定阶策略,为模型阶数确定提供了依据,并将所提动态软测量模型应用于红霉素发酵过程中生物量浓度的估计.研究结果表明,基于高斯过程回归的动态软测量建模方法可以实现对生物量浓度的高精度预测,且预测结果具有较小的置信度区间.     

一种动态校正的AGMM-GPR多模型软测量建模方法

工业过程常常是强非线性的,并有多个工况,传统的软测量方法存在预测能力差,不能有效利用误差信息等缺点.为了有效解决这些问题,提出一种基于自适应高斯混合模型-高斯过程回归(AGMM-GPR)的多模型动态校正软测量建模方法.首先,通过贝叶斯信息准则构建自适应高斯混合模型(AGMM),得到优化的子模型个数;然后,利用GPR方法建立各局部模型,当新的数据到来时,将其隶属于各局部模型的后验概率和预测值融合得到多模型输出;最后,为了进一步提高模型的精度,构建自回归积分滑动平均(ARIMA)模型对多模型输出进行动态反馈校正.通过数值仿真和硫回收装置(SRU)中H2S浓度的估计,验证了所提方法具有良好的预测精度和泛化性能.     

一种基于条件生成对抗网络的模型化策略搜索方法

模型化强化学习是深度强化学习领域中的一种有效学习模式,能够缓解强化学习在实际应用中样本利用率低的瓶颈问题.然而,受环境复杂性及动态性影响,学习得到准确的状态转移环境模型极具挑战.为此,本文提出一种基于条件生成对抗网络的复杂环境中有效的模型化策略搜索强化学习方法.该方法首先利用条件生成对抗网络对环境中的状态转移函数学习,再利用经典的策略搜索方法进行策略学习.通过实验验证,该方法能够准确地生成状态转移数据,为策略学习提供充足的学习样本,从而得到稳定、高性能的策略.     

基于等压差充电时间的锂离子电池寿命预测

针对锂离子电池寿命在线预测时直接测量困难及容量再生的现象,提出一种基于等压差充电时间和改进高斯过程回归模型的电池寿命预测方法.建立了具备不确定性表达能力的高斯过程回归模型,并采用组合核函数与粒子群算法进行了模型优化.在恒流充电过程中提取等压差充电时间参数,将其作为健康因子建立了广义线性回归模型,通过预测等压差充电时间进行电池容量估计与寿命预测,根据电池充放电循环数据进行实验验证.结果表明:基于等压差充电时间的高斯过程回归模型预测方法可以预测容量非线性退化轨迹,具备较高的锂离子电池寿命预测精度及在线预测能力.     

基于随机森林优化的自组织神经网络算法

针对基于降维的神经网络分类器预测模型在分析过程中存在特征丢失, 并导致精度下降的问题， 提出一种基于随机森林算法优化的多层感知器(MLP)回归预测模型. 该优化模型通过在MLP回归模型网络的全连接层和逻辑回归层之间增加一个优化机制, 利用随机森林算法对隐藏层状态的优化实现改进, 从而解决了降维过程中神经网络丢失数据特征的问题. 在借贷客户信息数据集上的实验结果表明, 该模型在保证主要特征的同时大幅度提升了预测准确率, 证实该模型在特征工程中具有较高的实用性.     

基于LASSO回归的R-vine copula模型构建及其在化工过程故障检测中的应用

Vine copula模型在描述高维数据间的非线性、非高斯特性相依关系问题上提供了一种新的思路，在化工过程建模领域受到越来越多关注。笔者将LASSO(least absolute shrinkage and selection operator)回归引入R-vine copula(LASSO-R-vine copula, LRVC),根据变量间联系的强弱程度确定变量在R-vine矩阵中的位置，利用回归分析正则化路径选择R-vine copula矩阵结构，遵循R-vine矩阵构建规则和回归过程确定R-vine结构矩阵模型，以获得一个与变量独立性有关的稀疏矩阵模型。该方法构建的矩阵结构独立于copula函数类型和参数，在处理高维度复杂工业过程数据时，利用稀疏模型和惩罚力度简化copula函数类型选择过程，缩短了建模时间，使统计建模具有更强的灵活性。该方法在TE(Tennessee Eastman)和醋酸脱水过程故障监测中表现出较好的预测效果，证明了提出的方法在非线性、非高斯过程的有效性。     

基于坐标下降邻域选择的高斯图模型结构并行估计

在许多机器学习问题中,往往需要研究高维数据中各个特征之间的统计相关性.稀疏高斯图模型作为解决这一问题的有效方法之一,广泛应用于数据挖掘、生物信息、金融分析等应用问题中.由于模型参数量是数据维度的平方量级,基于高维数据的稀疏高斯图模型的参数估计一直是统计机器学习研究中的挑战性问题之一.提出了一种新颖的基于坐标下降优化的稀疏高斯图模型并行估计算法,其核心思想是根据高斯图模型结构估计等价于每个变量的稀疏近邻选择这一基本结论,采用坐标下降来求解每个近邻选择子问题.通过将样本矩阵进行分布式存储,在MPI(Message-Passing Interface)框架下实现了这些子问题的并行求解.实验结果表明,该算法具有良好的并行运算性能,在保证结构估计精度的同时,能够大幅度提升运算速度.