一种改进的代价敏感型链路预测算法

为解决因网络数据分布不均匀性而造成的链路预测问题,提出一种改进的代价敏感型链路预测算法(Link Boost).设计一种有监督链路预测可变代价损失函数,该函数对低节点度有链路节点对出现分类错误时的惩罚大于高节点度有链路节点对,解决了节点度的分布偏差.考虑到以损失函数优化为目标的链路预测算法将导致社区内预测链路数量大于社区间的链路数量,进而设计一种Boosting算法来实现损失函数最小化.通过将网络分为多个分区,并对各个分区构建的弱学习器进行融合,提高了算法的可伸缩性.利用4个真实网络数据集进行性能评估.研究结果表明:Link Boost算法的性能与许多当前算法的性能相当或者优于当前算法.     

基于支撑向量机在线学习方法的短期负荷预测

提出了基于支撑向量机在线学习方法的短期负荷预测,该方法克服了传统的支撑向量机负荷预测当训练样本集合改变时为了保证预测精度必需重新进行训练来得到新的回归函数的缺点.充分利用支撑向量机解的稀疏性和前一次的训练结果,提出了递增和递减算法,直接修改原有回归函数的系数来得到新回归函数.实例计算表明,该方法与传统支撑向量机方法相比,具有计算速度快,推广能力强的显著特点,在相同预测精度下,计算速度提高了近两个数量级.     

一种基于2次核函数支持向量机的多步预测控制算法

提出了一种基于2次多项式核函数支持向量机的多步预测控制方法。通过黑箱辨识和线性化技术得到非线性系统的近似模型,根据预测控制机理,最小化滚动时域的二次型目标函数,利用模型算法控制的方法得到控制器的解析输出。通过一个标准预测模型和一个工业用连续搅拌槽式反应器的模型仿真验证了该控制器的性能,仿真结果表明:该控制器有着良好的预测性能。     

Boosting集成支持向量回归机的滑坡位移预测

支持向量回归机(SVR)在实际的学习应用中,由于数据时空的复杂性和算法本身的参数选择,学习模型难以达到预期的效果.针对这个问题,提出了基于Boosting集成的支持向量回归机方法.通过在原始数据集加权采样的基础上,进行多次迭代子SVR机器学习,不断调整样本权值再采样,优化机器学习模型,然后对迭代所得的每级支持向量回归结果按某种组合方法进行集成,得到最终的回归函数形式.应用该方法进行了仿真试验和滑坡变形时序预测研究.结果表明:使用集成的SVR进行回归预测较之单一的SVR具有更高的准确性和更好的泛化性.对Boosting与Bagging 2种不同的集成SVR,进行了比较研究,试验结果表明,2种算法性能相差不大,总体上前者强于后者.     

在线多输出支持向量回归及在投资决策中的应用

提出一种在线多输出支持向量机回归算法：对新到达的样本,利用梯度下降算法,最小化预测结果的带正则项的即时风险,给出回归函数权系数和偏置的迭代公式,完成在线情况下的多输出回归预测．将该算法应用于投资决策,可以在线预测最优投资组合．仿真实验结果表明,该算法计算简单,工作量小,因而更容易实现．     

支持向量机在机载设备故障诊断及预测中的应用研究

支持向量机是一种基于统计学习理论的机器学习算法,采用结构风险最小化原则代替经验风险最小化原则,较好地解决了小样本学习问题;采用核函数思想,使非线性空间的问题转换到线性空间,降低了算法的复杂度;具有良好的泛化能力。针对机载设备故障诊断及预测等工程实际应用中遇到的典型故障样本缺乏、先验知识不足等采用神经网络等其它方法无法解决的问题,提出利用支持向量机应用在机载设备故障诊断及预报中。     

图像分割的谱聚类集成算法

针对谱聚类算法对尺度参数敏感的问题,利用集成学习算法良好的鲁棒性和泛化能力,提出了一种无监督集成学习算法——谱聚类集成算法.该算法先利用谱聚类的内在特性产生集成学习所需的多个聚类个体,再采用Hungarian算法对生成的聚类个体进行重新标记,计算每个样本点关于每一个类别所占的比例,得到一个成分向量,然后运用对数比变换将所得的成分向量映射到另一个空间,去除成分数据的不适定性,最后对映射后的数据进行聚类,从而得到最终的集成结果.通过对UCI数据集和纹理图像的仿真实验表明,所提算法的聚类准确率与常用的共识函数具有一定的可比性,且运算代价较小,所需时间大约为MCLA算法的一半,同时避免了精确选择谱聚类算法的尺度参数.     

粒子群优化支持向量机的交通量预测方法

为了准确预测交通流量,为实施交通疏导提供参考依据,提出了一种基于小生境粒子群优化高斯小波核函数支持向量机的交通流量预测方法。首先将小波思想引入核函数,使用高斯小波核函数取代了经典支持向量机的高斯核函数。同时在支持向量机的学习算法上引入了小生境粒子群优化算法,基于小生境粒子群的多样性的优势,使得支持向量机的参数得到最优解。最后进行了预测仿真,结果表明本文方法的预测精度高于传统方法。为交通流量的预测方法提供了一种参考。     

代价敏感多主题学习的邮件过滤算法

针对传统邮件分类模型中较少对邮件主题进行描述和分析的问题,提出一种代价敏感多主题学习的邮件分类算法,用以实现垃圾邮件过滤.首先,基于LDA(潜在狄利克雷分布)对邮件的多个主题进行提取,对邮件语义进行描述;其次,利用CS-SVM(代价敏感支持向量机)对邮件进行代价敏感学习,实现对不同类别邮件的惩罚;最后,结合MI-SVM(多示例支持向量机)进行代价敏感的多主题学习,实现邮件分类.实验采用四组ling-spam处理数据集.实验结果证明:该分类算法较比传统邮件分类算法,可以取得更高的准确性、特异性与敏感性.     

一种增量式的代价敏感支持向量机

代价敏感学习是机器学习中一个重要的领域.由Masnadi等提出的代价敏感的支持向量机通过将铰链损失函数代价敏感化来处理代价敏感问题,比传统的代价敏感学习方法具有更好的泛化精度.现实中的数据往往是通过在线增量式获取的,而传统的全量式学习算法每次增加样本时都需要重新从头计算,因此浪费了很多时间.为了使得代价敏感的支持向量机能够在在线学习的场景下具有更高的效率,提出了一种增量式的代价敏感支持向量机算法.该算法可以在新增样本时直接更新已有的训练过的模型,不需要从头开始重新训练.在多个数据集上的实验结果也显示出了该方法与传统的批处理方法相比,在速度上的具有显著的优势.     

嵌入式多标签分类算法的优化研究

多标签分类中如何有效处理具有许多实例和大量标签的大规模数据集、补偿训练集中缺失标签以及利用未标记实例改进预测性能等问题已成为重要研究方向。提出嵌入式多标签分类（EMC）算法,首先从伪实例参数化的高斯过程（GP）中提取两组随机变换来模拟特征向量、潜在空间表示向量和标签向量之间的非线性关系映射,其次引入一组辅助变量结合专家集成（EEOE）方法补偿缺失标签,最后利用未标记实例学习随机函数的平滑映射提高预测性能。仿真结果表明,与特征识别隐式标签空间编码的多标签分类（FaLE）算法和半监督低秩映射多标签分类（SLRM）算法相比,EMC算法优化了处理大规模数据集、补偿缺失标签及利用未标记数据的能力,从而提高了类标签的预测性能,且具有良好的可扩展性,训练时间短。     

一种分类挖掘算法及其应用

提出一种增量式混合型分类挖掘算法,将基于概率论的符号学习与神经网络学习相结合,能够对既包含离散属性又包含连续属性的多个概念进行有效的分类处理,且具有较强的增量挖掘能力。该算法在法院决策支持系统中得到了运用,取得了较好的效果。     

中心损失与Softmax损失联合监督下的人脸识别

深度学习在人脸识别领域已经取得了巨大的成就,针对当前大多数卷积神经网络采用Softmax损失函数进行特征分类,增加新的类别样本会减小类间距离的增长趋势,影响网络对特征判别的问题,采用了一种基于中心损失与Softmax损失联合监督的人脸识别算法,来提高网络对特征的识别能力。在Softmax基础上,首先,分别对训练集每个类别在特征空间维护一个类中心,训练过程新增加样本时,网络会约束样本的分类中心距离,从而兼顾了类内聚合与类间分离。其次,引入动量概念,在分类中心更新的时候,通过保留之前的更新方向,同时利用当前批次的梯度微调最终的更新方向,该方法可以在一定程度上增加稳定性,提高网络的学习效率。最后,在人脸识别基准库LFW上的测试实验证明:所提的联合监督算法,在较小的网络训练集上,获得了99.31%的人脸识别精度。     

基于完全集成经验模态分解和模糊熵分频的短期风电功率预测

随着风电接入电力系统的比例日益增大,准确的风电功率预测显得愈发重要。为此,提出了一种基于模糊熵和完全集成经验模态分解(complete ensemble empirical mode decomposition with adaptive noise,CEEMDAN)的短期风电功率预测模型。采用完全集成经验模态分解将原始风电功率序列进行分解,得到一系列不同频率的子序列。再使用模糊熵(Fuzzy Entropy,FE)算法识别各频率分量特征,将子序列分量分为高、中频分量类和趋势项。趋势项为低频分量,具有较为平稳,波动性小的特点,采用麻雀算法(sparrowSsearch algorithm,SSA)优化支持向量回归(support vector regression,SVR)进行预测；高、中频分量的波动性大且特点较为复杂,则采用SSA优化长短期记忆神经网络(Long Short-Term Memory,LSTM),同时引入注意力机制(Attention Mechanism,AM)对重要信息进行更好的权值分配。最后,经过实验结果分析表明,该模型具有更高的风电功率预测精度。     

采用负相关学习的SVM集成算法

为了平衡集成学习中多样性与准确性之间的关系,并提高决策分类器的泛化能力,提出一种基于负相关学习和AdaBoost算法的支持向量机(SVM)集成学习方法.将负相关学习理论融合到AdaBoost-SVM的训练过程中,利用负相关学习理论计算基分类器间的相关性,并根据相关性的值自适应调整基分类器的权重,进而得到加权后的决策分类器.在UCI数据集中进行仿真,结果表明:相较于传统的负相关集成学习算法和AdaBoost-SVM算法,所提出的方法分类准确率更高,泛化能力更好.     

基于组合神经网络的软件可靠性预测研究

为了进一步提高神经网络的预测能力,提出了一种前馈神经网络混合学习算法,并将其应用于组合神经网络.该算法由一种模式提取算法(Alopex)和伪逆算法组成.在该混合学习算法中,网络的学习任务被分解为2个部分:隐藏层的权值先随机给定,然后使用Alopex算法不断地对其进行扰动;输出层的权值使用伪逆算法确定.所使用的组合神经网络由多个结构相同的前馈神经网络组成,每个前馈神经网络都使用混合学习算法(采用不同的初值)进行训练.实验结果表明,这种组合神经网络能够显著提高软件可靠性的预测精度.     

基于优化最小二乘支持向量机的数控机床热误差建模分析

数控机床热误差是降低加工精度的主要因素之一.针对热误差建模问题, 结合布谷鸟算法的随机莱维飞行机制和最小二乘支持向量机结构风险最小化与线性规划等优点, 提出基于布谷鸟算法优化最小二乘支持向量机的热误差建模方法.在最小二乘支持向量机将低维非线性问题转化为高维线性问题时, 构建了混合核函数.同时,采用布谷鸟算法对最小二乘支持向量机惩罚因子γ、核宽度参数σ和混合核权值λ进行了优化.以GMC2000A机床为实验对象, 分别对热误差数据进行了聚类分析和建模分析.通过误差预测对比分析得出结论, 基于布谷鸟算法优化混合核最小二乘支持向量机建立的误差模型取得了良好的预测效果, 且明显优于BP神经网络模型和未优化的最小二乘支持向量机模型的预测效果.     

基于综合游走策略的边嵌入链路预测算法

针对网络分析方法中研究的图数据默认使用节点图,只能得到节点的向量表示,不能直接将边表示成向量的问题,设计了一种基于有偏+无偏的图嵌入算法Line2Vec,并在此基础上提出基于边嵌入的链路预测框架(Line2Vec-L).首先,基于综合游走策略重新定义采样域节点的采样概率,并结合Word2Vec模型得到信息未被稀释、表示性强的节点图的边嵌入向量;然后,结合关联矩阵得到不存在边或未知边的向量表示,并将得到的边向量用于链路预测.实验结果表明Line2Vec在边向量表示上的有效性,并验证了Line2Vec-L的AUC值更高,由此说明采用Line2Vec可得到表示性更强的边向量,有助于提升链路预测的性能.     

基于不确定抽样的半监督城市土地功能分类方法

为提高分类准确率, 解决城市区域社会功能标签分类难的问题, 提出了一种基于不确定抽样选择策略的半监督城市土地功能分类方法。该算法从轨迹数据中提取城市区域的特征向量, 只需对少量区域进行标签, 根据不确定抽样的主动学习选择策略, 从未标注训练样本中选取具有较多信息的数据, 利用半监督学习算法进行标注, 得到新的标注训练样本添加到训练集, 反复迭代后得到分类结果。实验结果表明, 该方法对不同社会功能的城市区域分类准确率可达90. 2%, 与传统方法相比分类准确率高, 减少了大量标注工作, 在少数标签数据上仍有较好的分类效果。