基于KPCA的功能模拟智能控制系统模型研究

为了模拟人的行为实现智能控制,提出一种基于核函数主元分析法(KPCA)和加权支持向量机的精简输入向量的数学建模方法,将样本数据从输入空间非线性变换,映射到高维特征空间,在高维特征空间利用PCA进行特征提取,实现输入相空间重构,采用加权支持向量机回归建模。通过对人熟练驾驶自行车过程的模拟,重构了人控制复杂对象的数学模型,实现对复杂对象的智能控制。实验证明:该系统模型精度较高,与人工驾驶自行车比较控制效果良好。     

基于小波分解-卷积神经网络和支持向量回归的短期负荷预测

为了提高短期负荷预测精度,考虑到除历史负荷数据之外的其他因素对短期负荷预测的重要影响,提出了一种基于离散小波分解(wavelet decomposition, WD)、卷积神经网络(convolutional neural network, CNN)和支持向量回归(support vector regression, SVR)的负荷预测模型。首先,该方法通过小波分解算法对历史负荷数据进行分析与重构,得到长度相同的历史负荷数据,降低了原始序列中非平稳性对预测精度的影响;其次,对天气因素、日期类型进行特征构造,得到特征数据;最后,将处理后的负荷数据输入卷积神经网络支持向量回归机模型,将天气特征数据输入反向传播(back propagation, BP)神经网络支持向量回归模型,通过两个模型结果的叠加得到最终的预测值。实验结果表明,模型的预测精度和效率优于传统的CNN网络、SVR网络以及输入不进行划分的CNN-SVR模型,验证了其可行性。     

基于特征优化的广告点击率预测模型研究

针对互联网广告数据具有高维稀疏性的特点,在现有的点击率(Click-Through Rate, CTR)预测问题的相关理论和技术基础上,给出了一种基于梯度提升决策树(Gradient Boosting Decision Tree, GBDT)的卷积神经网络(Convolutional Neural Networks, CNN)在线广告特征提取模型(CNN Based on GBDT,CNN+). CNN+模型不仅能从原始数据中提取出深度高阶特征,还能解决卷积神经网络在稀疏、高维特征中提取特征困难的问题.在真实数据集上的实验结果表明,与主成分分析(Principal Component Analysis,PCA)和梯度提升决策树这两种特征提取方法相比, CNN+模型提取的特征更加有效.     

基于CNN多层特征加权融合的闭环检测算法

针对深度学习用于闭环检测中存在空间细节特征丢失的问题,提出基于卷积神经网络(CNN)多层特征加权融合(CNN-F)的闭环检测算法.首先,采用预训练的CNN模型作为特征提取器,从网络中提取输入图像的浅层几何特征和深层语义特征;然后,调整特征图数据进行加权融合,将融合的特征图进行主成分分析(PCA)降维处理后,计算相似性得分用于闭环检测;最后,将算法在数据集New College和City Centre上进行测试.实验结果表明:CNN-F可以有效改善图像特征描述效果,相比于直接使用CNN的闭环检测算法,该算法有更好的准确性和鲁棒性.     

基于CNN的矿井富水区电磁反演研究

针对传统卷积神经网络(CNN)在电磁反演中提取数据特征时冗余信息多,导致网络反演精度降低的问题,提出一种变步长卷积神经网络电磁反演方法,将输入数据拓展为一维行向量,在各层网络中交替使用不同步长的卷积核进行卷积运算提取数据特征,利用变步长卷积方式替代传统网络的池化层,完成对冗余信息的过滤和特征信息的选择,并通过小卷积核级联的方式增大网络感受野提高网络的非线性表达能力。通过二维时域有限差分法(2D-FDTD)对不同电磁参数的富水区模型进行正演计算,并根据计算得出的电场时域响应特征建立样本数据集;将变步长卷积神经网络应用于电磁反演研究,建立适用于富水区问题的变步长卷积神经网络电磁反演模型,并验证变步长卷积神经网络电磁反演方法的精度。结果表明：该方法对坐标位置的反演平均相对误差为2.85%,对相对介电常数的反演平均相对误差为6.07%,反演结果与实际模型吻合度较高。所提方法对提高矿井富水区电磁反演的精度和效率具有一定的理论参考价值。     

基于CNN的棉田杂草识别方法

针对杂草的精确喷洒问题提出一种基于卷积神经网络(Convolution Neural Network, CNN)的棉花植株和杂草的检测识别方法。首先采集不同环境下棉田中棉花植株和不同种类的杂草图像作为网络模型的数据集，对数据集进行数据增强来增加数据集的数量，将其分为训练集与测试集；然后构建CNN模型，在模型中添加Dropout层，以防止网络出现过拟合，将训练集数据输入网络模型，使模型学习棉花植株和杂草的特征信息；最后将测试集数据输入CNN模型，测试CNN模型对棉花植株和杂草的识别能力。研究结果表明CNN对于棉花植株和杂草的分类结果精度超过了99.95%,识别时间为197.2s,证明CNN可以快速高效的识别棉田中棉花植株和杂草，为农业智能精确除草装备的研发提供研究基础。     

基于双路CNN的多姿态人脸识别方法

提出了一种基于卷积神经网络(Convolutional Neural Network,CNN)的多姿态人脸识别方法。利用该方法可以将输入的人脸投影到高维特征空间并输出具备姿态鲁棒性的人脸特征,从而进行精确的多姿态人脸识别。经过大量的实验验证,该模型在多个数据集上取得了良好效果。与传统的单路CNN网络层次结构不同,本文方法采用双路CNN网络层次结构并结合度量学习来优化传统的CNN模型。最后,使用Tensorflow深度学习框架进行实验,实验结果表明,该框架的识别准确率比目前几种常用的多姿态人脸识别算法的识别准确率更高。     

融合聚类-卷积-门循环的居民用电短期负荷预测方法

对居民用电进行准确的短期负荷预测是电力部门合理制定每日调度计划的重要依据。提出了一种基于BIRCH(balanced iterative reducing and clustering using hierarchies)聚类算法-卷积神经网络(convolutional neural network, CNN)-门控循环单元(gated recurrent unit, GRU)的短期电力负荷预测方法。根据智能电表采集的历史负荷数据，该方法首先采用BIRCH聚类算法分析不同用户的用电习惯，将用户聚类为多个用户群；然后构建由负荷数据和时间以及气候信息组成的多特征时间序列数据集，并采用训练集进行CNN-GRU预测模型构建。训练集首先输入到基于一维卷积层设计的CNN网络，以提取不同特征变量之间的非线性关系；之后将数据输入GRU网络，以提取数据在时间维度上的时序特性，最后由全连接层输出短期负荷预测结果。以爱尔兰能源管理委员会提供的公开数据集作为实际算例，以ANN网络、CNN网络及CNN-GRU网络为对比模型，实验结果表明，所提出方法的平均绝对百分比误差达到了2.932 1%,有较高的预测精度和...     

基于注意力机制的远程监督实体关系抽取

关系抽取是许多信息抽取系统中的一个关键步骤, 旨在从文本中挖掘结构化事实. 在应用传统的远程监督方法完成实体关系抽取任务时存在 2 个问题: ① 远程监督方法将语料库中的文本与已标注实体和实体间关系的知识库启发式地对齐, 并将对齐结果作为文本的标注数据, 这必然会导致错误标签问题; ② 目前基于统计学的方法过于依赖自然语言处理工具, 提取特征处理过程中生成的噪声积累严重影响抽取结果. 为了解决远程监督存在的弊端, 提出了一种基于注意力机制的端到端的分段循环卷积神经网络(convolutional neural network, CNN)模型. 为了检测更加细微的特征, 在网络输入层添加了注意力机制, 自动学习句子中与关系抽取相关的内容; 基于位置特征和词向量特征对句子进行编码, 并使用分段卷积神经网络(piecewise CNN, PCNN)抽取句子特征进行分类, 在网络中使用了效率较高的最大边界损失函数来衡量模型的性能. 该方法在 New York Times (NYT)数据集上的准确率比经典的 PCNN+MIL 模型提高了 2.0%, 比经典的 APCNN+D 模型提高了 1.0%, 与其他几种基线模型相比, 该模型准确率表现出色.     

基于深度学习特征提取和GWO-SVM滚动轴承故障诊断的研究

针对传统滚动轴承故障诊断的方法需要人为构造算法提取并选择故障特征,孤立地对待特征提取和特征选择,提出了应用卷积神经网络(Convolutional Neural Networks, CNN)和灰狼优化算法(Grey Wolf Optimizer,GWO)的支持向量机(Support Vector Machine, SVM)相结合的故障诊断新方法.首先将原始信号转化为尺度谱图,然后选择预训练好的CNN模型AlexNet对信号的尺度谱图进行特征提取,再通过主成分分析法(Principal Component Analysis,PCA)对得到特征数据进行降维,最后将归一化后的数据输入到灰狼优化算法的SVM分类器中,从而实现轴承健康状态的故障诊断.使用美国凯斯西储大学提供的轴承数据进行仿真实验,结果表明所提方法能够自适应提取合适的特征,并有较高的分类准确率.