基于STACKING-BERT集成学习的中文短文本分类算法

由于word2vec、Glove等静态词向量表示方法存在无法完整表示文本语义等问题,且当前主流神经网络模型在做文本分类问题时,其预测效果往往依赖于具体问题,场景适应性差,泛化能力弱。针对上述问题,提出一种多基模型框架(Stacking-Bert)的中文短文本分类方法。模型采用BERT预训练语言模型进行文本字向量表示,输出文本的深度特征信息向量,并利用TextCNN、DPCNN、TextRNN、TextRCNN等神经网络模型构建异质多基分类器,通过Stacking集成学习获取文本向量的不同特征信息表达,以提高模型的泛化能力,最后利用SVM作为元分类器模型进行训练和预测。与word2vec-CNN、word2vec-BiLSTM、BERT-texCNN、BERT-DPCNN、BERT-RNN、BERT-RCNN等文本分类算法在网络公开的三个中文数据集上进行对比实验,结果表明,Stacking-Bert集成学习模型的准确率、精确率、召回率和F1值均为最高,能有效提升中文短文本的分类性能。     

Growth mechanisms of Ag and Cu nanodendrites via Galvanic replacement reactions

Dendritic silver and copper crystals were produced via Galvanic replacement reactions on zinc and aluminum plates, respectively. The growth orientations of these metals were determined using electron microscopy. The results showed that a fast crystal growth associated with a high concentration of metal cations led to kinetically controlled growth along the <112> axes of the cubic close-packed structures. However, a slow growth rate resulted in thermodynamically controlled growth along the [111] axis. The crystal growth was not found to rely upon the direct deposition of metal cations at crystallographic sites on crystal facets, but instead, hydrated metal cations deposited on the crystal surface to form an amorphous coating layer, followed by the reduction of metal cations and crystallization at the crystal/coating interface. Twin defects and stacking faults were often observed across the whole particle and commonly observed ?{422} diffraction spots were explained by stacking faults rather than by the possible presence of any superstructures. The present work offers evidences to claim that both the crystal growth rate and Coulomb interaction between negatively charged crystal surface and metal cations play an important role in the formation of metal dendrites in replacement reactions.     

钻孔稀少区域三维地震勘探资料解释方法研究

本文首先应用实际地质资料阐述了钻孔资料稀少区域的地震反射波地质层位涵义标定方法;然后应用实际资料对提高煤层底板深度精度的时深转换方法进行详细说明,经过钻探与巷道资料验证,证明了正演模拟技术能够正确指导地质层位标定、叠加速度体的充分利用能够有效提高底板标高精度。     

全息图像轮廓线叠差分析桥梁挠度变形的方法

为通过摄影测量手段方便快速地得到整个试验梁的真实挠度,采用Log边缘提取算子提取图像灰度信息和轮廓线信息,再对试验梁下边缘轮廓线进行叠差分析即可得到主梁全息变形数据。通过与传统位移计测量挠度的方法对比发现表明:采用全息图像轮廓线叠差分析桥梁挠度所得结果满足工程应用精度要求;运用此方法,定期采集桥梁轮廓线信息,可以对桥梁进行长期监测,方便快捷找出桥梁的异常变形。     

改进Stacking算法的光伏发电功率预测

针对Stacking算法计算时间较长和样本数据较少的问题,提出了一种基于新向量表示和交叉验证精度加权的改进Stacking算法。采用三层算法结构,第1、2层为初级层,使用随机森林、SVR、XGBoost 3个学习器;第3层为次级层,使用LightGBM对第2层输出再次学习以减弱噪声。用一种新的向量表示法来增大层级之间输入输出数据的样本规模和样本分布密度,来保证数据维度不会随着初级层学习器数目的增多而增大;根据在交叉验证下初级层不同预测模型表现出预测准确度的差异性对结果进行加权处理。利用某光伏电站的发电数据进行实际算例分析,提出的模型在MAE、MSE及$R^2$指标上,相比随机森林和Stacking等模型其预测性能有很大的提升。     

基于Stacking集成元模型的作战体系能力图谱生成方法

作战体系能力图谱是从整体分析作战体系能力的有效方法。针对生成作战体系能力图谱时, 需要对海量实验空间进行仿真而带来时效性较差的问题, 提出一种基于Stacking集成元模型的作战体系能力图谱生成方法。该方法通过建立元模型替代仿真模型, 能够快速准确生成作战体系能力图谱。针对各类元模型适用场景有限、性能波动较大的问题, 提出采用Stacking方法对多种元模型进行集成, 提高不同应用环境下元模型的鲁棒性; 针对建立元模型时精度与效率的矛盾问题, 提出适用于体系能力图谱生成的序贯采样策略, 通过计算拟合不确定性, 选取高价值样本, 在达到相同准确性指标的同时减少采样次数。最后, 通过实验案例分析, 证明了所提方法的有效性。     

基于Stacking集成模型的网络流量预测研究

针对网络流量预测准确率不够高的问题,结合当下流行的集成学习(Ensemble Learning),提出一种Stacking集成多种模型的网络流量预测方法;将天气因素量化后作为输入,使用7个机器学习模型分别对网络流量进行预测,然后根据对不同模型预测结果的Pearson相关系数的分析,选取相关性较弱的5个模型作为Stacking的基模型,进行网络流量的预测,并与不考虑天气因素的预测结果进行比较;结果显示:Stacking方法相较于各基模型都有更好的表现,同时,天气因素的加入使得模型预测结果的准确性提高了;Stacking方法将不同的预测方法进行组合,相较于神经网络方法能以不同模型对数据进行不同角度的处理,能获得比一般方法准确率更高的预测结果,对于网络流量的预测具有一定的实用价值。     

镁质闪石沿a轴堆垛无序性的透射电镜研究

在［１１］的基础上，对龙泉镁质闪石的高分辨透射电镜的研究。在［０１０］晶格条纹像中观察到了宽度为０．４５ｎｍ奇数倍的单斜闪石域，用普通的透射电镜技术观察到了钙质闪石出溶叶片，从而认为该闪石最初结晶时是单斜晶系的。样品中出现的正交域是由单斜相转变而来。由于矿物处于急冷的特殊地质环境中，这种转变未能进行得彻底，而形成了一种沿ａ轴堆垛层宽无序的现象。中还描述了这种闪石中见到的缺陷，并提出了结构模型。     

基于Stacking算法的员工离职预测分析与研究

针对员工离职会增加企业运营成本,降低企业盈利能力的问题,提出使用机器学习的离职员工预测算法;通过Stacking集成学习算法组合Adaboost和Random Forest基本算法构建LRA预测模型,实现对某企业的员工离职预测;实验结果显示,LRA模型的预测准确率为89. 09%,相对于单一算法所构建验证的模型预测准确率明显提高,LRA模型的查准率、查全率以及F1度量指标证实模型的可行性与可靠性,通过对输入LRA模型的特征进行重要性排序,得到影响员工离职的主要因素有加班、工龄(0-3年)、收入、职业级别等,丰富已有研究的结论,有利于企业决策者,针对离职行为进行合理决策。     

基于Stacking集成机器学习的波浪预报

采用多层感知器模型、随机森林模型为第一层子模型，极端树模型为第二层元模型，建立基于Stacking集成机器学习的波浪预报算法，并引入邻域平均法抑制在拐点处产生的数值震荡。以长江口外海2016年1—9月的风速和中国近海波高数据为数据源，利用机器学习风速与有效波高之间的关系，将2016年10—11月的风速、波高数据用于预报结果的对比分析，预报前45 d R²拟合优度达到0.97以上，平均误差最大值为0.08 m，平均相对误差最大值为0.05，预报结果与波浪谱模型结果趋势一致，准确度较高；预报结果后15 d误差增长较快，这与训练集数据中寒潮浪占比较少有关。