基于决策树的网上学习资源建设策略研究

现代远程教育中资源建设人员常常根据各类资源的特征进行分析,以便促进学员网上学习浏览。从数据挖掘技术的角度探讨基于资源特征的分析不仅能促进学员点击率,又能帮助制定相应的资源建设策略。文章介绍了决策树算法原理,讨论了网上学习资源的各项具体特征,应用计算实例说明资源的特征促进点击率决策树分类模型,利用工具Analysis Manager中的决策树方法进行促进点击率规则的数据挖掘。研究表明该应用是切实可行的。     

粒子群优化深度交叉神经网络推荐算法设计研究

深度交叉网络(DCN)因无法针对不同的数据集准确设置超参数,导致点击率预估模型无法达到最优解。基于此,提出粒子群优化深度交叉神经网络推荐算法(PSO-DCN),该算法通过使用粒子群优化算法的全局搜索特性,对深度交叉神经网络层数及每层神经元个数进行全局搜索,并将其最优值放入DCN模型中运行进行参数优化。在不同的数据集上,进行数次实验对比,实验结果表明PSO-DCN在模型训练速度以及测试集上的表现都较优于当前流行的基于深度学习框架的推荐算法。     

基于压缩激励网络的注意力因子分解机的点击率预测模型

在互联网技术日趋成熟的今天,广告的点击率(click-through rate, CTR)预测得到越来越多的关注。在特定的商业环境下,广告CTR预测模型的改进可以带来巨大的经济效益。然而特征的多样性和复杂性使得传统的预测模型难以发现海量特征中的重要特征。针对上述问题,提出了基于压缩激励网络的注意力因子分解机的点击率预测模型(squeeze and excitation network based attentional factorization machines model for click-through rate prediction, SEAFM),SEAFM模型通过压缩和激励网络来动态学习特征的重要性,通过注意力网络来学习特征交互的权重,通过深度神经网络(deep neural network, DNN)模块来隐式建模高阶特征交互。实验结果显示,SEAFM模型比现有相关模型具有更好的性能。     

基于增强型FNN的广告点击率预测模型

为了进一步提高点击率(Click-through rate,CTR)预测模型学习有效特征组合的能力,该文提出一种基于增强型因子分解向量输入神经网络(Enhanced factorization machine supported neural network,EFNN)的广告点击率预测模型。该模型在基于因子分解向量输入神经网络(Factorization machine supported neural network,FNN)的基础上增加了新特征生成层,采用一种针对CTR数据的卷积操作,对数据进行通道变换后引入Inception结构进行卷积,将生成的新特征和原始特征结合,提升了深度网络的学习能力。实验结果证明,添加了新特征生成层的增强型FNN能有效提高广告点击事件的预测准确率。     

基于特征工程的视频点击率预测算法

点击率预测技术在视频推荐系统中具有重要的作用.视频推荐系统可以根据点击率预测的结果调整投放顺序,从而提高用户的真实点击率.在点击率预测问题中,由于数据存在海量性以及不平衡性等问题,点击率预测的精确度一般都较低.针对以上问题,使用特征工程和机器学习相结合的方法,有效地改进了现有的视频点击率预测算法的性能.首先,使用特征工程方法,从原始数据中提取特征,并使用矩阵分解等方法生成交叉特征;然后,分别基于逻辑回归、因子分解机和梯度提升决策树-逻辑回归实现点击率预测模型.实验结果表明,基于因子分解机模型和基于梯度提升决策树-逻辑回归模型的预测精度要优于基于逻辑回归的模型,并且将用户特征和视频特征进行交叉组合能够改进点击率预测的精度.     

增强型注意力网络点击通过率预估方法

针对以往模型在对点击通过率(click-through rate,CTR)进行建模预测时,存在着特征重要性学习不足、特征交互低效等问题,提出了一种增强型注意力网络预估模型,用于动态学习特征重要性和特征交互信息,模型主要由注意力层、双线性交互层和全连接神经网络层构成。注意力层的多尺度多头自注意力机制通过设置不同尺寸子空间增强特征重要性学习能力,在得到特征重要性后,进一步采用张量积双线性交互学习特征交互信息。通过对注意力的子空间尺寸大小、张量积交互形式、神经网络层数和节点个数等进行定量分析,确定模型的最佳参数。实验证明,该模型相比已有模型拥有更好的预测能力。     

基于混合模型的广告转化率问题研究

现有广告转化率预估模型缺乏对深层特征间相互作用的研究,针对这一问题提出了一种新的混合模型.通过高效的梯度提升机(light gradient boosting machine,LightGBM)模型提取高阶组合特征,并结合基于区域的因子分解机(field-aware factorization machines,FFM)模型有效处理稀疏数据的优点进行转化率的预估.为了验证模型的有效性和泛化能力,在两个数据集上讨论了参数对预估结果的影响,并将模型与其他模型进行对比实验.实验结果表明提出的混合模型的预估结果更准确.     

基于域矩阵因子分解机的点击通过率预估增强网络

有效的特征交互,对于工业推荐系统中点击通过率(click-through-rate,CTR)预估的准确性起着至关重要的作用。以往并行结构的CTR预估模型通过将独立的浅层模型和深层模型并行连接,以此来学习特征的低阶交互和高阶交互。但是,这些模型存在浅层模型准确性低、未考虑特征交互时的多语义问题、参数过多、深层模型过度泛化等问题。基于上述问题,提出了一种基于域矩阵因子分解机的点击通过率预估增强网络,通过引入域矩阵优化浅层模型中的交互,提高运算效率,并在深层模型的DNN层与层之间增加了桥接模块,在每层高阶交互后增强对原始特征的记忆能力,将浅层模型和深层模型的结果相加并归一化得到预测值。该模型在Criteo、KKBox、Frappe和MovieLens数据集上进行了大量实验,展现了优秀的预测能力。     

基于深度学习建模多行为动态演化的转化率预估

针对基于用户行为特征的转化率预估在计算广告领域的应用中尚未充分提取和利用用户多种行为模式的动态演化特性等问题,考虑用户兴趣模型和行为模型的动态演化性,提出一种融合注意力机制的深度学习策略,获取用户行为动态演化特征,进而构建基于用户行为特征的转化率预估模型.首先,构建基于门控循环单元(gated recurrent unit, GRU)和注意力机制的用户单个行为序列模型,将提取出的用户行为嵌入表示作为用户行为的动态变化特征;然后,利用自注意力对用户的多行为动态演化进行建模;最后,融合所提取的用户多行为序列向量作为用户的行为特征,构建移动APP广告转化率预估模型.实验结果表明所提取的用户行为序列特征可有效改善转化率预估效果.     

基于PSO-SVR的发酵过程状态预估模型

针对发酵过程中生物参数难以实时在线测量的问题,建立了用于生物参数状态预估的支持向量机软测量模型。考虑到该支持向量回归（SVR）模型的复杂性和冷化特征取决于其三个参数ε,c,γ能否取到最优值,采用粒子群优化（PSO）算法实现对参数ε,c,γ的同时寻优。在此基础上,以饲料用β-甘露聚糖酶为对象,建立了基于PSO-SVR的发酵过程产物浓度状态预估模型。发酵罐控制结果表明：该模型具有很好的学习精度和泛化能力,可实现对β-甘露聚糖酶产物浓度的实时在线预估。     

广告点击率估算技术综述

计算广告是根据给定的用户和网页内容,通过计算得到与之最匹配的广告并进行精准定向投放的一种广告投放机制.广告的点击率预测是指利用点击日志预测的点击率,其结果受到广告的自身性质、广告位置、页面信息、用户性质,以及广告主信誉等诸多因素的影响.有效地预测广告的点击率,对于提高广告投放的效率有着至关重要的作用.本文介绍了广告点击率预测的常用模型,包括历史数据丰富的广告点击率预测模型、新广告和稀疏广告的点击率估算模型和点击率预测的优化模型,并通过真实数据集举例说明了其实现的方法.     

沥青路面温度场分布规律与理论经验预估模型

为预估自然环境下沥青路面温度场,基于传热学原理确定路面温度场的主要影响因素,设计现场试验分析路面温度场分布规律,采用量纲分析结合选取修正系数的方法建立路面温度场的理论-经验预估模型.利用本文模型对海南省沥青路面温度场进行预估,并对影响路面温度场的自然因素进行分析.研究结果表明:用当月(7月份)参数对当月(7月份)路面温度进行预估时,本文预估模型在路面不同深度处的平均相对误差不大于5％,将当月(7月份)参数推广到其他月份(8月份、12月份、1月份)时,本文预估模型在路面不同深度处的平均相对误差不大于10％.最大相对误差一般出现在低温时段,高温时段预估精度相对较高;气温是影响全天路面温度的主要因素,太阳辐射是影响高温时段路面温度的主要因素,风速对路面温度的影响不能忽略.     

在线广告中点击率预测研究

随着互联网的发展和用户的增长,广告行业从传统的线下广告模式,逐步转变为线上广告模式.同时,由于大数据分析技术的运用,线上广告模式相比于传统广告也体现了巨大的优越性.广告主之间相互竞争,通过竞价的方式,将自己的广告投放在运营媒体的广告位上.所以,在投放前预测该广告可能被用户点击的概率(CTR),对于广告主减少成本和增加可能收入来说非常重要.本文在调研了目前常用的广告点击率预测模型的基础上,选取广告主、广告和投放媒体平台信息作为预测模型的特征,采用真实数据集验证说明各种模型的优劣性,以及不同特征对广告点击率预测结果的影响.     

基于序列特征的点击率预测模型

点击率预测模型是主流推荐系统中十分重要的部分.根据点击率预测的打分来调整商品的展示策略,对提高业务的转化率、改进用户体验等有着重要的意义.传统的点击率预测模型是利用用户特征和商品特征,对点击率进行预测.然而,用户行为序列的结构特征,如周期性规律、趋势等也能一定程度地体现用户行为的倾向.针对部分信息利用上的空缺,使用时间序列分析单元,将提取用户行为序列的特征作为用户特征的扩展,结合因子分解机结构将其与用户、商品特征进行交叉,能够有效提高特征质量,优化点击率预测模型的性能.实验表明,结合用户行为序列特征进行交叉优化的方法能够对点击率预测模型的表现带来很大提升,提高点击率预测的精度.     

基于BP神经网络的市政工程造价预估研究

为了提高效率,提出了一种基于BP神经网络的工程造价预估模型。该模型在详细分析市政排水管道工程的项目特征和工作内容的基础上,找出了影响市政工程造价的主要因素,建立了造价影响因素和工程造价之间的映射关系,以工程的特征因素作为神经网络的输入向量,将所需的工程造价作为神经网络的输出向量,通过将已有相似工程的造价信息进行输入,训练网络函数,使函数不断修正改进,从而实现工程特征输入空间到工程造价输出空间的映射,达到了准确预估市政工程造价的目的。实验结果表明,本文建立的仿真模型切实可行,是比较理想的市政工程造价预估方法,可以预估到比较准确的市政工程造价。     

基于足尺沥青路面加速加载车辙试验研究

本文对沥青路面的车辙展开研究,基于足尺沥青路面进行加速加栽车辙试验,在路面加载的各个时期对车辙的断面特征及车辙深度等数据进行了采集。利用Shami对于不同试验温度和荷载作用次数下的APA试验结果进行分析,验证了车辙深度预估模型并对重载交通沥青路面进行车辙预估。     

基于随机森林回归算法的山洪灾害临界雨量预估模型

针对山洪灾害临界雨量影响因素众多、计算流程复杂的问题,以山东省临朐县山丘区237个沿河村落为研究对象,选取有实测资料、计算条件较好的沿河村落,采用水文水力学法,计算山洪灾害临界雨量作为原始数据集;选取降雨特征、流域特征、沿河村落特征、河道特征等参数,基于随机森林回归算法,构建山洪灾害临界雨量预估模型,利用网格搜索法及K折交叉验证法调整预估模型参数;确定无实测资料的沿河村落山洪灾害临界雨量指标,并验证预估模型精度,分析特征参数重要度。结果表明：所构建的预估模型具有较高的准确性与泛化性,训练集与测试集的决定系数均大于0.9,预估效果较好;流域面积、流域最长汇流路径比降、降雨均值、流域平均坡度等特征参数的重要度相对较高。     

内模原理在肢体平衡中的模型及应用

为了解决肢体平衡问题时可以保证系统在运动控制过程中的精确性和稳定性,该文在内模原理思想的基础上提出了一种基于预估器的小脑模型(KECFEL)。这种模型由前馈神经网络控制器构成;训练前馈模型中神经网络的教师信号由预估器以及反馈控制器(CFC)的输出来提供,并采用在线学习对网络进行权值更新与网络训练;同时采用比例微分控制器(PDC)作为反馈控制器以确保全局稳定性。通过该模型对倒立摆的仿真实验验证该模型对肢体平衡控制的有效性。     

基于特征优化的广告点击率预测模型研究

针对互联网广告数据具有高维稀疏性的特点,在现有的点击率(Click-Through Rate, CTR)预测问题的相关理论和技术基础上,给出了一种基于梯度提升决策树(Gradient Boosting Decision Tree, GBDT)的卷积神经网络(Convolutional Neural Networks, CNN)在线广告特征提取模型(CNN Based on GBDT,CNN+). CNN+模型不仅能从原始数据中提取出深度高阶特征,还能解决卷积神经网络在稀疏、高维特征中提取特征困难的问题.在真实数据集上的实验结果表明,与主成分分析(Principal Component Analysis,PCA)和梯度提升决策树这两种特征提取方法相比, CNN+模型提取的特征更加有效.     

基于特征关联模型的广告点击率预测

点击率(click-through rate,CTR)预测是互联网公司中重要的研究课题,预测结果与上下文、用户属性和广告属性息息相关,CTR的有效预测对提高广告公司的收入至关重要。该文在对传统逻辑回归(logistic regression,LR)模型的相关原理和参数优化算法介绍的基础上,抽离出用户特征和广告特征,将用户与广告之间特征的关联信息添加到Sigmoid函数中得到一种特征关联模型。与以往求解方法不同,该方法采用在线最优化算法FTRL(follow-theregularized-leader)提高参数计算效率,采用混合正则化来防止训练过拟合。真实的广告数据集上的实验结果表明:该方法与传统的模型和方法相比具有更好的预测精度、效率、参数敏感性和可靠性。