基于仿真样本生成的极速学习机泛化能力改进算法

极速学习机出色的训练速度和泛化能力受到了广泛的关注,已有的针对于提升极速学习机泛化性能的学习算法主要集中于优化其框架结构,增加了模型的复杂度并容易产生过拟合.提出一种基于仿真样本生成策略的极速学习机泛化能力改进学习算法(Extreme Learning Machine Generalization Improvement through Synthetic Instance Generation,SIGELM),该算法不需要修改极速学习机的框架结构(包括输入层权重、隐含层偏置、隐含层节点个数、隐含层节点激活函数类型等),而是利用与训练集中高不确定性训练样本近似同分布的仿真样本优化极速学习机的输出层权重.为了获得符合要求的仿真样本,SIGELM在高不确定性训练样本的邻域内选择能够增加极速学习机训练表现的仿真样本.实验结果证实该算法显著地改进了极速学习机的泛化能力,同时有效地控制了极速学习机的过拟合.     

基于聚类核的核极速学习机

传统的神经网络学习算法(如BP算法)需要调整大量的网络参数,例如输入权值以及隐层单元的偏置,而极速学习机只需要设置网络的隐层节点个数,在算法执行过程中不需要调整网络的输入权值,便可以产生唯一的最优解,因此它具有学习速度快且泛化性能好的优点.随着极速学习机的研究发展,核极速学习机的相关理论被提出.核极速学习机是将核函数引入到极速学习机中,可以得到最小二乘解,具有更稳定的泛化性能.本文在核极速学习机的基础上提出了一种基于Bagged聚类核的核极速学习机的分类方法,首先对已有的标记样本和所有的无标记样本采用多次k均值聚类,去构造Bagged聚类核,然后对Bagged聚类核和径向基核进行求和,最终用于核极速学习机的训练中.与传统核极速学习机相比,本文提出的方法可以使用所有的无标记样本,从而尽可能地提高分类的准确率.最后本文通过实验验证了方法的可行性.     

基于自适应极速学习机的遥感图像目标识别

随着遥感技术的突飞猛进,遥感图像目标识别在军事方面以及民用方面都有重要的应用.但是在对遥感图像目标识别的过程中,由于遥感图像的高分辨率等客观条件限制,无法实现对目标实时和精确的识别.极速学习机具有很快的学习速度并且是一次完成的,在小样本学习的问题中得到了广泛的应用.可以先对遥感图像进行特征提取,然后用极速学习机的神经网络方法对遥感图像目标进行识别,这是解决问题的一种有效方法.本文首先在极速学习机的基础上针对极速学习机隐层神经元过多的问题进一步提出隐层神经元数目自动确定的自适应极速学习机的算法,然后介绍了遥感图像特征提取的方法,最后通过实验仿真验证自适应极速学习机算法在遥感图像目标识别上的准确性和实用性.     

基于邻域粗糙集的极速学习机算法

将基于单隐层前馈神经网络(SLFN)提出的极速学习机(ELM)算法和邻域粗糙集理论进行结合,提出基于邻域粗糙集的极速学习机算法,采用邻域粗糙集对样本集进行属性约简,去掉冗余属性,利用ELM对约简后的数据集进行学习,并对数据样本进行预测。实验表明ELM算法相比具有更高的训练精度和测试精度。     

基于内容和最近邻算法的多臂老虎机推荐算法

本文提出一种基于内容和最近邻（k-近邻）的多臂老虎机推荐算法：把推荐问题转化成多臂老虎机问题,把冷启动问题转化成EE（explore exploit）问题;通过观察用户特征,以用户特征为内容,计算用户之间的相似度并得出用户的最近邻;最近邻用户基于内容对推荐池物品进行预期评价,根据用户最近邻的预期评价情况,选择综合最优的物品推荐给用户. 并通过采用来自Movielens和Jester的真实数据集进行实验,实验结果表明：结合内容和最近邻算法的推荐算法更优且更具实用性,尤其在解决冷启动问题上效果显著.     

基于用户兴趣的动态近邻协同过滤算法

为了帮助人们从大量互联网资源中找到感兴趣的信息,推荐系统由此而生.其中,应用最广泛,也是最早出现的推荐算法包括协同过滤算法,但是该算法还存在着许多不足之处.该算法主要考虑用户的评分数据,未能结合项目进行考虑,同时在选取当前用户的最近邻用户时,通常统一规定了近邻用户数目,没有结合每个用户的实际数据,导致推荐的效果无法取得最优.因此,本文在充分考虑用户评分的情况下,还结合项目信息加入了用户的兴趣偏好,提出了一种基于用户兴趣的动态近邻协同过滤算法.综合用户的标签数据和评分数据来计算相似度,可以很好的缓解仅依靠评分数据带来的稀疏性问题.同时在得到用户之间的相似度之后,设定2个阀值,分布选取最近邻用户.只有当用户间相似度超过阈值,该用户才会被选择为最近邻的用户,动态的找到每一个用户的严格最近邻用户.通过实验,与常用的协同过滤算法相比,本文提出的算法推荐的误差更小,并且为以后的研究工作奠定了基础.     

一种综合用户和项目因素的协同过滤推荐算法

针对用户评分数据极端稀疏情况下传统协同过滤推荐算法的不足,提出了一种综合用户和项目因素的最近邻协同过滤推荐(HCFR)算法.该算法首先以一种改进的相似性度量方法(ISIM)为基础,根据当前评分数据的稀疏情况,动态调节相似度的计算值,真实地反映彼此之间的相似性.然后,在产生推荐时综合考虑用户和项目的影响因素,分别计算目标用户和目标项目的最近邻集合.最后,根据评分数据的稀疏情况,自适应地调节目标用户和目标项目的最近邻对最终推荐结果的影响权重,并给出推荐结果.实验结果表明,与传统的只基于用户或基于项目的推荐算法相比,HCFR算法在用户评分数据极端稀疏情况下仍能显著地提高推荐系统的推荐质量.     

基于改进平方根法的增量式正则极速学习机及在回归中的应用

提出了一种基于改进平方根法的增量式正则极速学习机(ISR-RELM),该方法在求解正则极速学习机(RELM)输出权值时有效减少了隐层神经元递增过程中的计算量。9个基准回归数据集预测表明,ISR-RELM不仅预测精度高,而且所用的训练时间比文献中的3种方法(ISR-RELM,LD-RELM和CF-RELM)都少。因此ISR-RELM是解决数据回归问题的一种新颖且高效的方法。     

K-Means聚类中心最近邻推荐算法

针对KNN算法在处理推荐系统由稀疏性问题所造成的计算复杂度较大以及评分估计值有误差等问题,本文提出了K-Means聚类中心最近邻推荐算法,首先对初始数据集进行聚类运算,然后找出数据集的聚类中心;其次寻找每个用户所属的聚类中心,将聚类中心代替目标用户放入KNN算法中寻找用户的最近邻;最后做出评分预测.同时又考虑到目标用户...     

基于最近邻居聚类的协同过滤推荐算法

随着推荐系统用户数量和服务项目增多,可扩展性问题成为推荐算法应用的瓶颈.目前,大部分推荐算法以及基于这些算法的改进主要集中在推荐质量上,随着系统规模扩大,暴露出实时推荐效率降低和运行耗时的缺点.针对这些问题,提出了一种基于最近邻聚类的协同过滤推荐算法.首先,该算法采用二分k-means算法把评分相似的用户划分到相同的类中,以此建立用户聚类模型.然后,从聚类模型中挑选出目标用户的最近邻居类作为检索空间.最后,从检索空间中搜索目标用户的最近邻居,由最近邻居的信息产生最终的推荐列表.实验结果表明,该算法在保持较高的推荐质量的同时可以显著提高推荐系统的效率,比传统的协同过滤算法可扩展性强.     

基于两阶段聚类的协作过滤推荐算法

协作过滤推荐是目前主流的个性化推荐方式,但数据稀疏问题影响了推荐系统的性能.提出了基于两阶段聚类的协作推荐算法,降低了数据的稀疏性,提高了最近邻的准确度,而且推荐精度较以往传统的算法有明显提高,时间复杂度也有明显降低.     

基于RGB空间的非经典K最近邻算法应用研究

为迅速、准确、无过多人工干预的进行图像分割,提出了一种K最近邻算聚类方法并将其应用于图像处理。与经典K最近邻算法在样本库中寻找最近邻点不同,该算法在待分割图像的RGB空间中寻找每一个像素点的K个最近邻点,参考所有像素点同最近邻点之间的平均距离,引入聚类阈值并对像素点的归属进行判断。对火焰图像的分割实验结果表明,在分割精度相接近的情况下,该算法的分割速度要快于其它几种常见算法。     

DBM-ELM深层网络模型

使用深层限制波尔兹曼机实现高维数据非线性降维,再结合极速学习机算法,提出了一种复合的DBMELM深层网络模型.该模型在复杂高维数据的分类问题上,能较好的将高维数据简化到低维空间,进而得到较好的分类效果,实现复杂函数的表示.最后在人脸和手写数字识别实验上得到了很好的证明.     

一种改进的基于案例推理的建模算法

基于案例推理的方法是一种基于知识获取的方法,也是一种新型的基于数据驱动的建模方法。基于案例推理的核心是案例检索。针对基于案例推理系统中案例检索工作,本文提出了一种改进的K最近邻回归建模算法。首先,基于聚类思想的最近邻回归算法可以实现对案例库的有效划分,从而提高案例检索质量;其次,针对K最近邻算法中邻居个数的选取问题,采用粒子群算法确定需要的邻居个数,取代传统的依靠经验确定邻居个数K的做法。通过对Mackey-Glass混沌时间序列数据进行仿真预测,验证了该方法的可行性。     

基于用户多种关联信息和项目聚类的推荐算法

基于用户背景信息的推荐算法中仅通过降低矩阵稀疏性来预测用户评分,造成算法的推荐准确率偏低。为解决上述问题,提出一种基于用户多种关联信息和项目聚类的推荐算法。首先通过加入用户与项目间的关联信息改进相似度计算方法来更加准确计算获取相似用户,将最相似的前K个用户作为目标用户的最近邻;然后根据目标用户最近邻对项目的评分预测目标用户未评分项目的预评分,并把预评分填充到用户项目评分矩阵;最后通过协同过滤算法得到最终预评分,在此基础上结合项目聚类产生推荐项目列表。通过MovieLens数据集上的实验结果表明,该算法有效降低了矩阵稀疏性、减小评分误差和提高准确率。     

基于状态转移算法的极限学习机

目前极限学习机在训练模型时存在占用计算资源多和模型精度低等问题.为了解决上述问题,提出了一种基于状态转移算法的极限学习机,可提升算法计算效率和模型精度.利用状态转移算法的全局搜索特性求解线性方程组,得到极限学习机的输出权重矩阵,进而完成建模.在分类和回归数据集上与极限学习机和其他主流算法进行对比,所提方法可以利用较少的隐藏层节点得到高精度的模型,同时具有更好的学习准确率.这种高性能的建模方式弥补了极限学习机的不足.     

约束的移动对象最近邻轨迹查询

提出了一种新的查询概念,即约束的移动对象最近邻轨迹(constrained nearest neighbor search on moving objects trajectories,简称CNNMOT)查询.针对两阶段算法分阶段处理最近邻查询和范围查询的缺陷,对传统空间最近邻算法进行了改进和扩展,使其能够合并到一步完成,并对传统的mindist定义进行了修改.实验结果表明:该改进算法能较好地克服两阶段算法的缺陷,并在数据量较大时仍保持较高的性能.     

融合用户偏好优化聚类的协同过滤推荐算法

提出一种融合用户偏好优化聚类的协同过滤推荐算法。首先利用RP-IIP算法形成细粒度用户-项目类型偏好矩阵,真实反映出用户兴趣偏好并缓解数据稀疏性;然后在该矩阵上利用蝙蝠优化的用户模糊聚类算法进行聚类,增强了用户的聚类效果并提高可扩展性,从隶属度较高的簇中选取目标用户的最近邻居,提高了最近邻选取的准确性;最后,建立用户加权相似度模型对目标用户进行评分预测并产生推荐,进一步提高推荐结果的准确性。实验结果表明,所提出的算法能够产生更好的推荐结果。     

基于最小距离均衡系数的TSP问题求解算法

提出了一种基于最小距离均衡系数的TSP求解算法,该算法在最近邻算法(NearestneighborAlgorithm)的基础上进行了改进,引入了距离均衡系数的概念,把优化方法从局部最优转化为全局最优,即将最短路径问题转化为最小距离均衡系数问题.仿真结果表明,该算法能够弱化导致最近邻法等算法性能下降的因素,从而在不同情况下保持算法的高有效性.     

基于项目与客户聚类的协同过滤推荐方法

文章给出了一种基于项目与客户聚类的协同过滤推荐方法,将聚类分析与协同过滤方法紧密结合;通过降低项目空间维数,减少了用户在寻找最近邻邻居的搜索强度,增强了推荐算法的实时性,提高了推荐服务的质量。