信息几何方法及其应用

信息几何是近年来快速发展起来的前沿性基础学科,是在Riemann流形上利用现代微分几何方法研究统计学领域问题而提出的一套新的理论体系.同时,信息几何作为一个具有深刻理论基础的跨学科研究课题,不仅为解决统计学问题引入新的观念,也为系统理论、信息科学、神经网络和统计推断等领域的研究提供新的方法.正是由于信息几何在解决相关领域科学问题时所拥有的强大的理论和技术优势,吸引着众多学者不断探索信息几何在自然科学各个领域的潜在应用.文章首先简要介绍了信息几何理论的一些基本概念,包括统计流形及其上的黎曼度规、仿射联络以及散度的概念,并介绍了对偶平坦流形上两个重要定理;然后,综述了国内外关于信息几何理论在神经网络、统计推断、系统控制理论、物理学、通信编码和医学成像等领域的最新应用进展.最后对信息几何的研究前景进行了展望并总结全文.     

神经网络的统计学习理论基础

介绍神经网络的统计学习过程和理论．讨论基于经验风险最小化的学习理论对神经网络推广性能的影响,分析基于结构风险最小化的支持向量机。认为神经网络因其出色的高度非线性映射能力、自组织和适应能力、记忆联想能力,使得神经网络成为机器学习的重要研究领域。     

等熵相对论Euler方程组非线性波的性质

讨论了等熵相对论欧拉方程组黎曼问题解的几何性质,在相互作用条件下,分析了作用前后非线性波的关系,得到了等熵相对论Euler方程组柯西问题非线性波的性质,并通过激波曲线参数化,得到了非线性波的几何性质.     

基于黎曼流形的MIMO雷达目标检测方法

针对样本数少时不能用样本协方差代替统计协方差的问题,提出了一种基于黎曼流形的单基地MIMO ( Multiple-Input Multiple-Output) 雷达目标检测新方法。该方法利用拓普利兹-厄米特正定( THPD: Toeplitz- Hermitian Positive Definite) 矩阵会在信号空间形成黎曼流形的特点,通过burg 递推法分别生成单快拍下接收信 号和噪声的THPD 协方差矩阵,并计算噪声THPD 协方差矩阵的黎曼均值,将其与接收信号THPD 协方差矩阵 之间的黎曼距离作为检测统计量。该方法可增加黎曼流形上接收信号与噪声间的差异性。仿真结果表明, 与传统的基于欧几里得距离的检测方法相比,显著提高了低信噪比和单快拍下的目标检测性能。     

CS在信号处理中的应用

随着信息处理技术的不断发展,人们对信息需求量越来越大,这给信号采样、传输和存储的实现带来的压力越来越大,如何有效地获取信号中的信息是电子信息领域中亟待解决的问题之一。目前,国际上出现了一种新的信息获取理论,即Compressed Sensing(CS)理论,为该问题的解决提供了契机。本文综述了CS理论框架,着重介绍了CS在信号处理中的应用:包括信号的重构和信号参数的估计。并且对信号的重构与信号参数估计做了仿真。仿真结果证实了本文算法的有效性。     

黎曼猜想浅谈

本文简要介绍了黎曼猜想及其研究工作的若干进展情况,并阐述了黎曼猜想在数学领域中的重要地位。     

黎曼流形上内蕴方式的图像轮廓提取

提出了一种基于黎曼几何观点的图像轮廓提取模型. 在图像空间上直接赋予一种由图像灰度信息导出的黎曼度量, 使之成为黎曼流形, 然后在此黎曼流形上利用水平集方法对曲线以平均曲率流进行演化. 由于灰度信息已嵌入黎曼流形中, 演化以内蕴方式进行. 计算结果表明该方法是已有模型的推广, 可对曲线演化过程进行更加精细的控制. 数值实验结果证实了该方法的有效性, 并展示了该模型的一些特点.     

基于对角递归神经网络的控制系统

针对角递归神经网络具有结构简单、收敛速度快,可广泛用于非线性系统的辨识与控制的特点.基于工业自动化通用技术平台(IAP),采用图形化控制策略组态技术开发了一套基于对角递归神经网络的控制系统,该系统具有基于参考模型跟踪的控制结构,可快速自适应地调整控制器参数.仿真实验结果表明,基于对角递归神经网络的控制系统控制精度高、稳定性好,可成为处理复杂工业过程,尤其是解决不确定和非线性领域问题的有效工具.     

基于黎曼度量的最小二乘支持向量机模型选择

针对最小二乘支持向量机(LS-SVM)模型选择效果不稳定、易于过学习的问题,提出了一种基于黎曼度量的模型选择方法.首先,基于信息几何理论,证明了LS-SVM模型泛化能力受样本点二阶协变张量的影响;其次,进一步证明了同时最小化所有样本点的黎曼度量之和与权重向量的L2范数即可提高模型泛化能力;在此基础上,将LS-SVM模型选择转换为一个多目标优化问题,引入多目标粒子群算法选取最优超参数.采用仿真与真实UCI数据集对所提方法进行了对比实验,结果表明,与传统LS-SVM与基于留一法模型选择的LS-SVM相比,所提方法可以取得更小的泛化误差,同时数值稳定性更好.     

Stein方程数值解的黎曼梯度算法

基于正定矩阵流形的信息几何结构, 使用黎曼梯度算法来获得Stein方程的数值解. 利用弯曲的黎曼流形上的测地距离作为算法的目标函数,并将流形上的测地线作为算法的收敛路径. 通过数值实验讨论了算法的步长和收敛速度的关系,从而得到算法的最优步长.      

推荐系统研究综述

随着互联网技术的快速发展,如何对海量网络信息进行挖掘分析,已成为热点和难点问题。推荐系统能够帮助用户在没有明确需求或者信息量巨大时解决信息过载的问题,为用户提供精准、快速的业务(如商品、项目、服务等)信息,成为近年来产业界和学术界共同的兴趣点和研究热点,但是,目前数据的种类多种多样并且应用场景广泛,在面对这种情况时,推荐系统也会遇到冷启动、稀疏矩阵等挑战。深度学习是机器学习的一个重要研究领域和分支,近年来发展迅猛。研究人员使用深度学习方法,在语音识别、图像处理、自然语言处理等领域都取得了很大的突破与成就。目前,深度学习在推荐领域也得到了许多研究人员的青睐,成为推荐领域的一个新方向。推荐方法中融合深度学习技术,可以有效解决传统推荐系统中冷启动、稀疏矩阵等问题,提高推荐系统的性能和推荐精度。文中主要对传统的推荐方法和当前深度学习技术中神经网络在推荐方法上的应用进行了归纳,其中传统推荐方法主要分为以下3类:1)基于内容推荐方法主要依据用户与项目之间的特征信息,用户之间的联系不会影响推荐结果,所以不存在冷启动和稀疏矩阵的问题,但是基于内容推荐的结果新颖程度低并且面临特征提取的问题。2)协同过滤推荐方法是目前应用最为广泛的一种方法,不需要有关用户或项目的信息,只基于用户和诸如点击、浏览和评级等项目的交互信息做出准确的推荐。虽然该方法简单有效但是会出现稀疏矩阵和冷启动的问题。3)混合推荐方法融合了前2种传统推荐方法的特点,能取得很好的推荐效果,但在处理文本、图像等多源异构辅助信息时仍面临一些挑战与困难。依据神经网络基于深度学习的推荐方法主要分为4类:基于深度神经网络(DNN)的推荐方法、基于卷积神经网络(CNN)的推荐方法、基于循环神经网络(RNN)和长短期记忆神经网络(LSTM)的推荐方法、基于图神经网络(GNN)的推荐方法、将深度学习技术融入到推荐领域,构造的模型具有以下优势:具有较强的表征能力,可以直接从内容中提取用户和项目特征;具有较强的抗噪能力,可以轻易地处理含有噪声的数据;可以对动态或者序列数据进行建模;可以更加精准地学习用户或项目特征;便于对数据进行统一处理,并且可以处理大规模数据。将深度学习技术应用到推荐领域,可以积极有效地应对传统推荐方法面临的挑战,提高推荐效果。     

机器视觉技术的农业应用研究进展

 机器视觉技术已广泛应用到农业生产的诸多领域。综合国内外优秀研究成果,阐述了现阶段机器视觉在农业方面应用的主要形式,介绍了机器视觉在农作物精选与质量检测、植物生长信息监测、农田视觉导航等应用方向的研究成果,通过分析其创新性的图像处理算法、机器视觉系统的组成,提出了当前机器视觉农业应用仍存在可靠性差、成本高、智能化水平不高等问题。结合当前机器视觉在各种领域的研究和应用情况,对未来机器视觉在农业应用的发展方向进行展望,认为基于嵌入式处理模块和多技术融合的机器视觉系统将成为未来主要发展趋势,以卷积神经网络为代表的深度学习模型也将成为未来图像识别的核心技术,并将极大改善目前机器视觉在农业应用存在的诸多问题。     

基于卷积神经网络和迁移学习的结构损伤识别

针对传统基于机器学习损伤识别方法手工提取特征适应性差、识别能力弱等问题,提出一种基于卷积神经网络和迁移学习的新颖、快速结构损伤识别方法.首先根据损伤特征向量特点,提出原始信号的分帧处理流程;其次考虑多传感器数据融合要求,建立多通道一维卷积神经网络结构损伤识别模型,给出模型的整体流程和网络参数;然后采集不同通道和不同噪声水平下,模拟不同位置程度损伤的15层框架数值模型加速度数据,进行损伤识别;最后将网络模型进行迁移学习,对7层框架模型试验进行损伤识别,并验证所提方法的可行性、准确性和计算复杂性.结果表明,该方法实现了特征自适应提取、损伤位置和损伤程度的精准识别,具有突出的计算效率.     

基于自适应神经模糊推理系统的非线性系统辨识与仿真

针对非线性系统的模糊性、不确定性等特点，将模糊推理系统和神经网络相结合，介绍了一种自适应神经模糊推理系统，并将其应用于非线性系统辨识中，仿真结果表明：训练后的ANFIS能够很好地逼近实际的非线性系统，并且辨识精度高。     

基于覆盖的神经网络集成在语音识别中的应用

神经网络集成通过训练多个神经网络并将各网络的结论进行合成,从而得到最终结果.集成可以显著的提高学习系统的泛化能力.讨论了基于覆盖思想而设计的神经网络集成方法,并将其应用于汉语孤立数码语音识别系统中,通过在集成过程中加入基于覆盖思想的控制算法降低系统的泛化误差,从而使系统的识别效果有了进一步的提高.     

贝叶斯网络结构学习的双重K2算法

贝叶斯网络源于人们对人工智能领域不确定性问题的研究,是进行不确定问题推理和数据分析的重要工具。结构学习是贝叶斯网络研究的核心内容,K2算法是结构学习的经典算法之一。为解决K2算法学习效果强烈依赖于节点序的问题,本文提出一种新的混合结构学习算法：双重K2算法。该算法首先将节点信息作为初始节点序,通过K2算法的搜索策略得到初始网络结构;然后在初始网络结构上利用拓扑排序得到修正后的节点序;最后K2算法通过修正后的节点序学习得到最优的网络结构。通过实验验证,在精度和效率上,双重K2算法效果优于其它经典算法。     

机器学习在油气行业中的应用进展综述

近年来,随着深度学习的兴起,机器学习在油气领域得到了进一步深入发展。但是,由于油气行业的特殊性和复杂性,目前还没有建成适用于深度学习的训练样本库,也没有针对性的模型建立和选择方法体系。此外,深度学习方法的不可解释性,导致了学习的模型对环境的高度依赖,制约了机器学习在油气行业中的推广应用。从机器学习的发展阶段出发,介绍机器学习在油气行业各领域的应用中所涉及的重大突破及仍然存在的问题。针对油气行业中不同类型数据的处理方法、样本建立以及如何进行模型适应性分析等方面给出了建议,提出可解释机器学习在油气人工智能上的发展潜力以及研究方向。     

支持向量机与人工神经网络

支持向量机（Support Vector Machine,SVM）是由Vapnik等人提出的一种基于统计学习理论的新型机器学习算法;而人工神经网络（Artificial Neural Network, ANN）已经成功用于解决模式识别和任意非线性函数回归估计问题中. 介绍了支持向量机与人工神经网络的基本原理,并对二者进行了逼近方面的比较,结果表明,支持向量机作为一种新兴技术而具有的独特的优越性.     

基于Hadoop和Mahout的分布式推荐引擎的设计

推荐方法研究是信息检索、数据挖掘和机器学习等智能信息处理领域的研究热点。分数据存储层、产生推荐层和应用层3个层次,介绍了基于Hadoop和Mahout的分布式推荐引擎的设计方案。     

利用BP神经网络的中文词义消歧模型

词义消歧在自然语言处理中一直是一个难点问题,同时,也是很多领域都需要解决的一个重要环节．本文介绍了一种基于BP神经网络和统计方法相结合的有导词义消歧模型,详细讲解了BP神经网络原理;对使用这种混合人工智能的消歧模型的可能性和优越性进行了讨论;通过试验发现实际和预测结果的误差并不随着试验迭代次数而递减,而是实际误差随着次数的增加在零的附近呈现波动状态,即使用很少的迭代次数也可以得到比较好的结果．由此得出,BP神经网络预测模型在词义消歧的中具有良好的应用前景．