预训练语言模型的可解释性研究进展

基于深度神经网络的大型预训练语言模型在众多自然语言处理任务上都取得了巨大的成功,如文本分类、阅读理解、机器翻译等,目前已经广泛应用于工业界。然而,这些模型的可解释性普遍较差,即难以理解为何特定的模型结构和预训练方式如此有效,亦无法解释模型做出决策的内在机制,这给人工智能模型的通用化带来不确定性和不可控性。因此,设计合理的方法来解释模型至关重要,它不仅有助于分析模型的行为,也可以指导研究者更好地改进模型。本文介绍近年来有关大型预训练语言模型可解释性的研究现状,对相关文献进行综述,并分析现有方法的不足和未来可能的发展方向。     

系统重要性股权质押上市公司的识别 ——股权质押违约的系统性风险贡献度视角

股权质押风险一旦爆发呈联动效应,影响范围将迅速波及多个市场,极有可能衍生出系统性风险,对整个金融市场和实体经济带来极大危害.围绕股权质押违约风险在股票市场和基金市场传染的核心问题,借鉴网络科学研究工具,从关联市场视角探索股权质押风险跨市场传染的路径和规律.首先描述了股权质押二部图网络的构建方法,利用关联网络的阈值传染模...     

从建模仿真看数字孪生

简要回顾建模仿真技术的发展与演变历程,及其在科技进步中所发挥的重要作用.通过数字孪生产生的背景及内涵,揭示其与建模仿真一脉相承的关系.探讨如何借鉴建模仿真理论方法进行数字孪生的构建和评估,从而保证数字孪生的可信.     

深海遥控无人潜水器脐带缆动态特性及张力抑制方法

传统金属铠装脐带缆由于自重原因,下潜深度很难突破6000 m,为了实现深海脐带缆安全使用,有效提升深海遥控无人潜水器(Remotely operated vehicle,ROV)的下潜深度,提出了一种脐带缆张力抑制方法.针对水下脐带缆运动具有大位移和小应变的特点,综合考虑加挂浮球对脐带缆动力学性能的影响,基于几何精确梁...     

基于fluent的反应器内生物质流动特性对比分析

螺旋热解反应器的螺距结构对其性能影响较大,所以分析不同螺距的螺旋对生物质流动特性的影响至关重要,还有助于螺距参数的选择.通过计算流体力学方法来仿真模拟生物质在反应器中的流动特性.通过分析反应器内生物质颗粒的平均停留时间、填充度和返混程度,来了解生物质颗粒在反应器内的流动特性.发现随着螺距的增大生物质的平均停留时间和填充...     

基于INVEST模型的太行山区生态系统碳储量多维变化研究

以1990-2015年的土地利用数据为基础,对国内外碳密度研究结果修正后运用InVEST模型Carbon模块估算太行山区的碳储量,划分碳密度在海拔、坡度、坡向、植被覆盖度和降水量上的变化梯度,并分析碳储量和碳密度在各梯度的变化规律和趋势,探讨土地利用变化对碳密度的影响,结果表明:(1)研究区碳储量和平均碳密度先增后减,...     

静脉注射联合口服给药方案的建模与仿真

研究了静脉注射联合口服给药方式的药代动力学模型,探讨了周期解的稳定性和联合给药方案设计的原理,并给出了联合给药方案设计的算法步骤。通过具体的算例,验证了设计方法的可行性和合理性。分析结果表明：联合给药方式能够使得给药方案的设计更加灵活,更有利于个体化给药方案的设计。     

一种离散状态与维度空间互映射的人工情感模型

情感智能是机器智能的重要组成与发展方向.人工情感模型目的就是构建情感模型让机器形成情感理解与表达的系统化能力.然而现有方法在人工情感建模能力上仍显不足.针对人工情感模型构建中个性化这一关键核心因素,提出一种离散情感状态和维度空间状态互映射的方法,并基于大五人格模型和情感状态转彩模型构建一个机器个性化人工情感模型,相关实...     

近距离采空区下砂岩顶板沿空留巷承载力学模型构建及工程试验

云南省某煤矿110304工作面回风巷沿空留巷顶板距离上部C2煤层采空区4.0 m,笔者首先使用钻孔成像仪探测的方法对该沿空留巷顶板在C2煤层采动前后的破坏特征进行探测,发现C2煤层回采造成该砂岩顶板完整性尚好、纵向次生裂隙发育、岩块间处于咬合状态;然后构建了该沿空留巷的承载力学模型,计算出巷旁充填体的宽度为1.89 m,为了方便工程管理及提高充填体可靠性最终确定其宽度为2.0 m。工程试验表明：充填体宽度合理,沿空留巷围岩变形平稳,两帮移近量为410 mm、顶底板移近量为796 mm,沿空留巷围岩控制效果较为理想。     

河南省城市科技创新能力评估及影响因素分析

本研究以河南省18个地级市为研究对象,从科技创新基础、科技创新投入和创新成果产出3个方面出发,来构建城市科技创新能力评价指标体系,利用熵权TOPSIS模型并结合空间自相关模型来分析2010—2020年河南省18个地市的科技创新能力的变化特征,并通过障碍度模型来揭示不同城市科技创新能力的主要限制因素。结果表明：(1)2010—2020年河南省18个地级市的科技创新能力差异明显,其中,郑州、洛阳、新乡和焦作等地级市的科技创新能力较强,周口、信阳和商丘等地级市的科技创新能力排名靠后,整体呈“以郑州为中心向外逐渐降低”的空间分布;(2)河南省科技创新能力呈现出一定程度的空间正相关性,其中郑州、洛阳和焦作是河南省科技创新能力的“高-高”集聚区;(3)对不同城市科技创新能力提升的阻碍因素分析可知,加强政府相关经费投入是郑州科技创新能力提升的重要抓手,而其他城市应重点解决创新平台建设及创新人才数量和专利相关成果产出不足等问题。