预训练语言模型的可解释性研究进展

基于深度神经网络的大型预训练语言模型在众多自然语言处理任务上都取得了巨大的成功,如文本分类、阅读理解、机器翻译等,目前已经广泛应用于工业界。然而,这些模型的可解释性普遍较差,即难以理解为何特定的模型结构和预训练方式如此有效,亦无法解释模型做出决策的内在机制,这给人工智能模型的通用化带来不确定性和不可控性。因此,设计合理的方法来解释模型至关重要,它不仅有助于分析模型的行为,也可以指导研究者更好地改进模型。本文介绍近年来有关大型预训练语言模型可解释性的研究现状,对相关文献进行综述,并分析现有方法的不足和未来可能的发展方向。     

局部最小误码率线性检测器的一个新算法

在CDMA系统的性能指标中,误码率是重要的指标之一,局部最小误码率线性检测器具有良好的误码率性能。研究了局部最小误码率线性检测器,给出了一个新的迭代型算法。仿真结果表明,它收敛速度快,稳定性好,易于工程实现。     

等截面曲梁的传递函数方法

对将传递函数方法运用于曲梁的变形计算进行了研究。建立弧坐标,并定义状态向量,将曲梁变形控制方程和边界条件写成状态空间形式,其中轴力和弯矩都是方程中的参数。文中给出了数值算例并与精确解进行了对比。     

华为和乐心运动手环测量直线和变向跑能量消耗的信效度

探究国内两款常用运动手环测量直线和变向跑EE的信效度.通过18名某体育学院男性健康大学生((22.4±2.5)岁,(177.1±7.2)cm,(69.3±8.4)kg)自愿参加两轮四级递增直线跑(跑台,8、10、12和14 km·h-1)和场地变向跑(20 m往返跑,6、8、10和12 km)测试.信度方面,华为测量直...     

基于遗传和蚁群算法融合的聚类新方法

遗传算法具有快速良好的全局搜索能力,而蚁群聚类算法具有良好的分布式并行性和正反馈能力。将两种算法进行融合,充分利用算法各自的优势和特点,能更有效地进行聚类分析。实验证明这种新组合算法在优化能力和时间性能上比常用的聚类算法有比较明显的优势。     

KOH改性石墨烯对甲苯的吸附动力学及吸附机制

以改进Hummer?s法制备石墨烯,再经超声辅助KOH浸渍法制备改性石墨烯(MGE)材料,并采用TEM、XRD、N2吸-脱附、FT-IR光谱对材料的形貌结构、官能团、孔径、孔容进行表征.考察不同浓度KOH、超声时间、温度条件下制备的改性石墨烯甲苯性能,分析吸附动力学和吸附机制.结果表明:石墨烯和改性石墨烯的比表面积分别...     

高校图书馆与大学生诚信教育

阐述了诚信的含义,分析了高校大学生诚信缺失的现象及其原因,提出对高校大学生实行诚信教育的必要性,论述了高校图书馆在大学生诚信教育中的作用。     

公共图书馆发展的经济学分析

针对目前公共图书馆所面临的一些问题,分析了其在市场经济条件下的产品属性,并根据其属性提出一些改进的措施。     

不同频率的振动搅拌沥青混凝土高温稳定性能

为了研究不同振动频率对SBS改性沥青混凝土高温稳定性能的影响,采用一种轴振动强制式搅拌机进行沥青混凝土的制备,通过对沥青混凝土加入振动作用前后的标准车辙试验、高温车辙试验,重载车辙试验和抗剪强度试验的分析,探究振动搅拌技术对沥青混合料高温稳定性的影响。结果表明,经过振动搅拌作用的沥青混凝土比传统搅拌的沥青混凝土更能抵抗车辙病害,具有更好的高温稳定性能,且在高温和重载交通的恶劣条件下,振动搅拌技术也能在一定程度上提高沥青混合料抵抗车辙病害的能力。     

科研机构情报体系的构建

从信息源的分类、信息收集途径、情报人员的作用3方面陈述了科研机构外部情报体系的内容和实质,分析了阻碍科研机构内部情报体系建立的因素,并指出了科研机构内部情报开发的途径、意义和方向。