预训练语言模型的可解释性研究进展

基于深度神经网络的大型预训练语言模型在众多自然语言处理任务上都取得了巨大的成功,如文本分类、阅读理解、机器翻译等,目前已经广泛应用于工业界。然而,这些模型的可解释性普遍较差,即难以理解为何特定的模型结构和预训练方式如此有效,亦无法解释模型做出决策的内在机制,这给人工智能模型的通用化带来不确定性和不可控性。因此,设计合理的方法来解释模型至关重要,它不仅有助于分析模型的行为,也可以指导研究者更好地改进模型。本文介绍近年来有关大型预训练语言模型可解释性的研究现状,对相关文献进行综述,并分析现有方法的不足和未来可能的发展方向。     

协同多点传输中迫零预编码和天线选择技术

MIMO无线传输技术极大地提高了系统的容量,在实际通信系统中,整个网络是一个干扰受限的系统,小区间干扰对MIMO系统传输的影响是显著的,每个相邻小区的基站天线都可以看成一个干扰源．由于基站端数据处理能力的提升和回程容量的增加,多个小区协同多点传输技术引起了人们的广泛关注．目前的大部分工作都是集中于研究系统的容量（吞吐量）,而在实际系统中,每个用户的接收等效信噪比（即公平性）对系统的性能如误帧率等有重要的影响．对于每个用户为单天线的情形,研究了总功率受限和每天线功率受限下采用迫零预编码的系统容量和公平性．对两种功率约束条件下的公平性进行了分析,得到了公平性算法的闭式表达式．当每个用户为多天线的情形,为了降低计算的复杂度,引入了信道范数最大的接收天线选择算法,把每个用户为多天线的情形转化成等效的每个用户单天线情形,推导的每用户为单天线的公平性算法仍然适用．仿真结果显示,采用迫零预编码的多小区协作可以使系统性能显著提升．在相同的迫零预编码下,不同的功率分配策略对系统的容量和公平性有显著的影响．和用户为单天线相比,采用天线选择算法可以提升系统的容量和公平性．考虑了用户公平性时的吞吐量和最大系统吞吐量之间的折中关系,并给出了仿真结果．     

多基站协作通信系统的频偏补偿策略

在多基站协作通信系统中,为了获得空间分集或复用增益,协作基站同时同频向多个终端发送数据,而终端同时同频收到多个具有不同频偏的信号．基站或终端不能通过预补偿或后补偿方法独立解决多基站多用户频偏补偿问题．针对这一难题,本文提出基于最大可容忍剩余频偏的收发联合补偿策略．仿真结果表明：该策略虽然不能完全消除多基站多用户频偏,但可将其控制在可容忍范围内．     

一种用于MIMO组簇系统的自适应预编码技术

摘要： 针对多小区内多输入多输出（MIMO）的组簇系统,提出了一种有效提升系统性能的预编码技术.该技术根据相邻时隙内用户信道状态信息变化程度,决定每个用户在两种预编码下的码字.中心处理节点为每个小区自适应分配预编码后,使用1 bit指示符号通知各小区基站所选定的预编码.仿真结果表明,本文中提出的自适应预编码技术与传统技术相比,可以较大地提升系统吞吐量,同时有效地降低了系统后台的反馈开销.
关键词：中图分类号：文献标志码： A
An Adaptive Precoding Technology for MIMO Cluster System
LI Xiu na,LUO Han wen,DING Ming,LIU Wei,MA Ji peng
Abstract： An efficient precoding technology was proposed for multi cell multiple input multiple output (MIMO) system consisting of several clusters. According to the variation of channel state information (CSI) in two contiguous slots, the central processor determines users’ precoding codeword between two precoding schemes and uses extra 1 bit overhead to indicate the selection scheme. The simulation results show that the proposed scheme can achieve better throughput performance and cut down the sum backhaul overhead than the traditional schemes.
Key words： multi cell; intra cluster interference; adaptive precoding; signal to noise ratio     

浅谈工程造价控制、预结算的审核方法

论述了控制工程造价的阶段和审核预结算方法,对工程建设中存在的普遍性问题及原因进行了分析,并提出相应的解决方法.指出设计阶段是控制工程造价的关键阶段,同时,要把握好工程项目预结算的审核关.     

预回复对08Al深冲钢板再结晶组织及织构的影响

利用X射线衍射技术(ODF分析)并结合光学显微镜和透射电子显微镜观察了本溪钢铁公司生产的08Al深冲钢板的织构和组织,研究了预回复对其再结晶织构及组织的影响·结果表明:预回复退火具有推迟冷轧08Al深冲钢板再结晶的作用,但并未改变08Al深冲钢板的再结晶形成机制·08Al深冲钢板在预回复下再结晶γ纤维织构增强的原因主要是由于预回复降低了形变储能,抑制了其他取向晶核的形成及长大,促进了再结晶γ取向晶粒的择优生长     

扩大数字全息视场的方法研究

目的 扩大数字全息的视场,提高数字全息的实用性.方法 提出并从理论上研究了扩大数字全息视场的两种方法--预成像法和图像拼接法,分析了两种方法各自的优点和局限性,提出将预成像法与图像拼接法相结合扩大数字全息的视场.结果 将该方法应用于物体三维形貌的测量,获得了人嘴石膏模型的三维形貌.结论 将预成像法和图像拼接法相结合能够有效地扩大数字全息的视场.     

第16届广州亚运会环境质量监测与预警技术和保障措施研究术

本研究构建了多功能、多要素环境质量监测网络，建立了环境空气质量监测综合示范站和多功能环境监测船，显著提升空气质量预报准确率，快速准确地监测和诊断环境污染问题；制定亚运环境质量监控和保障方案；首创分级预警响应会商机制，实现环境质量监测预警技术与政府行政管理的无缝对接，显著提高预警响应时效，圆满兑现2010年广州“绿色亚运”环境质量保障的承诺。     

阳极溶出极谱法测定水中微量元素镉

本文介绍了运用阳极溶出极谱法直接测定水中微量元素镉的方法．本法操作简单，测量速度快，灵敏度达３×１０－７ｍｏｌ－１，回收率达９４．４％．     

国内e印本文库中医学信息的开发与利用

近几年随着互联网的高速发展,预印本在全球科技界的作用及影响与日俱增,既成为学术价值很高的信息资源,又是促进学术交流与发展的极佳媒介。国内预印本的研究较少,现有预印本系统中的论文数量也仅有几千篇,对于国内的信息工作者来说,尽早开展一些探索、尝试和应用的工作,将具有非常重要的意义。本文对国内现有的三大预印本系统,包括中国预印本服务系统、中国科技论文在线、奇迹文库中的医学部分做一归纳、比较,以期开发医学预印本这一特殊资源,更好地为临床医生及基础医学研究人员服务,并为国内医学信息更快的交流提供帮助。