|
|||||
|
|
| 基于正向软标签的轻量级关系抽取 | |
| 引用本文： | 宋函宇,欧阳丹彤,叶育鑫.基于正向软标签的轻量级关系抽取[J].吉林大学学报(理学版),2023(2):317-324. |
| 作者姓名： | 宋函宇 欧阳丹彤 叶育鑫 |
| 作者单位： | 1. 吉林大学计算机科学与技术学院;2. 一汽-大众汽车有限公司;3. 吉林大学符号计算与知识工程教育部重点实验室 |
| 摘 要： | 针对关系抽取模型规模越来越大、耗时越来越长的问题，提出一种知识筛选机制，利用筛选出的正向软标签构造轻量级关系抽取模型.首先，利用知识蒸馏提取出知识并将其存储在软标签中，为避免知识蒸馏中教师与学生间差距大导致的知识难吸收问题，使用教师助手知识蒸馏模式；其次，使用标签的余弦相似度筛选出正向软标签，在每步蒸馏中都动态赋予正向软标签更高的权重，以此削弱知识传递中错误标签导致的影响.在数据集SemEval-2010 Task 8上的实验结果表明，该模型不仅能完成轻量化关系抽取任务，还能提升抽取精度. |
| 关 键 词： | 轻量级关系抽取 知识筛选 正向软标签 知识蒸馏 余弦相似度 |