基于BERT的手术名称标准化重排序算法

陈漠沙,仇 伟,谭传奇

(阿里巴巴 机器智能技术实验室，浙江 杭州 311121)

0 引言

临床术语标准化任务是医学文本信息抽取中不可或缺的一项任务。患者病历详细记录了患者的临床病史和疾病进展，包括但不限于症状、疾病、诊断和药物等。临床上，关于同一种诊断、手术、药品、检查、化验、症状等往往会有成百上千种不同的写法，标准化(归一)要解决的问题就是为临床上各种不同说法找到对应的标准说法，一方面可以帮助研究人员对电子病历进行后续的统计分析和挖掘；另一方面也可以促进AI技术在医学应用系统的落地，如“CDSS(临床决策诊疗系统)”“DRGs(诊断相关分组管理系统)”等。

近年来医院信息化建设水平的提升以及电子病历的普及，为大规模应用机器学习算法解决医学领域的研究任务提供了便利。针对医学术语归一(标准化)任务，学术界也开展了一系列评测任务，包括：ShARe/CLEF-2013任务1[1]、SemEval-2014 任务7[2]、SemEval-2015任务14[3]和N2C2-2019任务3[4]，以上评测任务均是英文领域。针对中文数据集，在目前所知范围内，CHIP-2019“手术名称标准化”任务(1)http://cips-chip.org.cn/evaluation应该是第一个中文医学术语归一化评测任务。这些评测任务和数据集均有效地推动了相关技术的发展。

术语归一任务的研究大致经过了几个阶段：基于规则的方法[5-6]、基于机器学习的方法[7]和基于深度学习的方法[8-9]。本文在使用检索技术生成候选答案的基础上，借鉴了语言模型BERT的思路，在重排序阶段使用BERT[10]模型对候选答案进行打分重排序，单模型取得89.1%的准确率，最终提交的融合模型在测试集上取得92.8%的准确率，基本达到实际应用标准。……