刘 剑 唐慧丰 刘伍颖
(1. 解放军外国语学院,河南洛阳 471003;2. 中国科学院计算技术研究所,北京 100190)
一种基于统计技术的中文术语抽取方法
刘 剑1,2唐慧丰1刘伍颖1
(1. 解放军外国语学院,河南洛阳 471003;2. 中国科学院计算技术研究所,北京 100190)
中文术语识别与抽取是中文文本信息处理的基础,对于提高中文文本索引与检索、文本挖掘、本体构建、潜在语义分析等的处理精度有着重要的意义。文章以互信息和信息熵理论为基础,提出一种基于统计技术的中文术语半自动抽取方法,并且以互联网新闻话题数据为对象进行了实验验证,结果表明所提方法能够有效支持中文术语的抽取。
互信息,信息熵,中文术语抽取
术语是用来刻画、描写领域知识的基本信息承载单元,术语识别与抽取是文本信息处理的基础,对于提高文本索引与检索、本体构建、文本挖掘、潜在语义分析等方面的处理精度有着重要的意义。中文术语识别与抽取是领域中文文本信息处理的一项重要课题,目前有关中文文本信息中术语识别和抽取的研究多体现于对人名、地名和组织名等命名实体的识别和抽取。对于领域中文文本信息处理来说,更重要的是识别并提取那些与特定领域相关的新概念、新术语等。特别是对于互联网上突发的新闻话题,面对大量的新闻报道文本,如何快速而准确地识别其中的主要术语,对于后续的文本信息处理将是至关重要的。
目前国内外对术语抽取的方法主要有三种:基于语言规则、基于统计以及混合方法[1]。……