论文研究 一种基于海量语料的网络热点新词识别方法.pdf

基于海量语料的热点新词识别是汉语自动处理领域的一项基础性课题，因要求快速处理大规模语料，且在新词检测中需要更多智力因素，在研究中存在较多困难。构建了一个基于海量语料的网络热点新词识别框架，整合了所提出的基于逐层剪枝算法的重复模式提取，基于统计学习模型的新词检测及基于组合特征的新词词性猜测等3个重要算法，用以提高新词识别的处理能力和识别效果。实验和数据分析表明，该框架能高效可靠地从大规模语料中提取重复模式，构造候选新词集合，并能有效实施新词检测和新词属性识别任务，处理效果达到了目前的较好水平。