%0 Journal Article
%T 基于大规模语料库的高频汉字串互信息分布规律分析
%A 余一骄？
%A 尹燕飞？
%A 刘芹？
%J 计算机科学
%D 2014
%R 10.11896/j.issn.1002-137X.2014.10.058
%X 基于互信息的词典构建和自动分词是典型的基于统计的中文信息处理技术。通过计算大规模中文文本语料库的高频二字串、三字串、四字串的互信息发现:第一,高频词的互信息并不是很高,词和短语之间的互信息分布不存在明显界限；第二,高频无效汉字串的互信息与词和短语的互信息也没有明确界限,词、短语、无效汉字串互信息的夹杂分布,使得仅凭汉字串的互信息或频率很难高效地自动标注词、短语以及无效串。以上规律说明:单纯依赖对大规模真实文本语料库进行统计来实现高效的中文词典构建、自动分词处理等会面临极大挑战。
%K 汉字
%K 词
%K 短语
%K 语料库
%K 互信息
%K 频率
%U http://www.jsjkx.com/jsjkx/ch/reader/view_abstract.aspx?file_no=20141058&flag=1