双向循环网络中文分词模型

摘要 针对统计方法的中文分词模型主要依赖于特征工程，难以捕捉句子中长距离依赖关系等问题，提出一种双向循环网络中文分词模型.为能有效获取待分类字符的上下文特征，避免局部窗口大小的限制，使用长短时记忆网络(Long Short-Term Memory Neural Network，LSTM)作为神经网络隐藏层，同时增加一层反向LSTM抽取字符的将来信息特征.提出一种语言模型预训练的网络权值初始化方法，该模型同时得到中文字符embeddings分布式向量特征.在标准分词数据集上测试表明该模型取得比以往统计标注方法更好的效果.通过对比实验结果发现深层神经网络能提取出不逊于人工总结的分词特征