基于迁移学习的知识图谱问答语义匹配模型

摘要 针对单一事实类问答系统中问句和关系的语义匹配在小规模标注样本中难以获得较高准确率的问题，提出一种基于循环神经网络（RNN）的迁移学习模型。首先，使用基于RNN的序列到序列无监督学习算法，通过序列重构的方式在大量无标注样本中学习问句的语义空间分布，即词向量和RNN；然后，通过给神经网络参数赋值的方式，使用此语义空间分布作为有监督语义匹配算法的参数；最后，通过使用问句特征和关系特征计算内积的方式，在有标注样本中训练并生成语义匹配模型。实验结果表明，在有标注数据量较少而无标注数据量较大的环境下，与有监督学习方法Embed-AVG和RNNrandom相比，所提模型的语义匹配准确率分别平均提高5.6和8.8个百分点。所提模型通过预学习大量无标注样本的语义空间分布可以明显提高在小规模标注样本环境下的语义匹配准确率