本发明公开了一种基于局部与全局互注意力机制的文本分类方法,步骤如下:获取文本数据,并进行预处理,将文本单词用预训练的词向量进行表示;利用长短期记忆网络捕获文本序列的全局长期依赖,利用多尺度卷积神经网络获取文本序列的局部语义特征;把全局长期依赖和局部语义特征作为局部与全局互注意力机制的输入,得到加权全局长期依赖和加权局部语义特征;再采用加权池化,得到最终的全局表示向量和局部表示向量;输入到全连接层融合全局表示向量和局部表示向量,再输入到分类层,进行分类。本发明并行地捕获全局长期依赖和局部语义特征,显式地学习这两种特征之间的交互,从而得到更好的文本全局和局部特征表示,进一步提高文本分类的精度。
咨询热线:020-38033421
传真号码:020-38061201
电子邮箱:jm@jiaquanip.cn
Copyright © 嘉权专利商标事务所 All Rights Reserved. 粤ICP备2023151901号