欢迎来到知嘟嘟! 联系电话:13095918853 卖家免费入驻,海量在线求购! 卖家免费入驻,海量在线求购!
知嘟嘟
我要发布
联系电话:13095918853
知嘟嘟经纪人
收藏
专利号: 2020115628019
申请人: 天津工业大学
专利类型:发明专利
专利状态:已下证
专利领域: 计算;推算;计数
更新日期:2023-09-13
缴费截止日期: 暂无
价格&联系人
年费信息
委托购买

摘要:

权利要求书:

1.一种基于记忆的门控卷积神经网络语义处理系统,其特征在于,包括输入单元、与输入单元连接的分层处理单元以及与分层处理单元连接的记忆单元,所述分层处理单元包括卷积处理层、门控卷积处理层以及残差网络处理层,所述卷积处理层与所述门控卷积处理层连接,若干个所述门控卷积处理层之间连接有一所述残差网络处理层。

2.根据权利要求1所述的一种基于记忆的门控卷积神经网络语义处理系统,其特征在于,所述分层处理单元还包括有分类层,所述分类层与所述门控卷积处理层连接,所述分类层输出语义分类结果。

3.根据权利要求2所述的一种基于记忆的门控卷积神经网络语义处理系统,其特征在于,所述门控卷积处理层包括第二卷积计算模块和门控卷积计算模块,所述门控卷积处理层的输出由所述第二卷积计算模块和门控卷积计算模块共同计算得出。

4.根据权利要求3所述的一种基于记忆的门控卷积神经网络语义处理系统,其特征在于,每两个所述门控卷积处理层之间还连接有参数调整层。

5.一种基于记忆的门控卷积神经网络语义处理方法,基于权利要求4所述的一种基于记忆的门控卷积神经网络语义处理系统,其特征在于,包括如下步骤:S1:输入单元将文本数据转换为特征向量;

S2:卷积处理层依据特征向量提取卷积特征图;

S3:经过若干门控卷积处理层多次处理得到多层级语义表征数据,并将多层级语义表征数据传递到记忆单元进行存储;

S4:提取语义特征值;

S5:分类层依据语义特征值得到文本的分类结果。

6.根据权利要求5所述的一种基于记忆的门控卷积神经网络语义处理方法,其特征在于,在步骤S1中,输入单元采用词嵌入矩阵将文本数据转换为特征向量。

7.根据权利要求5所述的一种基于记忆的门控卷积神经网络语义处理方法,其特征在于,在步骤S3中,在门控卷积处理层中还包括如下步骤:Nm

S301:对输入X∈R 使用第二卷积计算模块进行卷积计算得到矩阵A,其中A=(X·W+b);

Nm

S302:同时对输入X∈R 使用门控卷积计算模块计算得到矩阵B,其中B=(X·V+c),再将B通过sigmoid非线性转换后得到门控参数σ;

S303:将矩阵A和B依据公式 计算得到该门控卷积处理层的输出;

S304:并依据公式 更新后向传播网络梯度参数。

8.根据权利要求7所述的一种基于记忆的门控卷积神经网络语义处理方法,其特征在于,在步骤S3中,依据残差网络处理层的深度k,在输入X经过k次门控卷积处理层处理后的输出Y加残差数值Ws·X,其中的Ws为转换参数矩阵。

9.根据权利要求5所述的一种基于记忆的门控卷积神经网络语义处理方法,其特征在于,在步骤S4中,依据注意力机制从记忆单元更新后的数据提取语义特征值。

10.根据权利要求5所述的一种基于记忆的门控卷积神经网络语义处理方法,其特征在于,在步骤S5中,分类层依据分类预测公式得出分类结果,分类预测公式为:式中,K是类别数目,wk是此层的可训练参数,bk为偏移量。