欢迎来到知嘟嘟! 联系电话:13095918853 卖家免费入驻,海量在线求购! 卖家免费入驻,海量在线求购!
知嘟嘟
我要发布
联系电话:13095918853
知嘟嘟经纪人
收藏
专利号: 2019111374805
申请人: 江西财经大学
专利类型:发明专利
专利状态:已下证
专利领域: 计算;推算;计数
更新日期:2024-03-14
缴费截止日期: 暂无
价格&联系人
年费信息
委托购买

摘要:

权利要求书:

1.一种融合多特征的矩阵分解兴趣点推荐方法,其特征在于,包括以下步骤:

步骤一,重构多源异构特征,所述多源异构特征包括对地理位置信息、类别偏好信息和社交关系信息,对所述多源异构特征进行重构,对应得到用户评分矩阵、分类偏好矩阵、流行度矩阵和用户活跃度;

步骤二,利用文本信息挖掘用户和兴趣点的潜在模型,生成一个混合深度神经网络HDNN结构,以自上而下的方式学习文档的潜在分布表示,通过分析用户和兴趣点的评论文档,生成文档潜在模型;

步骤三,基于乘法法则融合所述多源异构特征,生成融合地理位置、类别偏好、社交关系及混合深度神经网络的多特征融合的概率矩阵分解模型,并对概率矩阵分解模型中的参数进行优化,以预测用户的个性化偏好。

2.如权利要求1所述的融合多特征的矩阵分解兴趣点推荐方法,其特征在于,步骤一中的所述地理位置信息的重构是指利用用户已访问的兴趣点和未访问的兴趣点间的地理位置关系来估算用户在未访问兴趣点上的相关得分,根据每个用户已访问过的兴趣点估算地理坐标上的个性化签到分布;所述类别偏好信息的重构是指将用户对类别的偏好和兴趣点的流行度计算用户和兴趣点之间的关联评分;所述社交关系信息的重构是指通过用户间的相似性对用户的签到行为进行分析,在皮尔森相关系数法的基础上,利用用户活跃度重新定义用户的相似性。

3.如权利要求1所述的融合多特征的矩阵分解兴趣点推荐方法,其特征在于,步骤二中的所述混合深度神经网络包括双向长短期记忆网络和卷积神经网络,所述双向长短期记忆网络用于构建用户和兴趣点评论文档中每个文本句子的表示,所述卷积神经网络用于将所有文本块的语义及其关系编码到文档表示中。

4.如权利要求3所述的融合多特征的矩阵分解兴趣点推荐方法,其特征在于,所述混合深度神经网络包括嵌入层、双向长短期记忆网络层、卷积神经网络层、池化层和输出层,其中:所述嵌入层用于提取文档的语义信息,利用Glove词嵌入方法,将每个词转换为实值向量,把每个文本片段表示为单词嵌入序列;设令s表示为包含n个单词的文本块,每个单词都映射到一个全局向量,则有:其中,向量ei表示第i个单词的向量,为保持单词在文本块s中的顺序,将单词嵌入的向量连接在一起,并将文档按时间顺序排列成T个文本块,得到一个序列:S=(s1,s2,…,st,…sT),其中,st是第t个文本块的子序列;

所述双向长短期记忆网络层用于挖掘文档中词序列间的隐藏信息;双向长短期记忆网络同时对文档中每个词的上下文信息进行语义编码并对其前后信息进行建模,将前向LSTM的输出序列 和后向LSTM的输出序列 连接起来作为下一层卷积层的输入;第t时刻隐藏向量h(t)的更新公式如下:ft=σ(Wf[h(t-1),st]+bf)                              (2)it=σ(Wi[h(t-1),st]+bi)                                 (3)ot=σ(Wo[h(t-1),st]+bo)                                (4)ht=ot*tanh(Ct)                                       (7)所述卷积神经网络层用于抽取文本句子间的结构特征;在卷积层,每个神经元j使用一个滤波器 其中m为卷积计算的滑动窗口,l为LSTM层输出向量的大小;对h(t)运用卷积算子 计算出新的特征gj,如式(9)表示:其中,bj是偏置项,δ是激活函数;在sigmoid、tanh、修正线性单元的激活函数中,使用ReLU激活函数,避免了梯度消失的问题;

所述池化层用于从卷积神经网络层提取具有代表性的特征,并通过池化操作将可变长度的文档构造成固定长度的向量特征;利用max-pooling操作,从每个上下文特征向量中提取最大上下文特征,将一个文档的表示缩减为一个定长向量,如式(10)和式(11)表示:dj=max{g1,g2,…,gn-m+l}                          (10)其中,w表示卷积层的核数;引入非线性,在max-pooling的基础上添加激活函数双曲正切函数tanh;在文本分析中,将不同单词窗口生成的所有特征向量串联起来,形成st的最终表示形式: 其中,m∈{3,4,5};

所述输出层用于将原始文档转换为密集的分布表示形式,使用dropout函数防止过拟合;利用常规非线性投影将卷积层提取的高阶特征投影到k维空间上,如式(12)表示:其中,Q为k×f投影矩阵,b为Q的偏置向量, 为池化层的输出。

5.如权利要求4所述的融合多特征的矩阵分解兴趣点推荐方法,其特征在于,所述混合深度神经网络首先通过Embedding函数构建所述嵌入层,输出序列S;其次通过Bidirectional函数构建所述双向长短期记忆网络层;再将双向长短期记忆网络层的输出输入到卷积神经网络层的卷积操作中,并对卷积的结果进行降维,其中的激活函数为tanh函数;然后利用dropout函数防止结果过拟合;最后构建混合深度神经网络模型及设置其损失函数。

6.如权利要求1所述的融合多特征的矩阵分解兴趣点推荐方法,其特征在于,步骤三中的所述基于乘法法则融合所述多源异构特征是指采用乘法法则融合地理、社交与分类偏好相关分数,并将这些分数融合到概率矩阵分解模型中;首先评估用户所在位置经纬度坐标的个性化签到分布,基于地理相关性,推导用户对未签到的兴趣点的地理相关分数;然后根据其他用户已签到的兴趣点,利用用户的社交关系,推导用户对未签到的兴趣点的社会相关分数;最后,根据用户已签到的兴趣点与未签到的兴趣点的分类与流行度,基于分类相关性,推导用户对未签到的兴趣点的分类相关分数。

7.如权利要求1所述的融合多特征的矩阵分解兴趣点推荐方法,其特征在于,步骤三中的所述多特征融合的概率矩阵分解模型中集成了混合深度神经网络、地理位置信息、类别偏好信息和社交关系信息的重构的多源异构特征。

8.如权利要求1所述的融合多特征的矩阵分解兴趣点推荐方法,其特征在于,步骤三中的所述对概率矩阵分解模型中的参数进行优化是指通过使用极大后验估计法,以实现优化混合深度神经网络的用户潜在模型、兴趣点潜在模型、权重和偏置变量。

9.一种融合多特征的矩阵分解兴趣点推荐的实现系统,其用于实现如权利要求1-8任一项所述的融合多特征的矩阵分解兴趣点推荐方法,其特征在于,该实现系统包括:重构多源异构特征模块,利用用户和兴趣点的评论信息、地理信息、分类信息、用户的社交信息、用户属性信息以及兴趣点的签到信息和评论内容对地理位置信息、类别偏好信息和社交关系信息进行重构;

混合深度神经网络模块,用于利用文档信息挖掘用户和兴趣点的潜在模型,以自上而下的方式学习文档的潜在分布表示;

多特征融合的概率矩阵分解模型模块,用于形成融合混合深度神经网络、地理位置信息、类别偏好信息和社交关系信息的重构的多源异构特征的概率矩阵分解模型。

10.如权利要求9所述的融合多特征的矩阵分解兴趣点推荐的实现系统,其特征在于,所述混合深度神经网络模块包括嵌入层模块、双向长短期记忆网络层模块、卷积神经网络层模块、池化层模块和输出层模块,其中:所述嵌入层模块用于提取文档的语义信息,并将每个词转换为实值向量,把每个文本片段表示为单词嵌入序列;

所述双向长短期记忆网络层模块用于挖掘文档中词序列间的隐藏信息;

所述卷积神经网络层模块用于抽取文本句子间的结构特征;

所述池化层模块用于从卷积神经网络层提取具有代表性的特征,并通过池化操作将可变长度的文档构造成固定长度的向量特征;

所述输出层模块用于将原始文档转换为密集的分布表示形式,防止结果过拟合。