1.一种融合时空注意力和异构图卷积网络的信息扩散预测方法,其特征在于,包括以下步骤:
S1,利用多层图卷积网络学习行为图的最终用户表示或影响力图结构的最终用户表示;
S2,进行实时预测信息,将时间序列嵌入到异构图;
S3,用多头注意力网络机制进行信息扩散预测;
S4,对步骤S3进行优化。
2.根据权利要求1所述的一种融合时空注意力和异构图卷积网络的信息扩散预测方法,其特征在于,所述S1中的学习的机制包括:其中, 是第n+1层用户关注关系的用户表示;
σ(·)为激活函数;
FA表示影响力图中的关注关系的邻接矩阵;
(n)
X 表示第n层的用户表示;
是第n层用户关注关系的可学习参数;
是第n+1层用户转发关系的用户表示;
表示ti时刻的转发关系的邻接矩阵;
ti是用户异构网络的时间间隔;
是第n层用户转发关系的可学习参数。
3.根据权利要求1所述的一种融合时空注意力和异构图卷积网络的信息扩散预测方法,其特征在于,所述S2中的时间序列嵌入的方法包括:近似策略或注意力机制策略;
所述注意力机制策略包括:t'=mixTogether(ti) (6)其中,t'为将时间间隔转化为时间嵌入后的结果表示;
mixTogether(·)为将时间间隔嵌入的函数;
αi为权重系数;
softmax(·)为归一化函数;
表示ti时刻的用户表示;
ki是一个掩码矩阵;
v'最终的用户表示;
T表示一共有T个时刻。
4.根据权利要求1所述的一种融合时空注意力和异构图卷积网络的信息扩散预测方法,其特征在于,所述S3中的信息扩散预测的公式为:其中,softmax(·)为归一化函数;
V'表示扩散序列;
T
·表示矩阵的转置;
dr=d/G,d是用户嵌入表示的维度,G是多头注意力的头数;
Cij是一个掩码矩阵;
M表示最终预测的用户表示;
表示对bh进行拼接,bh表示第h头注意力,bh∈[b1,b2,...,bG];
是可学习参数, 表示d×dr维的实数;
得到预测到的M之后,使用两层全连接神经网络计算信息扩散的概率为:T
p=W'σ(W”M+λ1)+λ2 (11)其中,p表示信息扩散的概率;
W'、W”是可学习参数, 表示|V|×d维的实数; 表示d×d维的实数;
d是用户嵌入表示的维度;
|V|表示用户的个数;
λ1是第一可学习参数,λ2是第二可学习参数,λ1、λ2均为常数;
T
·表示矩阵转置。
5.根据权利要求1所述的一种融合时空注意力和异构图卷积网络的信息扩散预测方法,其特征在于,所述S4中进行优化的方法包括:其中,N表示扩散时间间隔数;
|V|表示用户个数;
pik表示vi和vk之间发生转发行为的概率,vi表示第i个用户,vk表示第k个用户;
log(·)为对数函数;
表示pik的估计值;
χ表示可学习的参数即模型中需要学习的所有参数;
优化器计算公式如下所示:θt+1=θt+Δx (16)其中,lt表示梯度h(t)的二阶矩;
β2表示引入的二阶矩衰减参数,是一个常数;
表示将参数β2带入L无穷范式的结果;
Vt‑2表示前t‑2时刻的梯度平方累加和;
h(t)是t时刻的参数梯度;
∞
|h(t)| 表示将参数|h(t)|带入L无穷范式的结果;
ε为滑项参数;
η表示梯度h(t)的一阶矩的偏正矫正;
θt+1表示t+1时刻的优化结果即最终的优化结果;
θt表示t时刻的优化结果。