3元神经元(SiGNN)

3元神经元(SiGNN)

代办list:

  • 理解RNN在GNN中的作用
  • RNN的结构

SiGNN: A Spike-induced Graph Neural Network for Dynamic Graph Representation Learning

image-20241127135755832

问题:上面三个步骤是所有SNNs-GNN任务都有的吗?

采用了不同粒度的感知图采样(MTG-aware Graph Sampling)

在上述的图中分别是 $\Delta t=1$,$\Delta t=2$和$\Delta t=3$,然后最后进行时间嵌入聚合。

Bidirectional LIF Neuron

Integrate: $\tilde{V}^t=V^{t-1}+\tau\left(V_{\text {reset }}-V^{t-1}+I^t\right)$

Fire : $S^t=Fb\left(\tilde{V}^t, V{t h}^{t-1}\right)$

Reset : $\quad V^t=\tilde{V}^t\left(1-S^t\right)+V_{\text {reset }} S^t$

Update: $\quad V{t h}^t=\gamma V{t h}^{t-1}+(1-\gamma) S^t$

双向监测机制:

$$
S^t=\Theta\left(\tilde{V}^t-V{t h}^{t-1}\right)+\Theta\left(-V{t h}^{t-1}-\tilde{V}^t\right)
$$

image-20241127155822380

$\tilde{V}^t$​可能存在负电位的情况,不止是正电位。抑制触发的阈值和正向触发阈值相同。
$$
S^t=B L I F\left(I^t ; V^{t-1}, V{t h}^t, V{\text {reset }}, \tau, \gamma\right)
$$

疑问:

$\quad V{t h}^t=\gamma V{t h}^{t-1}+(1-\gamma) S^t$是否发挥了作用,假设是抑制激活,那应该增加阈值电压,并且应该向后端发送一个-1的电位(增加阈值电压确实做到了,但是-1电位呢?)。update函数的单调性取决于$S^t$。什么情况下能触发负电位?

时态激活(我想知道不使用TA机制的是什么方法)

计算邻居隐藏层的平均
$$
\begin{aligned}
& h_{N_v}^{t,(k)}=\operatorname{Agg}\left(h_u^{t,(k)}, \forall u \in N_v^t\right) \
& hv^{t,(k+1)}=U{T A}\left(hv^{t,(k)}, h{N_v}^{t,(k)}\right)
\end{aligned}
$$

$U_{T A}(\cdot)$的采用TA机制,用下列方式更新节点表示:

$$
\begin{aligned}
\tilde{h}v^{t,(k+1)} & =\sigma\left(h{N_v}^{t,(k)} \mathbf{W}_h^{(k)}+h_v^{t,(k)} \mathbf{B}_h^{(k)}\right) \
sv^{t,(k+1)} & =B L I F\left(h{N_v}^{t,(k)} \mathbf{W}_s^{(k)}+h_v^{t,(k)} \mathbf{B}_s^{(k)}\right)
\end{aligned}
$$

在您提供的方程中:
$$
h_v^{t,(k+1)}=s_v^{t,(k+1)} \odot \tilde{h}_v^{t,(k+1)}
$$
这里的符号含义如下:

  • $h_v^{t,(k+1)}$ 这是节点 v 在时间步 t 和迭代 k+1 中的状态或特征向量。它通常表示当前时间步的输出或更新后的状态。
  • $s_v^{t,(k+1)}$: 如之前所述,这可能表示节点 v 在时间步 t 和迭代 k+1 中的神经元状态或特征向量,通常与神经元的激活有关。
  • $\tilde{h}_v^{t,(k+1)}$: 这是节点 v 在时间步 t 和迭代 k+1 中经过某种变换(如加权和及激活函数处理)后的特征向量。
  • : 这是元素级乘法(Hadamard乘积),表示两个向量相同位置元素之间的乘法。

时间嵌入聚合(并不清楚是怎么做的)

Hey!

If you have any non-algorithmic questions about the code, send me a message and I will be happy to help. I also hope to make more like-minded friends.