脉冲神经网络（SNN）深度综述：从生物启发到类脑智能的技术演进

引言

在大语言模型参数规模指数级增长的今天，算力和能耗压力成为AI发展的核心瓶颈。脉冲神经网络（Spiking Neural Network, SNN）作为第三代神经网络，凭借事件驱动、超低功耗、稀疏激活等特性，被视为下一代类脑智能的重要方向。

神经网络的三代演进

SNN 的核心优势

传统 ANN：不管有没有有效信息都在计算
SNN：没有脉冲时几乎不耗能

一、生物神经元的数学建模

1.1 生物神经元基础

生物神经元由三部分组成：

• 树突（Dendrites）：接收输入信号
• 胞体（Soma）：整合信号
• 轴突（Axon）：输出脉冲

当胞体膜电位超过阈值时，神经元发放脉冲（spike），通过突触传递给下游神经元。

1.2 脉冲神经元模型

IF 模型（Integrate-and-Fire）

最简单的脉冲神经元模型：

$C_m \frac{dV}{dt} = I(t)$

当 $V(t) \geq V_{th}$ 时，发放脉冲并重置： $V(t) \leftarrow V_{reset}$

特点：

• 无泄漏，膜电位持续累积
• 无法模拟生物神经元的泄漏特性

LIF 模型（Leaky Integrate-and-Fire）

最常用的脉冲神经元模型，增加泄漏项：

$\tau_m \frac{dV}{dt} = -(V - V_{rest}) + R \cdot I(t)$

其中：

• $\tau_m = R \cdot C_m$：膜时间常数
• $V_{rest}$：静息电位
• $R$：膜电阻
• $I(t)$：输入电流

离散形式：

$V[t+1] = \beta \cdot V[t] + (1-\beta) \cdot I[t]$

其中 $\beta = e^{-\Delta t / \tau_m}$ 是衰减因子。

当 $V[t] \geq V_{th}$ 时： $S[t] = \Theta(V[t] - V_{th})$ $V[t] \leftarrow V_{reset}$

其中 $\Theta$ 是阶跃函数，$S[t]$ 是脉冲输出。

LIF 的直观理解：

LIF 神经元 = "装水的杯子"
- 输入信号 = 加水
- 阈值 = 杯子容量
- 水满溢出 = 发放脉冲
- 溢出后清空 = 不应期
- 水慢慢蒸发 = 泄漏项

Izhikevich 模型

更复杂的生物模型，能模拟多种放电模式：

$\frac{dv}{dt} = 0.04v^2 + 5v + 140 - u + I$ $\frac{du}{dt} = a(bv - u)$

当 $v \geq 30$ mV 时： $v \leftarrow c, \quad u \leftarrow u + d$

可模拟的放电模式：

• 规则放电（Regular Spiking）
• 快速放电（Fast Spiking）
• 簇状放电（Bursting）
• 混沌放电（Chaotic）

1.3 模型对比

二、脉冲编码策略

2.1 速率编码（Rate Coding）

用单位时间内的脉冲数量表示信息强度：

$r = \frac{N_{spikes}}{T}$

优点：

• 鲁棒性强
• 易于理解

缺点：

• 需要长时间窗口
• 信息密度低

2.2 时间编码（Temporal Coding）

用脉冲的精确时间表示信息：

优点：

• 信息密度高
• 响应速度快

2.3 群体编码（Population Coding）

用多个神经元的联合活动表示信息：

$\mathbf{r} = [r_1, r_2, ..., r_N]$

优点：

• 冗余性强
• 可表示高维信息

三、SNN 学习算法

3.1 无监督学习：STDP

STDP（Spike-Timing-Dependent Plasticity） 是 SNN 最重要的无监督学习规则，模拟生物突触的可塑性。

核心原理

突触前神经元先发放 → 突触后神经元后发放
    ↓
突触权重增强（LTP，Long-Term Potentiation）

突触后神经元先发放 → 突触前神经元后发放
    ↓
突触权重减弱（LTD，Long-Term Depression）

数学公式

权重变化：