脉冲神经网络（SNN）深度综述：从生物启发到类脑智能的技术演进

引言

在大语言模型参数规模指数级增长的今天，算力和能耗压力成为AI发展的核心瓶颈。脉冲神经网络（Spiking Neural Network, SNN）作为第三代神经网络，凭借事件驱动、超低功耗、稀疏激活等特性，被视为下一代类脑智能的重要方向。

神经网络的三代演进

SNN 的核心优势

传统 ANN：不管有没有有效信息都在计算
SNN：没有脉冲时几乎不耗能

一、生物神经元的数学建模

1.1 生物神经元基础

生物神经元由三部分组成：

• 树突（Dendrites）：接收输入信号
• 胞体（Soma）：整合信号
• 轴突（Axon）：输出脉冲

当胞体膜电位超过阈值时，神经元发放脉冲（spike），通过突触传递给下游神经元。

1.2 脉冲神经元模型

IF 模型（Integrate-and-Fire）

最简单的脉冲神经元模型：

$C_m \frac{dV}{dt} = I(t)$

当 $V(t) \geq V_{th}$ 时，发放脉冲并重置： $V(t) \leftarrow V_{reset}$

特点：

• 无泄漏，膜电位持续累积
• 无法模拟生物神经元的泄漏特性

LIF 模型（Leaky Integrate-and-Fire）

最常用的脉冲神经元模型，增加泄漏项：

$\tau_m \frac{dV}{dt} = -(V - V_{rest}) + R \cdot I(t)$

其中：

• $\tau_m = R \cdot C_m$：膜时间常数
• $V_{rest}$：静息电位
• $R$：膜电阻
• $I(t)$：输入电流

离散形式：

$V[t+1] = \beta \cdot V[t] + (1-\beta) \cdot I[t]$

其中 $\beta = e^{-\Delta t / \tau_m}$ 是衰减因子。

当 $V[t] \geq V_{th}$ 时： $S[t] = \Theta(V[t] - V_{th})$ $V[t] \leftarrow V_{reset}$

其中 $\Theta$ 是阶跃函数，$S[t]$ 是脉冲输出。

LIF 的直观理解：

LIF 神经元 = "装水的杯子"
- 输入信号 = 加水
- 阈值 = 杯子容量
- 水满溢出 = 发放脉冲
- 溢出后清空 = 不应期
- 水慢慢蒸发 = 泄漏项

Izhikevich 模型

更复杂的生物模型，能模拟多种放电模式：

$\frac{dv}{dt} = 0.04v^2 + 5v + 140 - u + I$ $\frac{du}{dt} = a(bv - u)$

当 $v \geq 30$ mV 时： $v \leftarrow c, \quad u \leftarrow u + d$

可模拟的放电模式：

• 规则放电（Regular Spiking）
• 快速放电（Fast Spiking）
• 簇状放电（Bursting）
• 混沌放电（Chaotic）

1.3 模型对比

二、脉冲编码策略

2.1 速率编码（Rate Coding）

用单位时间内的脉冲数量表示信息强度：

$r = \frac{N_{spikes}}{T}$

优点：

• 鲁棒性强
• 易于理解

缺点：

• 需要长时间窗口
• 信息密度低

2.2 时间编码（Temporal Coding）

用脉冲的精确时间表示信息：

优点：

• 信息密度高
• 响应速度快

2.3 群体编码（Population Coding）

用多个神经元的联合活动表示信息：

$\mathbf{r} = [r_1, r_2, ..., r_N]$

优点：

• 冗余性强
• 可表示高维信息

三、SNN 学习算法

3.1 无监督学习：STDP

STDP（Spike-Timing-Dependent Plasticity） 是 SNN 最重要的无监督学习规则，模拟生物突触的可塑性。

核心原理

突触前神经元先发放 → 突触后神经元后发放
    ↓
突触权重增强（LTP，Long-Term Potentiation）

突触后神经元先发放 → 突触前神经元后发放
    ↓
突触权重减弱（LTD，Long-Term Depression）

数学公式

权重变化：

$\Delta w = \begin{cases} A_+ \cdot e^{-\Delta t / \tau_+} & \text{if } \Delta t > 0 \text{ (LTP)} \\ -A_- \cdot e^{\Delta t / \tau_-} & \text{if } \Delta t < 0 \text{ (LTD)} \end{cases}$

其中：

• $\Delta t = t_{post} - t_{pre}$：脉冲时间差
• $A_+, A_-$：学习率
• $\tau_+, \tau_-$：时间常数

STDP 的特点

STDP 的应用

• MNIST 手写数字识别
• 模式分类
• 特征提取
• 无监督聚类

3.2 监督学习：STBP

STBP（Spatio-Temporal Backpropagation） 将反向传播扩展到时空维度。

核心挑战

脉冲发放函数是阶跃函数，不可导：

$S[t] = \Theta(V[t] - V_{th})$

解决方案：代理梯度法

用可导函数近似阶跃函数：

$\frac{\partial S}{\partial V} \approx \text{surrogate}(V - V_{th})$

常用代理函数：

• 矩形函数：$\frac{1}{\alpha} \cdot \mathbb{1}_{|V-V_{th}| < \alpha/2}$
• Sigmoid 导数：$\sigma'(\alpha(V - V_{th}))$
• Atan 函数：$\frac{1}{1 + (\alpha(V - V_{th}))^2}$

STBP 算法流程

1. 前向传播：计算膜电位和脉冲
   V[t+1] = β·V[t] + I[t]
   S[t] = Θ(V[t] - V_th)
   
2. 计算损失：L = f(S, target)

3. 反向传播：使用代理梯度
   ∂L/∂V[t] = ∂L/∂S[t] · surrogate'(V[t] - V_th)
   
4. 更新权重：w = w - η · ∂L/∂w

3.3 其他学习算法

四、SNN 硬件实现

4.1 神经形态芯片

Intel Loihi 2

IBM TrueNorth

国产"悟空"类脑计算机

4.2 最新突破：复旦 PSNA 架构

2026年7月，复旦大学陈琳教授团队在 Nature Communications 发表最新成果

核心创新

可编程脉冲神经计算架构（PSNA）：

• 基于光电可重构器件（PRD）
• 在同一器件内融合光突触与电神经元
• 任意单元可独立编程为突触或神经元

性能提升

技术细节

铪基光电可重构器件（PRD）：

• 融合光脉冲与 LIF 电学神经元特性
• 光突触/电神经元一体化集成
• 切换过程无需冗余操作

动态映射算法：

• 根据网络连接关系动态分配计算节点
• 解决传统架构利用率极低的问题

五、SNN 最新研究进展（2026）

5.1 PTQ4SNN：膜电位感知的后训练量化

发布时间：2026年8月7日

核心问题：

• SNN 的膜电位状态通常保留为浮点数
• 量化膜电位具有挑战性：分布跨通道不同，且接近阈值时小扰动会改变脉冲决策

解决方案：

5.2 Spiking-NeRF：脉冲神经辐射场

发布时间：2026年3月（ASP-DAC 2026 最佳论文提名）

核心创新：

• 首款基于脉冲特征编码的 NeRF 硬件加速器
• 将连续体素特征转化为稀疏二进制脉冲

性能提升：

技术细节：

• 脉冲跳过机制：动态绕过无效哈希条目
• 全局重要性剪枝：移除低访问频率哈希条目
• 硬阈值权重离散化：浮点乘法转为位逻辑运算

5.3 SMM Transformer：基于 SNN 的多模态 Transformer

发布时间：2026年8月3日

核心挑战：

• 深层 SNN 训练不稳定
• 密集 softmax 注意力与脉冲计算不匹配

解决方案：

• 事件驱动的多模态 Transformer
• 稀疏激活
• 稳定的深层 SNN 训练方法

5.4 自适应 LIF 神经元模型

发布时间：2026年1月

核心创新：

• 自适应 LIF 神经元模型
• 可调节乘性 STDP 规则
• 突触前踪迹的指数映射和乘性调制

性能：

• MNIST 分类准确度：98.7%
• 动态视觉传感器数据集：准确识别不同方向和极性特征

六、SNN 应用场景

6.1 工业故障诊断

6.2 机器人

6.3 计算机视觉

6.4 神经辐射场（NeRF）

6.5 类脑计算

七、国内外研究进展全景

7.1 中国高校

清华大学

北京大学

上海交通大学

浙江大学

对比国际：

7.2 国内公司

灵汐科技

华为

中科寒武纪

思必驰

7.3 国外进展

美国 — 全球绝对龙头

软件生态：

澳大利亚 — 类器官智能

瑞士 — 湿件计算

欧盟 — 脑科学仿真

7.4 全球竞争格局

市场份额

能效对比

技术路线对比

八、SNN vs ANN 对比

九、挑战与未来方向

8.1 当前挑战

8.2 未来方向

1. 算法层面

2. 硬件层面

3. 应用层面

十、总结

技术意义

脉冲神经网络（SNN）作为第三代神经网络，代表了 AI 发展的重要方向：

1. 生物启发：更接近生物神经元的计算方式
2. 能效革命：事件驱动带来数量级的能效提升
3. 时序天然：天然适合处理时序数据
4. 边缘友好：低功耗适合边缘部署

产业意义

未来展望

"SNN 不是要取代 ANN，而是为特定场景提供更优解。在边缘计算、实时处理、低功耗场景，SNN 具有不可替代的优势。"

随着神经形态硬件的成熟、训练算法的突破、应用场景的拓展，SNN 有望在未来 5-10 年实现规模化商用，成为类脑智能的重要基石。

附录：SNN 学习资源

开源框架

经典论文

1. Maass, W. (1997). Networks of spiking neurons: the third generation of neural network models. Neural Networks.
2. Eshraghian, J. K., et al. (2023). Training spiking neural networks using lessons from deep learning. Proceedings of the IEEE.
3. Tavanaei, A., et al. (2019). Deep learning in spiking neural networks. Neural Networks.

会议与期刊

本文约 6000 字，系统梳理了脉冲神经网络的核心原理、学习算法、硬件实现及最新研究进展。如需了解更多细节，请参考附录中的学习资源。