基于机器学习的第三代神经网络--脉冲神经网络的解析
脉冲神经网络(SNN)属于第三代神经网络模型,实现了更高级的生物神经模拟水平。
除了神经元和突触状态之外,SNN 还将时间概念纳入了其操作之中。
本文将简要介绍这种神秘的神经网络形式。
所有对目前机器学习有所了解的人都听说过这样一个事实:目前的人工神经网络是第二代神经网络。
它们通常是全连接的,接收连续的值,输出连续的值。
尽管当代神经网络已经让我们在很多领域中实现了突破,但它们在生物学上是不精确的,其实并不能模仿生物大脑神经元的运作机制。
第三代神经网络,脉冲神经网络(Spiking Neural Network,SNN),旨在弥合神经科学和机器学习之间的差距,使用最拟合生物神经元机制的模型来进行计算。
脉冲神经网络与目前流行的神经网络和机器学习方法有着根本上的不同。
SNN 使用脉冲——这是一种发生在时间点上的离散事件——而非常见的连续值。
每个峰值由代表生物过程的微分方程表示出来,其中最重要的是神经元的膜电位。
本质上,一旦神经元达到了某一电位,脉冲就会出现,随后达到电位的神经元会被重置。
对此,最常见的模型是Integrate-And-Fire(LIF)模型。
此外,SNN 通常是稀疏连接的,并会利用特殊的网络拓扑。
LIF 模型中膜电位的微分方程
脉冲期间的膜电位形态
三神经元网络的脉冲训练
脉冲神经网络图示
乍一看,脉冲神经网络的方法像是一种倒退。
我们从连续输出移动至二进制输出,这些脉冲训练的可解释性不强。
但是,脉冲训练增强了我们处理时空数据(或者说真实世界感官。