脉冲神经网络基础性知识.pdf

脉冲神经⽹络基础性知识

1、兴奋性突触与抑制性突触的作⽤是分别是神经元细胞膜电的增加与减少。

2、现在流⾏的⼈⼯神经⽹络所使⽤的神经元模型（例如ReLU）都是第⼆代神经元模型。它们主要⽤于处理模拟数值

3、脉冲神经⽹络使⽤的第三代神经元模型，第三代神经元的构建是受⽣物真实性的启发，它能处理基于脉冲处理的信号

4、脉冲神经⽹络的两个优势：1、计算效率⾼。2、具有更强的⽣物真实性

5、脉冲神经元因其本⾝具有时间的属性，所以更适合处理有关时序的输⼊信息

6、脉冲神经元相对复杂，针对输⼊，它们能提供复杂的⾮线性映射，从理论上分析，针对⼀个复杂的任务，⼀个⼩型的⽹络就能解决该任

务。

7、神经元模型中的参数表⽰的是膜时间常数，它与膜电压的衰减有关，越⼤，膜电压衰减的速度越慢

8、从概念和计算的⾓度来看，与其他尖峰神经元模型相⽐，LIF模型相对简单，所以采⽤最⼴泛。同时LIF模型有个优点就是该模型很容易

通过硬件实现，⽽且运⾏速度很快。

9、SRM（SpikeResponseModel）是LIF模型的⼀个推⼴，它在神经元动⼒学中使⽤了核⽅法。

10、Hodgkin-Huxley(HH)模型是根据在乌贼⾝上的⼤量实验结果所构建的。它是迄今为⽌最详细和最复杂的神经元模型，然⽽，该神经

元模型的需要很⼤的计算量，因此该模型不适⽤于⼤型⽹络的仿真。

11、Izhikevich（IM）模型可以通过在神经元动⼒学⽅程中设置不同的参数，使神经元具有不同的功能（例如连续激发⼀系列脉冲或只发

射⼀个脉冲）

12、脉冲神经元本质上是为了处理和产⽣这种时空脉冲序列。

13、现在主流的认为神经元的编码⽅式有两种：1、速率编码（ratecode）。2、时间编码（temporalcode）

速率编码：在运动细胞中，⽀配肌⾁的⼒量完全取决于“脉冲发放率”，可以简单理解成单时间的脉冲发放数量。

时间编码：是基于单个脉冲的精准时间，可以理解成他们时刻关注着外部的刺激，⼀般该种细胞存在在听觉系统或听觉回路中。

神经元是使⽤速率编码还是时间编码是神经科学界争论激烈的话题，甚⾄这些术语都没有明确的定义。

14、当你使⽤速率编码时，你就默认了信息是包含在脉冲的发放频率当中。当使⽤脉冲编码，我们关注的对象就应该是脉冲发放率，⽽不

是特定的脉冲序列。

脉冲的发放频率有两个解读⽅法:1、统计。2、概率。

15、在⼤多数感觉系统中，随着刺激强度的增加，发射率通常呈⾮线性增长[3]。

16、当采⽤速率编码时，任何可能编码在脉冲序列中精确信息都会被忽略。即采⽤速率编码就会⾃动丢失准确时间编码的信息。

17、频率编码的效率不⾼，但具有很强的抗噪声能⼒。

18、有关“firingrate”的定义有⼏种，主要是平平均的过程不同，⼀种定义为根据⼀段时间来取平均，另⼀种是⼏次实验的平均值。对于

速率编码⽅案中的⼤多数情况，它考虑编码窗⼝内的尖峰计数。

19、许多研究发现，神经编码的时间分辨率是毫秒级的，这表明精准时间编码在神经元编码中存在，⽽且⼗分重要。

20、在视⽹膜[15，16]，外侧膝状核(LGN)[17]和视⽪层[14，18]以及许多其他感觉系统[19，20]中，观察到神经元在毫秒尺度上精确

地对刺激作出反应。这个发现有⼒的⽀持时间编码的⽅式。

21、采⽤基于时间编码，可以更⾼效的信息进⾏表⽰，同时速度更快（例如神经元可以对特定置的脉冲作出响应）

22、temporalcode编码⽅式细分有⼏种：

1、latencycode：延迟码是⼀种特定形式的时间编码，即编码信息在时间上相对于编码窗⼝长度，这通常是与刺激的发⽣时间有关。

2、interspikeintervalscode：这种编码是通过两个脉冲之间的相对时间来表⽰编码信息。

3、phaseoffireingcode：难以描述，之后补充

23、相⽐速率编码，采⽤时间编码能携带更多的信息，同时具有更强的⽣物真实性和计算效率。

24、基于精确时间编码的学习算法：spike-time-dependentplasticity（STDP），Tempotronrule，SpikeProprule,SPANrule,

Chronotronrule,ReSuMerelu

25、STDP是今年来最常使⽤的学习算法，它是基于Hebbs理论

26、Tempotronrule算法只能学习神经元是否产⽣脉冲，不能是神经元发放脉冲的精准时间，所以该算法