首页 > Web开发 > 详细

Spatio-Temporal Backpropagation for Training High-performance Spiking Neural Networks

时间:2021-08-23 14:50:24      阅读:20      评论:0      收藏:0      [点我收藏+]

郑重声明:原文参见标题,如有侵权,请联系作者,将会撤销发布

技术分享图片

 

FRONTIERS IN NEUROSCIENCE, (2018)

 

Abstract

  与人工神经网络 (ANN) 相比,尖峰神经网络 (SNN) 有望探索类脑行为,因为尖峰可以编码更多时空信息。 尽管现有的包括 ANN 预训练或基于反向传播 (BP) 的直接训练的方案使 SNN 的监督训练成为可能,但这些方法仅利用网络的空间域信息导致性能瓶颈,并且需要许多复杂的训练技术。 另一个基本问题是尖峰活动自然是不可微的,这给训练 SNN 带来了很大的困难。 为此,我们构建了一个对梯度下降训练更友好的迭代 LIF 模型。 通过在训练阶段同时考虑逐层空间域 (SD) 和时间相关时间域 (TD),以及尖峰活动的近似导数,我们提出了时空反向传播 (STBP) 不使用任何复杂技能的训练框架。我们设计了相应的全连接和卷积架构,并在静态 MNIST 和自定义对象检测数据集以及动态 N-MNIST 上评估我们的框架。 结果表明,与尖峰网络上现有的最先进算法相比,我们的方法实现了最佳精度。 这项工作为探索具有丰富时空动态的未来类脑计算范式的高性能 SNN 提供了新的视角。

Spatio-Temporal Backpropagation for Training High-performance Spiking Neural Networks

原文:https://www.cnblogs.com/lucifer1997/p/15175492.html

(0)
(0)
   
举报
评论 一句话评论(0
关于我们 - 联系我们 - 留言反馈 - 联系我们:wmxa8@hotmail.com
© 2014 bubuko.com 版权所有
打开技术之扣,分享程序人生!