論文の概要: SkipSNN: Efficiently Classifying Spike Trains with Event-attention

• arxiv url: http://arxiv.org/abs/2411.05806v1
• Date: Tue, 29 Oct 2024 03:19:25 GMT
• ステータス: 翻訳完了
• システム内更新日: 2024-11-17 09:02:20.728207
• Title: SkipSNN: Efficiently Classifying Spike Trains with Event-attention
• Title（参考訳）: SkipSNN: イベントアテンションによるスパイク列車の効率的な分類
• Authors: Hang Yin, Yao Su, Liping Liu, Thomas Hartvigsen, Xin Dai, Xiangnan Kong,
• Abstract要約: スパイクトレインの分類は最近、機械学習コミュニティにおいて重要なトピックとなっている。 有望なモデルは、関心の信号が現れる場合にのみ集中的な計算を行うという設計原則に従うべきである。 本稿では,SNNが本来のスパイク列車の有用な信号に動的にハイライトできるイベントアテンション機構を提案する。
• 参考スコア（独自算出の注目度）: 29.639889737632842
• License:
• Abstract: Spike train classification has recently become an important topic in the machine learning community, where each spike train is a binary event sequence with \emph{temporal-sparsity of signals of interest} and \emph{temporal-noise} properties. A promising model for it should follow the design principle of performing intensive computation only when signals of interest appear. So such tasks use mainly Spiking Neural Networks (SNNs) due to their consideration of temporal-sparsity of spike trains. However, the basic mechanism of SNNs ignore the temporal-noise issue, which makes them computationally expensive and thus high power consumption for analyzing spike trains on resource-constrained platforms. As an event-driven model, an SNN neuron makes a reaction given any input signals, making it difficult to quickly find signals of interest. In this paper, we introduce an event-attention mechanism that enables SNNs to dynamically highlight useful signals of the original spike trains. To this end, we propose SkipSNN, which extends existing SNN models by learning to mask out noise by skipping membrane potential updates and shortening the effective size of the computational graph. This process is analogous to how people choose to open and close their eyes to filter the information they see. We evaluate SkipSNN on various neuromorphic tasks and demonstrate that it achieves significantly better computational efficiency and classification accuracy than other state-of-the-art SNNs.
• Abstract（参考訳）: スパイクトレインの分類は、最近機械学習コミュニティにおいて重要なトピックとなり、各スパイクトレインは、興味のある信号の‘emph{temporal-sparsity’と‘emph{temporal-noise’プロパティを持つバイナリイベントシーケンスである。 有望なモデルは、関心の信号が現れる場合にのみ集中的な計算を行うという設計原則に従うべきである。 そのため、スパイク列車の時間的疎外性を考慮して、主にスパイクニューラルネットワーク(SNN)を使用する。 しかし、SNNの基本メカニズムは時間ノイズの問題を無視しており、計算コストが高く、資源制約のあるプラットフォーム上でスパイク列車を解析するための電力消費量が高い。 事象駆動型モデルとして、SNNニューロンは入力信号が与えられた場合、反応を起こし、興味のある信号を素早く見つけることが困難になる。 本稿では,SNNが本来のスパイク列車の有用な信号を動的にハイライトできるイベントアテンション機構を提案する。 この目的のために,SkipSNNを提案する。SkipSNNは,膜電位の更新をスキップすることでノイズを隠蔽し,計算グラフの有効サイズを短縮することで,既存のSNNモデルを拡張する。 このプロセスは、人々が目を開けて閉じて見える情報をフィルターする方法に似ています。 我々はSkipSNNを様々なニューロモルフィックタスクで評価し、他の最先端SNNよりも計算効率と分類精度が大幅に向上することを示した。

関連論文リスト

• Towards Low-latency Event-based Visual Recognition with Hybrid Step-wise Distillation Spiking Neural Networks [50.32980443749865]
  スパイキングニューラルネットワーク(SNN)は、低消費電力と高い生物性のために大きな注目を集めている。 現在のSNNは、ニューロモルフィックデータセットの正確性とレイテンシのバランスをとるのに苦労している。 ニューロモルフィックデータセットに適したステップワイド蒸留法(HSD)を提案する。
  論文  参考訳（メタデータ） (2024-09-19T06:52:34Z)
• Temporal Spiking Neural Networks with Synaptic Delay for Graph Reasoning [91.29876772547348]
  スパイキングニューラルネットワーク(SNN)は、生物学的にインスパイアされたニューラルネットワークモデルとして研究されている。 本稿では,SNNがシナプス遅延と時間符号化とを併用すると,グラフ推論の実行(知識)に長けていることを明らかにする。
  論文  参考訳（メタデータ） (2024-05-27T05:53:30Z)
• High-performance deep spiking neural networks with 0.3 spikes per neuron [9.01407445068455]
  バイオインスパイアされたスパイクニューラルネットワーク(SNN)を人工ニューラルネットワーク(ANN)より訓練することは困難である 深部SNNモデルのトレーニングは,ANNと全く同じ性能が得られることを示す。 我々のSNNは1ニューロンあたり0.3スパイク以下で高性能な分類を行い、エネルギー効率の良い実装に役立てる。
  論文  参考訳（メタデータ） (2023-06-14T21:01:35Z)
• Training High-Performance Low-Latency Spiking Neural Networks by Differentiation on Spike Representation [70.75043144299168]
  スパイキングニューラルネットワーク(SNN)は、ニューロモルフィックハードウェア上に実装された場合、有望なエネルギー効率のAIモデルである。 非分化性のため、SNNを効率的に訓練することは困難である。 本稿では,ハイパフォーマンスを実現するスパイク表現法(DSR)の差分法を提案する。
  論文  参考訳（メタデータ） (2022-05-01T12:44:49Z)
• A Spiking Neural Network Structure Implementing Reinforcement Learning [0.0]
  本稿では,SNNの構造について述べる。 本論文で考察したSNN構造は、LIFAT(Leky Integration-and-fire neuron with adapt threshold)モデルの一般化によって記述されたスパイクニューロンを含む。 私の概念は、RLタスク特性に関する非常に一般的な仮定に基づいており、適用性に目に見える制限はありません。
  論文  参考訳（メタデータ） (2022-04-09T09:08:10Z)
• A Time Encoding approach to training Spiking Neural Networks [3.655021726150368]
  スパイキングニューラルネットワーク(SNN)の人気が高まっている。 本稿では、時間符号化理論を用いて、SNNの理解と学習を支援する余分なツールを提供する。
  論文  参考訳（メタデータ） (2021-10-13T14:07:11Z)
• Progressive Tandem Learning for Pattern Recognition with Deep Spiking Neural Networks [80.15411508088522]
  スパイキングニューラルネットワーク(SNN)は、低レイテンシと高い計算効率のために、従来の人工知能ニューラルネットワーク(ANN)よりも優位性を示している。 高速かつ効率的なパターン認識のための新しいANN-to-SNN変換およびレイヤワイズ学習フレームワークを提案する。
  論文  参考訳（メタデータ） (2020-07-02T15:38:44Z)
• Tensor train decompositions on recurrent networks [60.334946204107446]
  マトリックス製品状態(MPS)テンソルトレインは、ストレージの削減と推論時の計算時間の観点から、MPOよりも魅力的な特徴を持つ。 理論解析により,MPSテンソル列車はLSTMネットワーク圧縮の最前線に置かれるべきであることを示す。
  論文  参考訳（メタデータ） (2020-06-09T18:25:39Z)
• Event-Based Angular Velocity Regression with Spiking Networks [51.145071093099396]
  スパイキングニューラルネットワーク(SNN)は、数値ではなく時間スパイクとして伝達される情報を処理する。 本稿では,イベントカメラから与えられた事象の時間回帰問題を初めて提案する。 角速度回帰を行うためにSNNをうまく訓練できることが示される。
  論文  参考訳（メタデータ） (2020-03-05T17:37:16Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。