論文の概要: Dance of SNN and ANN: Solving binding problem by combining spike timing
and reconstructive attention
- arxiv url: http://arxiv.org/abs/2211.06027v1
- Date: Fri, 11 Nov 2022 06:47:54 GMT
- ステータス: 処理完了
- システム内更新日: 2022-11-14 15:30:32.028593
- Title: Dance of SNN and ANN: Solving binding problem by combining spike timing
and reconstructive attention
- Title(参考訳): SNNとANNの踊り:スパイクタイミングと再構成注意を組み合わせた結合問題の解決
- Authors: Hao Zheng, Hui Lin, Rong Zhao, Luping Shi
- Abstract要約: 結合問題は、人工知能ニューラルネットワーク(ANN)が世界の構成的理解を阻害する基本的な課題の1つである。
本稿では,脳神経科学に由来する時間的結合理論をANNに導入する,脳にインスパイアされたハイブリッドニューラルネットワーク(HNN)を提案する。
- 参考スコア(独自算出の注目度): 13.518085470219779
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: The binding problem is one of the fundamental challenges that prevent the
artificial neural network (ANNs) from a compositional understanding of the
world like human perception, because disentangled and distributed
representations of generative factors can interfere and lead to ambiguity when
complex data with multiple objects are presented. In this paper, we propose a
brain-inspired hybrid neural network (HNN) that introduces temporal binding
theory originated from neuroscience into ANNs by integrating spike timing
dynamics (via spiking neural networks, SNNs) with reconstructive attention (by
ANNs). Spike timing provides an additional dimension for grouping, while
reconstructive feedback coordinates the spikes into temporal coherent states.
Through iterative interaction of ANN and SNN, the model continuously binds
multiple objects at alternative synchronous firing times in the SNN coding
space. The effectiveness of the model is evaluated on synthetic datasets of
binary images. By visualization and analysis, we demonstrate that the binding
is explainable, soft, flexible, and hierarchical. Notably, the model is trained
on single object datasets without explicit supervision on grouping, but
successfully binds multiple objects on test datasets, showing its compositional
generalization capability. Further results show its binding ability in dynamic
situations.
- Abstract(参考訳): 結合問題(英: binding problem)は、人工ニューラルネットワーク(anns)が人間の知覚のような世界を理解することを妨げる根本的な課題の1つである。
本稿では,スパイクタイミングダイナミクス(スパイクニューラルネットワーク(sns)によるスパイクタイミングダイナミクス)と再構成的注意(annによる)の統合により,神経科学に由来する時間的結合理論をannに導入する,脳にインスパイアされたハイブリッドニューラルネットワーク(hnn)を提案する。
スパイクタイミングはグループ化のための追加次元を提供し、再構成フィードバックはスパイクを時間的コヒーレントな状態に調整する。
ANNとSNNの反復的相互作用により、モデルはSNN符号化空間において、代替の同期発射時間で複数のオブジェクトを連続的にバインドする。
モデルの有効性をバイナリ画像の合成データセット上で評価する。
可視化と解析により,結合が説明可能,ソフト,フレキシブル,階層的であることを実証する。
特に、モデルはグルーピングを明示的に監視せずに単一のオブジェクトデータセットでトレーニングされるが、テストデータセットに複数のオブジェクトをバインドすることに成功し、構成の一般化能力を示している。
さらに,動的状況下での結合性を示す。
関連論文リスト
- Enhancing SNN-based Spatio-Temporal Learning: A Benchmark Dataset and Cross-Modality Attention Model [30.66645039322337]
高品質なベンチマークデータセットは、ニューラルネットワーク(SNN)の発展に非常に重要である
しかし、SNNベースのクロスモーダル融合はまだ未定である。
本研究では,SNNの時間的特性をよりよく活用できるニューロモルフィックデータセットを提案する。
論文 参考訳(メタデータ) (2024-10-21T06:59:04Z) - Temporal Spiking Neural Networks with Synaptic Delay for Graph Reasoning [91.29876772547348]
スパイキングニューラルネットワーク(SNN)は、生物学的にインスパイアされたニューラルネットワークモデルとして研究されている。
本稿では,SNNがシナプス遅延と時間符号化とを併用すると,グラフ推論の実行(知識)に長けていることを明らかにする。
論文 参考訳(メタデータ) (2024-05-27T05:53:30Z) - Efficient and Effective Time-Series Forecasting with Spiking Neural Networks [47.371024581669516]
スパイキングニューラルネットワーク(SNN)は、時間データの複雑さを捉えるためのユニークな経路を提供する。
SNNを時系列予測に適用することは、効果的な時間的アライメントの難しさ、符号化プロセスの複雑さ、およびモデル選択のための標準化されたガイドラインの欠如により困難である。
本稿では,時間情報処理におけるスパイクニューロンの効率を活かした時系列予測タスクにおけるSNNのためのフレームワークを提案する。
論文 参考訳(メタデータ) (2024-02-02T16:23:50Z) - STSC-SNN: Spatio-Temporal Synaptic Connection with Temporal Convolution
and Attention for Spiking Neural Networks [7.422913384086416]
ニューロモルフィックコンピューティングのアルゴリズムモデルの一つであるスパイキングニューラルネットワーク(SNN)は、時間的処理能力のために多くの研究注目を集めている。
SNNの既存のシナプス構造は、ほぼ完全な接続や空間的2次元畳み込みであり、どちらも時間的依存関係を適切に抽出できない。
生体シナプスからインスピレーションを得てシナプス接続SNNモデルを提案し,シナプス接続の時間的受容場を強化する。
時間的依存を伴うシナプスモデルの提供は、分類タスクにおけるSNNの性能を向上させることができることを示す。
論文 参考訳(メタデータ) (2022-10-11T08:13:22Z) - On the Intrinsic Structures of Spiking Neural Networks [66.57589494713515]
近年、時間依存データやイベント駆動データを扱う大きな可能性から、SNNへの関心が高まっている。
スパイキング計算における本質的な構造の影響を総合的に調査する研究が数多く行われている。
この研究はSNNの本質的な構造を深く掘り下げ、SNNの表現性への影響を解明する。
論文 参考訳(メタデータ) (2022-06-21T09:42:30Z) - Training High-Performance Low-Latency Spiking Neural Networks by
Differentiation on Spike Representation [70.75043144299168]
スパイキングニューラルネットワーク(SNN)は、ニューロモルフィックハードウェア上に実装された場合、有望なエネルギー効率のAIモデルである。
非分化性のため、SNNを効率的に訓練することは困難である。
本稿では,ハイパフォーマンスを実現するスパイク表現法(DSR)の差分法を提案する。
論文 参考訳(メタデータ) (2022-05-01T12:44:49Z) - Hybrid SNN-ANN: Energy-Efficient Classification and Object Detection for
Event-Based Vision [64.71260357476602]
イベントベースの視覚センサは、画像フレームではなく、イベントストリームの局所的な画素単位の明るさ変化を符号化する。
イベントベースセンサーによる物体認識の最近の進歩は、ディープニューラルネットワークの変換によるものである。
本稿では、イベントベースのパターン認識とオブジェクト検出のためのディープニューラルネットワークのエンドツーエンドトレーニングのためのハイブリッドアーキテクチャを提案する。
論文 参考訳(メタデータ) (2021-12-06T23:45:58Z) - Exploiting Spiking Dynamics with Spatial-temporal Feature Normalization
in Graph Learning [9.88508686848173]
内在的なダイナミクスを持つ生物学的スパイキングニューロンは、脳の強力な表現力と学習能力を持つ。
ユークリッド空間タスクを処理するためのスパイクニューラルネットワーク(SNN)の最近の進歩にもかかわらず、非ユークリッド空間データの処理においてSNNを活用することは依然として困難である。
本稿では,グラフ学習のためのSNNの直接学習を可能にする,一般的なスパイクに基づくモデリングフレームワークを提案する。
論文 参考訳(メタデータ) (2021-06-30T11:20:16Z) - Comparing SNNs and RNNs on Neuromorphic Vision Datasets: Similarities
and Differences [36.82069150045153]
スパイキングニューラルネットワーク(SNN)とリカレントニューラルネットワーク(RNN)は、ニューロモルフィックデータに基づいてベンチマークされる。
本研究では,SNNとRNNをニューロモルフィックデータと比較するための系統的研究を行う。
論文 参考訳(メタデータ) (2020-05-02T10:19:37Z) - Rectified Linear Postsynaptic Potential Function for Backpropagation in
Deep Spiking Neural Networks [55.0627904986664]
スパイキングニューラルネットワーク(SNN)は、時間的スパイクパターンを用いて情報を表現し、伝達する。
本稿では,情報符号化,シナプス可塑性,意思決定におけるスパイクタイミングダイナミクスの寄与について検討し,将来のDeepSNNやニューロモルフィックハードウェアシステムの設計への新たな視点を提供する。
論文 参考訳(メタデータ) (2020-03-26T11:13:07Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。