論文の概要: Mamba-Spike: Enhancing the Mamba Architecture with a Spiking Front-End for Efficient Temporal Data Processing

• arxiv url: http://arxiv.org/abs/2408.11823v1
• Date: Sun, 4 Aug 2024 14:10:33 GMT
• ステータス: 処理完了
• システム内更新日: 2024-08-25 14:11:11.618657
• Title: Mamba-Spike: Enhancing the Mamba Architecture with a Spiking Front-End for Efficient Temporal Data Processing
• Title（参考訳）: Mamba-Spike: 効率的な時間データ処理のためのスパイクフロントエンドによるMambaアーキテクチャの強化
• Authors: Jiahao Qin, Feng Liu,
• Abstract要約: Mamba-Spikeは、スパイクするフロントエンドとMambaのバックボーンを統合して、効率的な時間的データ処理を実現する新しいニューロモルフィックアーキテクチャである。 このアーキテクチャは、最先端のベースラインを一貫して上回り、高い精度、低いレイテンシ、エネルギー効率の向上を実現している。
• 参考スコア（独自算出の注目度）: 4.673285689826945
• License: http://creativecommons.org/licenses/by-nc-nd/4.0/
• Abstract: The field of neuromorphic computing has gained significant attention in recent years, aiming to bridge the gap between the efficiency of biological neural networks and the performance of artificial intelligence systems. This paper introduces Mamba-Spike, a novel neuromorphic architecture that integrates a spiking front-end with the Mamba backbone to achieve efficient and robust temporal data processing. The proposed approach leverages the event-driven nature of spiking neural networks (SNNs) to capture and process asynchronous, time-varying inputs, while harnessing the power of the Mamba backbone's selective state spaces and linear-time sequence modeling capabilities to model complex temporal dependencies effectively. The spiking front-end of Mamba-Spike employs biologically inspired neuron models, along with adaptive threshold and synaptic dynamics. These components enable efficient spatiotemporal feature extraction and encoding of the input data. The Mamba backbone, on the other hand, utilizes a hierarchical structure with gated recurrent units and attention mechanisms to capture long-term dependencies and selectively process relevant information. To evaluate the efficacy of the proposed architecture, a comprehensive empirical study is conducted on both neuromorphic datasets, including DVS Gesture and TIDIGITS, and standard datasets, such as Sequential MNIST and CIFAR10-DVS. The results demonstrate that Mamba-Spike consistently outperforms state-of-the-art baselines, achieving higher accuracy, lower latency, and improved energy efficiency. Moreover, the model exhibits robustness to various input perturbations and noise levels, highlighting its potential for real-world applications. The code will be available at https://github.com/ECNU-Cross-Innovation-Lab/Mamba-Spike.
• Abstract（参考訳）: 近年、ニューラルネットワークの効率と人工知能システムの性能のギャップを埋めることを目的として、ニューロモルフィックコンピューティングの分野が注目されている。 本稿では, スパイクするフロントエンドをMambaバックボーンに統合し, 効率的かつ堅牢な時間データ処理を実現する新しいニューロモルフィックアーキテクチャであるMamba-Spikeを紹介する。 提案手法は、スパイキングニューラルネットワーク(SNN)のイベント駆動性を活用して、非同期で時間変化のある入力をキャプチャし、処理すると同時に、Mambaバックボーンの選択状態空間と線形時間シーケンスモデリング機能を利用して、複雑な時間的依存関係を効果的にモデル化する。 マンバ・スパイクのスパイクフロントエンドは、適応しきい値とシナプス力学とともに生物学的にインスパイアされたニューロンモデルを採用している。 これらのコンポーネントは、入力データの効率的な時空間特徴抽出および符号化を可能にする。 一方、Mambaのバックボーンは、ゲートされた繰り返しユニットとアテンション機構を備えた階層構造を利用して、長期的な依存関係を捕捉し、関連する情報を選択的に処理する。 提案手法の有効性を評価するため,DVS Gesture や TIDIGITS などのニューロモルフィックデータセットと,Sequential MNIST や CIFAR10-DVS などの標準データセットを総合的に検討した。 その結果、Mamba-Spikeは最先端のベースラインを一貫して上回り、精度の向上、レイテンシの低減、エネルギー効率の向上を実現している。 さらに、このモデルは様々な入力摂動やノイズレベルに対して堅牢性を示し、現実世界の応用の可能性を強調している。 コードはhttps://github.com/ECNU-Cross-Innovation-Lab/Mamba-Spikeで入手できる。

関連論文リスト

• State-space models are accurate and efficient neural operators for dynamical systems [23.59679792068364]
  物理インフォームド・機械学習(PIML)は、力学系を予測する古典的な手法の代替として期待されている。 リカレントニューラルネットワーク(RNN)、トランスフォーマー、ニューラル演算子など、既存のモデルでは、長時間の統合、長距離依存性、カオスダイナミクス、外挿といった課題に直面している。 本稿では,Mambaで実装された動的システム演算子学習のための状態空間モデルを提案する。
  論文  参考訳（メタデータ） (2024-09-05T03:57:28Z)
• Hierarchical Spatio-Temporal State-Space Modeling for fMRI Analysis [1.7329715392023939]
  機能的マンバ(FST-Mamba, FST-Mamba)は,fMRIを用いた神経バイオマーカーの発見を目的とした機能的マンバ(FST-Mamba)モデルである。 脳ネットワーク内の個々のコンポーネント間の接続を集約するコンポーネントワイド・バラエティ・スケール・アグリゲーション(CVA)機構を提案する。 実験結果から,脳の分類と回帰作業におけるFST-Mambaモデルの有効性が示唆された。
  論文  参考訳（メタデータ） (2024-08-23T13:58:14Z)
• Bidirectional Gated Mamba for Sequential Recommendation [56.85338055215429]
  最近の進歩であるMambaは、時系列予測において例外的なパフォーマンスを示した。 SIGMA(Selective Gated Mamba)と呼ばれる,シークエンシャルレコメンデーションのための新しいフレームワークを紹介する。 以上の結果から,SIGMAは5つの実世界のデータセットにおいて,現在のモデルよりも優れていたことが示唆された。
  論文  参考訳（メタデータ） (2024-08-21T09:12:59Z)
• MambaVT: Spatio-Temporal Contextual Modeling for robust RGB-T Tracking [51.28485682954006]
  本研究では,マンバをベースとした純フレームワーク(MambaVT)を提案する。 具体的には、長距離クロスフレーム統合コンポーネントを考案し、ターゲットの外観変化にグローバルに適応する。 実験では、RGB-TトラッキングのためのMambaのビジョンの可能性が示され、MambaVTは4つの主要なベンチマークで最先端のパフォーマンスを達成した。
  論文  参考訳（メタデータ） (2024-08-15T02:29:00Z)
• DyG-Mamba: Continuous State Space Modeling on Dynamic Graphs [59.434893231950205]
  動的グラフ学習は、現実世界のシステムにおける進化の法則を明らかにすることを目的としている。 動的グラフ学習のための新しい連続状態空間モデルDyG-Mambaを提案する。 我々はDyG-Mambaがほとんどのデータセットで最先端のパフォーマンスを達成することを示す。
  論文  参考訳（メタデータ） (2024-08-13T15:21:46Z)
• MambaDepth: Enhancing Long-range Dependency for Self-Supervised Fine-Structured Monocular Depth Estimation [0.0]
  MambaDepthは自己監督深度推定に適した多目的ネットワークである。 MambaDepthは、自己教師付き深さ推定におけるU-Netの有効性と、Mambaの高度な能力を組み合わせる。 MambaDepthは、Make3DやCityscapesといった他のデータセットよりも優れた一般化能力を示している。
  論文  参考訳（メタデータ） (2024-06-06T22:08:48Z)
• P-SpikeSSM: Harnessing Probabilistic Spiking State Space Models for Long-Range Dependency Tasks [1.9775291915550175]
  スパイキングニューラルネットワーク(SNN)は、従来のニューラルネットワークに代わる計算効率が高く生物学的に妥当な代替品として提案されている。 長距離依存タスクのためのスケーラブルな確率的スパイク学習フレームワークを開発した。 我々のモデルは、様々な長距離依存タスクにまたがるSNNモデル間の最先端性能を実現する。
  論文  参考訳（メタデータ） (2024-06-05T04:23:11Z)
• HARMamba: Efficient and Lightweight Wearable Sensor Human Activity Recognition Based on Bidirectional Mamba [7.412537185607976]
  ウェアラブルセンサーによる人間の活動認識(HAR)は、活動知覚において重要な研究領域である。 HARMambaは、選択的な双方向状態空間モデルとハードウェア対応設計を組み合わせた、革新的な軽量で多用途なHARアーキテクチャである。 HarMambaは現代の最先端フレームワークより優れており、計算とメモリの要求を大幅に削減し、同等またはより良い精度を提供する。
  論文  参考訳（メタデータ） (2024-03-29T13:57:46Z)
• Swin-UMamba: Mamba-based UNet with ImageNet-based pretraining [85.08169822181685]
  本稿では,医療画像のセグメンテーションに特化して設計された新しいマンバモデルSwin-UMambaを紹介する。 Swin-UMamba は CNN や ViT,最新の Mamba ベースのモデルと比較して,優れたパフォーマンスを示している。
  論文  参考訳（メタデータ） (2024-02-05T18:58:11Z)
• The Expressive Leaky Memory Neuron: an Efficient and Expressive Phenomenological Neuron Model Can Solve Long-Horizon Tasks [64.08042492426992]
  本稿では,脳皮質ニューロンの生物学的モデルであるExpressive Memory(ELM)ニューロンモデルを紹介する。 ELMニューロンは、上記の入力-出力関係を1万以下のトレーニング可能なパラメータと正確に一致させることができる。 本稿では,Long Range Arena(LRA)データセットなど,時間構造を必要とするタスクで評価する。
  論文  参考訳（メタデータ） (2023-06-14T13:34:13Z)
• Rectified Linear Postsynaptic Potential Function for Backpropagation in Deep Spiking Neural Networks [55.0627904986664]
  スパイキングニューラルネットワーク(SNN)は、時間的スパイクパターンを用いて情報を表現し、伝達する。 本稿では,情報符号化,シナプス可塑性,意思決定におけるスパイクタイミングダイナミクスの寄与について検討し,将来のDeepSNNやニューロモルフィックハードウェアシステムの設計への新たな視点を提供する。
  論文  参考訳（メタデータ） (2020-03-26T11:13:07Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。