論文の概要: Dendritic Resonate-and-Fire Neuron for Effective and Efficient Long Sequence Modeling

• arxiv url: http://arxiv.org/abs/2509.17186v1
• Date: Sun, 21 Sep 2025 18:15:45 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-09-23 18:58:16.156577
• Title: Dendritic Resonate-and-Fire Neuron for Effective and Efficient Long Sequence Modeling
• Title（参考訳）: 樹状共鳴・火災ニューロンの高効率長周期モデリングへの応用
• Authors: Dehao Zhang, Malu Zhang, Shuai Wang, Jingya Wang, Wenjie Wei, Zeyu Ma, Guoqing Wang, Yang Yang, HaiZhou Li,
• Abstract要約: 樹状共振器(RF)ニューロンは入力信号から効率的に周波数を抽出し、スパイク列車に符号化することができる。 RFニューロンは、複雑なタスクにおけるエネルギー効率とトレーニング速度のトレードオフとして、有効なメモリ容量が限られている。 本稿では,複数の共振器とソマアーキテクチャを明示的に組み込んだDdendritic Resonate-and-Fireモデルを提案する。
• 参考スコア（独自算出の注目度）: 66.0841376808143
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: The explosive growth in sequence length has intensified the demand for effective and efficient long sequence modeling. Benefiting from intrinsic oscillatory membrane dynamics, Resonate-and-Fire (RF) neurons can efficiently extract frequency components from input signals and encode them into spatiotemporal spike trains, making them well-suited for long sequence modeling. However, RF neurons exhibit limited effective memory capacity and a trade-off between energy efficiency and training speed on complex temporal tasks. Inspired by the dendritic structure of biological neurons, we propose a Dendritic Resonate-and-Fire (D-RF) model, which explicitly incorporates a multi-dendritic and soma architecture. Each dendritic branch encodes specific frequency bands by utilizing the intrinsic oscillatory dynamics of RF neurons, thereby collectively achieving comprehensive frequency representation. Furthermore, we introduce an adaptive threshold mechanism into the soma structure that adjusts the threshold based on historical spiking activity, reducing redundant spikes while maintaining training efficiency in long sequence tasks. Extensive experiments demonstrate that our method maintains competitive accuracy while substantially ensuring sparse spikes without compromising computational efficiency during training. These results underscore its potential as an effective and efficient solution for long sequence modeling on edge platforms.
• Abstract（参考訳）: シークエンス長の爆発的成長は、効果的で効率的なロングシークエンスモデリングの需要を増大させた。 固有振動膜力学から恩恵を受けることで、共鳴と火災(RF)ニューロンは入力信号から周波数成分を効率よく抽出し、時空間スパイク列車に符号化し、長周期モデリングに適している。 しかし、RFニューロンは有効メモリ容量が限られており、複雑な時間的タスクにおけるエネルギー効率とトレーニング速度のトレードオフがある。 生体ニューロンの樹状構造にインスパイアされたD-RFモデルを提案する。 各樹状枝は、RFニューロンの固有振動ダイナミクスを利用して特定の周波数帯域を符号化し、総合的な周波数表現を実現する。 さらに, ソマ構造に適応しきい値機構を導入し, 歴史的スパイク活動に基づいてしきい値を調整することにより, 長時間連続作業におけるトレーニング効率を維持しつつ, 余剰スパイクを低減させる。 大規模な実験により,本手法は,訓練中に計算効率を損なうことなく,スパーススパイクを実質的に確保しつつ,競争精度を維持していることが示された。 これらの結果は、エッジプラットフォーム上でのロングシーケンスモデリングの効率的かつ効率的なソリューションとしての可能性を強調している。

関連論文リスト

• Fractional Spike Differential Equations Neural Network with Efficient Adjoint Parameters Training [63.3991315762955]
  スパイキングニューラルネットワーク(SNN)は、生物学的ニューロンからインスピレーションを得て、脳に似た計算の現実的なモデルを作成する。 既存のほとんどのSNNは、マルコフ特性を持つ一階常微分方程式(ODE)によってモデル化された、神経細胞膜電圧ダイナミクスの単一時間定数を仮定している。 本研究では, 膜電圧およびスパイク列車の長期依存性を分数次力学により捉えるフラクタルSPIKE微分方程式ニューラルネットワーク (fspikeDE) を提案する。
  論文  参考訳（メタデータ） (2025-07-22T18:20:56Z)
• Langevin Flows for Modeling Neural Latent Dynamics [81.81271685018284]
  逐次変分自動エンコーダであるLangevinFlowを導入し、潜伏変数の時間的進化をアンダーダム化したLangevin方程式で制御する。 われわれのアプローチは、慣性、減衰、学習されたポテンシャル関数、力などの物理的事前を組み込んで、ニューラルネットワークにおける自律的および非自律的プロセスの両方を表現する。 本手法は,ロレンツ誘引器によって生成される合成神経集団に対する最先端のベースラインより優れる。
  論文  参考訳（メタデータ） (2025-07-15T17:57:48Z)
• Neuromorphic Wireless Split Computing with Resonate-and-Fire Neurons [69.73249913506042]
  本稿では、共振器(RF)ニューロンを用いて時間領域信号を直接処理する無線スプリットコンピューティングアーキテクチャについて検討する。 可変周波数で共鳴することにより、RFニューロンは低スパイク活性を維持しながら時間局在スペクトル特徴を抽出する。 実験の結果,提案したRF-SNNアーキテクチャは従来のLIF-SNNやANNと同等の精度を達成できることがわかった。
  論文  参考訳（メタデータ） (2025-06-24T21:14:59Z)
• Understanding the Convergence in Balanced Resonate-and-Fire Neurons [1.4186974630564675]
  Resonate-and-Fire(RF)ニューロンは、スパイキングニューラルネットワーク(SNN)におけるインテグレーターニューロンの興味深い補体モデルである 最近提案されたリゾネート・アンド・ファイア(BRF)ニューロンは、タスク性能、スパイク、パラメータ効率において重要な方法論的進歩を示した。 本稿は、これらの収束優位性の出現の経緯と理由について、さらなる直感を提供することを目的としている。
  論文  参考訳（メタデータ） (2024-06-01T10:04:55Z)
• Balanced Resonate-and-Fire Neurons [1.3223682837381137]
  我々はバニラRFニューロンの内在的制限を緩和する平衡RFニューロン(BRF)を導入する。 BRFニューロンのネットワークは、全体的なタスク性能を向上し、スパイクのごく一部しか発生せず、現代のRSNNに比べてパラメータが大幅に少ないことを示す。
  論文  参考訳（メタデータ） (2024-02-02T12:57:21Z)
• Long Short-term Memory with Two-Compartment Spiking Neuron [64.02161577259426]
  LSTM-LIFとよばれる,生物学的にインスパイアされたLong Short-Term Memory Leaky Integrate-and-Fireのスパイキングニューロンモデルを提案する。 実験結果は,時間的分類タスクの多種多様な範囲において,優れた時間的分類能力,迅速な訓練収束,ネットワークの一般化性,LSTM-LIFモデルの高エネルギー化を実証した。 したがって、この研究は、新しいニューロモルフィック・コンピューティング・マシンにおいて、困難な時間的処理タスクを解決するための、無数の機会を開放する。
  論文  参考訳（メタデータ） (2023-07-14T08:51:03Z)
• The Expressive Leaky Memory Neuron: an Efficient and Expressive Phenomenological Neuron Model Can Solve Long-Horizon Tasks [64.08042492426992]
  本稿では,脳皮質ニューロンの生物学的モデルであるExpressive Memory(ELM)ニューロンモデルを紹介する。 ELMニューロンは、上記の入力-出力関係を1万以下のトレーニング可能なパラメータと正確に一致させることができる。 本稿では,Long Range Arena(LRA)データセットなど,時間構造を必要とするタスクで評価する。
  論文  参考訳（メタデータ） (2023-06-14T13:34:13Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。