論文の概要: A Gradient-based yet Spike-Timing-Dependent Solution to the Feedback Learning Problem in Neural Microcircuits
- arxiv url: http://arxiv.org/abs/2609.08070v2
- Date: Thu, 10 Sep 2026 07:32:41 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-11 14:47:34.274091
- Title: A Gradient-based yet Spike-Timing-Dependent Solution to the Feedback Learning Problem in Neural Microcircuits
- Title(参考訳): ニューラルネットワークのフィードバック学習問題に対する勾配型だがスパイク型に依存した解法
- Authors: Xiangnan Zhang, Jingxin Liu, Ranqi Lu, Jingyu Liu, Qunxi Dong, Fuze Tian, Lixian Zhu, Bin Hu, Björn W. Schuller,
- Abstract要約: 局所スパイクタイミングを用いた時間的クレジット割り当てをニューラルマイクロサーキット(NMC)がどのように解決するかは、根本的なオープンな疑問である。
ここでは、状態分離問題として時間的クレジット割り当てを再構成する。
これにより、トンネル勾配(GT)アルゴリズムとリードラグ拡張技術により、NMCのオンラインフィードバック学習フレームワークが実現される。
実験的に、GTトレーニングされたNMCは、長期的エビデンス統合とノイズロストメモリ保持において優れている。
- 参考スコア(独自算出の注目度): 43.880352532823956
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: The brain uses discrete spikes for dynamic computation, yet, how neural microcircuits (NMCs) solve temporal credit assignment using local spike timing remains a fundamental open question. Dominant spiking neural network (SNN) approaches circumvent this by approximating backpropagation through surrogate gradients, decoupling learning from biological spike timing. Here, we reformulate temporal credit assignment as a state separation problem: extracting task-required components induced by historical perturbations directly from the current neural state. This enables an online feedback learning framework for NMCs through a gradient tunneling (GT) algorithm and the lead-lag expansion technique that derives credit assignment from local synaptic spike timing, while remaining compatible with ANN-SNN hybrid architectures. Experimentally, GT-trained NMCs excel at long-timescale evidence integration and noise-robust memory retention, and perform comparably to leading SNN online learning methods on real-world benchmarks with far fewer parameters. The proposed framework addresses the two-decade-old NMC feedback learning problem and suggests a computationally plausible explanation for the brain's learning mechanisms.
- Abstract(参考訳): 脳は離散的なスパイクを使って動的計算を行うが、ニューラルマイクロ回路(NMC)が局所的なスパイクタイミングを用いた時間的クレジット割り当てをいかに解決するかは、根本的なオープンな疑問である。
支配的なスパイクニューラルネットワーク(SNN)は、サロゲート勾配によるバックプロパゲーションを近似し、生物学的スパイクタイミングから学習を分離することでこれを回避している。
ここでは、時間的クレジット割り当てを状態分離問題として、現在の神経状態から直接、歴史的摂動によって引き起こされるタスク要求成分を抽出する。
これにより、勾配トンネル法(GT)アルゴリズムと、ANN-SNNハイブリッドアーキテクチャとの互換性を維持しながら、局所的なシナプススパイクタイミングからクレジット割り当てを導出するリードラグ拡張技術により、NMCのオンラインフィードバック学習フレームワークが実現される。
実験により、GT訓練されたNMCは、長期的エビデンス統合とノイズロストメモリ保持において優れており、パラメータがはるかに少ない実世界のベンチマークにおいて、SNNオンライン学習の先導手法と相容れない性能を発揮する。
提案フレームワークは,2年前からあったNMCフィードバック学習の問題に対処し,脳の学習機構に関する計算学的に妥当な説明を提案する。
関連論文リスト
- Unified Complex-valued Neural Network: A Magnitude-Phase Computational Model for Event-Driven Neuromorphic Learning [0.3499870393443268]
本稿では,Unified Complex-valued Neuron(UCN)に基づくネットワークを提案する。
UCNでは、位相固有の時間的進化と値のスパイク放出の間に信号強度をエンコードする。
その結果、UCNベースの時間ネットワーク(UCNN)は正確で安定的で解釈可能な学習を提供することを示した。
論文 参考訳(メタデータ) (2026-06-27T21:59:01Z) - Dynamics and Representation Structure of Local Approximations to Gradient-Based Learning in Linear Recurrent Neural Networks [56.42974363744522]
ランダム・フィードバック・ローカル・オンライン(RFLO)の学習動態と時間による逆伝播(tBPTT)について検討する。
我々の研究は、局所性制約が学習力学をどう形成するかに関する分析的な洞察を提供し、学習の神経科学的モデルやRNNの代替最適化アプローチに影響を及ぼす。
論文 参考訳(メタデータ) (2026-05-29T18:19:45Z) - SpikingGamma: Surrogate-Gradient Free and Temporally Precise Online Training of Spiking Neural Networks with Smoothed Delays [1.5166105038254163]
スパイキングニューラルネットワーク(SNN)は、スパースでイベント駆動の計算を通じて、エネルギー効率の高い低レイテンシAIを約束する。
しかし、微細な時間的離散化の下でのSNNのトレーニングは依然として大きな課題であり、低レイテンシ応答性とソフトウェアで訓練されたSNNの効率的なハードウェアへのマッピングを妨げている。
このSpykingGammaモデルでは,スロゲート勾配を使わずに直接エラーバックプロパゲーションをサポートし,オンライン的に最小のスパイクで微妙な時間パターンを学習し,複雑なタスクやベンチマークに競合精度でフィードフォワードSNNを拡張できることが示されている。
論文 参考訳(メタデータ) (2026-02-02T11:35:16Z) - Deep-Unrolling Multidimensional Harmonic Retrieval Algorithms on Neuromorphic Hardware [78.17783007774295]
本稿では,高精度かつエネルギー効率の高い単発多次元高調波検索のための変換に基づくニューロモルフィックアルゴリズムの可能性について検討する。
複雑な値の畳み込み層と活性化をスパイクニューラルネットワーク(SNN)に変換する新しい手法を開発した。
変換されたSNNは、元のCNNに比べて性能が低下し、ほぼ5倍の電力効率を実現している。
論文 参考訳(メタデータ) (2024-12-05T09:41:33Z) - Axonal Delay As a Short-Term Memory for Feed Forward Deep Spiking Neural
Networks [3.985532502580783]
近年の研究では、学習過程において神経細胞の時間遅延が重要な役割を担っていることが判明している。
スパイクの正確なタイミングを設定することは、SNNにおける時間情報の伝達過程を理解し改善するための有望な方向である。
本稿では,教師付き学習に時間遅延を統合することの有効性を検証するとともに,短期記憶による軸索遅延を変調するモジュールを提案する。
論文 参考訳(メタデータ) (2022-04-20T16:56:42Z) - Reducing Catastrophic Forgetting in Self Organizing Maps with
Internally-Induced Generative Replay [67.50637511633212]
生涯学習エージェントは、パターン知覚データの無限のストリームから継続的に学習することができる。
適応するエージェントを構築する上での歴史的難しさの1つは、ニューラルネットワークが新しいサンプルから学ぶ際に、以前取得した知識を維持するのに苦労していることである。
この問題は破滅的な忘れ(干渉)と呼ばれ、今日の機械学習の領域では未解決の問題のままである。
論文 参考訳(メタデータ) (2021-12-09T07:11:14Z) - Training Feedback Spiking Neural Networks by Implicit Differentiation on
the Equilibrium State [66.2457134675891]
スパイキングニューラルネットワーク(英: Spiking Neural Network、SNN)は、ニューロモルフィックハードウェア上でエネルギー効率の高い実装を可能にする脳にインスパイアされたモデルである。
既存のほとんどの手法は、人工ニューラルネットワークのバックプロパゲーションフレームワークとフィードフォワードアーキテクチャを模倣している。
本稿では,フォワード計算の正逆性に依存しない新しいトレーニング手法を提案する。
論文 参考訳(メタデータ) (2021-09-29T07:46:54Z) - Rectified Linear Postsynaptic Potential Function for Backpropagation in
Deep Spiking Neural Networks [55.0627904986664]
スパイキングニューラルネットワーク(SNN)は、時間的スパイクパターンを用いて情報を表現し、伝達する。
本稿では,情報符号化,シナプス可塑性,意思決定におけるスパイクタイミングダイナミクスの寄与について検討し,将来のDeepSNNやニューロモルフィックハードウェアシステムの設計への新たな視点を提供する。
論文 参考訳(メタデータ) (2020-03-26T11:13:07Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。