論文の概要: Biologically-plausible backpropagation through arbitrary timespans via local neuromodulators

• arxiv url: http://arxiv.org/abs/2206.01338v1
• Date: Thu, 2 Jun 2022 23:38:10 GMT
• ステータス: 処理完了
• システム内更新日: 2022-06-26 14:43:27.183566
• Title: Biologically-plausible backpropagation through arbitrary timespans via local neuromodulators
• Title（参考訳）: 局所ニューロモジュレータによる任意の時間パンを介する生物学的に可哀想なバックプロパゲーション
• Authors: Yuhan Helena Liu, Stephen Smith, Stefan Mihalas, Eric Shea-Brown, and Uygar S\"umb\"ul
• Abstract要約: 本研究は, 局所神経刺激薬のシナプス外拡散は, 生物学的可視性の範囲内に存在する効果的なバックプロパゲーションの手段となる可能性が示唆された。 近似勾配に基づく更新ルールであるModPropが任意の時間ステップで信用情報を伝搬することを示す。
• 参考スコア（独自算出の注目度）: 1.1744028458220428
• License: http://creativecommons.org/licenses/by-nc-sa/4.0/
• Abstract: The spectacular successes of recurrent neural network models where key parameters are adjusted via backpropagation-based gradient descent have inspired much thought as to how biological neuronal networks might solve the corresponding synaptic credit assignment problem. There is so far little agreement, however, as to how biological networks could implement the necessary backpropagation through time, given widely recognized constraints of biological synaptic network signaling architectures. Here, we propose that extra-synaptic diffusion of local neuromodulators such as neuropeptides may afford an effective mode of backpropagation lying within the bounds of biological plausibility. Going beyond existing temporal truncation-based gradient approximations, our approximate gradient-based update rule, ModProp, propagates credit information through arbitrary time steps. ModProp suggests that modulatory signals can act on receiving cells by convolving their eligibility traces via causal, time-invariant and synapse-type-specific filter taps. Our mathematical analysis of ModProp learning, together with simulation results on benchmark temporal tasks, demonstrate the advantage of ModProp over existing biologically-plausible temporal credit assignment rules. These results suggest a potential neuronal mechanism for signaling credit information related to recurrent interactions over a longer time horizon. Finally, we derive an in-silico implementation of ModProp that could serve as a low-complexity and causal alternative to backpropagation through time.
• Abstract（参考訳）: バックプロパゲーションに基づく勾配降下によって重要なパラメータが調整されるリカレントニューラルネットワークモデルの成功は、生物学的神経ネットワークが対応するシナプス的信用代入問題をどう解決するかという多くの考えを刺激した。 しかし、生物学的ネットワークが時間を通じて必要なバックプロパゲーションを実現する方法については、生物学的シナプスネットワークのシグナリングアーキテクチャの制約が広く認識されているため、合意が得られていない。 本稿では,神経ペプチドなどの局所的な神経調節因子のシナプス外拡散は,生物学的な可能性の範囲内にあるバックプロパゲーションの有効な方法をもたらす可能性があることを示唆する。 既存の時間的トランケーションに基づく勾配近似を超えて、近似勾配に基づく更新ルールであるModPropは任意の時間ステップで信用情報を伝搬する。 modpropは、変調信号が、因果的、時間不変、シナプス型特異的フィルタータップによって、それらの適性トレースを畳み込み、受信細胞に作用することを示唆している。 ModProp学習の数学的解析は、ベンチマーク時間的タスクのシミュレーション結果とともに、既存の生物学的に証明可能な時間的信用代入規則よりもModPropの利点を実証する。 これらの結果は、より長い時間軸上の反復的相互作用に関連する信用情報を伝達する潜在的神経機構を示唆する。 最後に、modpropのin-silico実装を導出し、時間を通じてバックプロパゲーションに代わる低複雑さで因果的な代替として機能する。

関連論文リスト

• Temporal Spiking Neural Networks with Synaptic Delay for Graph Reasoning [91.29876772547348]
  スパイキングニューラルネットワーク(SNN)は、生物学的にインスパイアされたニューラルネットワークモデルとして研究されている。 本稿では,SNNがシナプス遅延と時間符号化とを併用すると,グラフ推論の実行(知識)に長けていることを明らかにする。
  論文  参考訳（メタデータ） (2024-05-27T05:53:30Z)
• Contribute to balance, wire in accordance: Emergence of backpropagation from a simple, bio-plausible neuroplasticity rule [0.0]
  我々は,脳にBPを実装するための潜在的なメカニズムを提供する新しい神経可塑性規則を導入する。 我々は,我々の学習規則が階層型ニューラルネットワークのBPを近似なしで正確に再現できることを数学的に証明した。
  論文  参考訳（メタデータ） (2024-05-23T03:28:52Z)
• Backpropagation through space, time, and the brain [2.10686639478348]
  我々は、ニューロンの物理的、動的ネットワークにおける完全局所的時間的クレジット割り当てのための計算フレームワークであるGeneral Latent Equilibriumを紹介する。 特に、GLEは樹状樹の形態を利用して、単一ニューロンのより複雑な情報保存と処理を可能にしている。
  論文  参考訳（メタデータ） (2024-03-25T16:57:02Z)
• TC-LIF: A Two-Compartment Spiking Neuron Model for Long-Term Sequential Modelling [54.97005925277638]
  潜在的な可能性や危険に関連する感覚的手がかりの同定は、長期間の遅延によって有用な手がかりを分離する無関係な事象によってしばしば複雑になる。 SNN(State-of-the-art spiking Neural Network)は、遠方のキュー間の長期的な時間的依存関係を確立する上で、依然として困難な課題である。 そこで本研究では,T-LIFとよばれる,生物学的にインスパイアされたTwo-compartment Leaky Integrate- and-Fireのスパイキングニューロンモデルを提案する。
  論文  参考訳（メタデータ） (2023-08-25T08:54:41Z)
• Unbalanced Diffusion Schr\"odinger Bridge [71.31485908125435]
  任意の有限質量の辺縁の時間的進化をモデル化する不均衡DSBを導入する。 これは、殺生項を伴う微分方程式の時間反転を導出することで達成される。 本稿では,非バランスなDSBを学習するためのスケーラブルな目的関数を構成する2つの新しいアルゴリズムスキームを提案する。
  論文  参考訳（メタデータ） (2023-06-15T12:51:56Z)
• The Expressive Leaky Memory Neuron: an Efficient and Expressive Phenomenological Neuron Model Can Solve Long-Horizon Tasks [64.08042492426992]
  本稿では,脳皮質ニューロンの生物学的モデルであるExpressive Memory(ELM)ニューロンモデルを紹介する。 ELMニューロンは、上記の入力-出力関係を1万以下のトレーニング可能なパラメータと正確に一致させることができる。 本稿では,Long Range Arena(LRA)データセットなど,時間構造を必要とするタスクで評価する。
  論文  参考訳（メタデータ） (2023-06-14T13:34:13Z)
• Latent Equilibrium: A unified learning theory for arbitrarily fast computation with arbitrarily slow neurons [0.7340017786387767]
  遅いコンポーネントのネットワークにおける推論と学習のための新しいフレームワークであるLatent Equilibriumを紹介する。 我々は, ニューロンとシナプスのダイナミクスを, 将来的なエネルギー関数から導出する。 本稿では,大脳皮質微小循環の詳細なモデルに我々の原理を適用する方法について述べる。
  論文  参考訳（メタデータ） (2021-10-27T16:15:55Z)
• Training Feedback Spiking Neural Networks by Implicit Differentiation on the Equilibrium State [66.2457134675891]
  スパイキングニューラルネットワーク(英: Spiking Neural Network、SNN)は、ニューロモルフィックハードウェア上でエネルギー効率の高い実装を可能にする脳にインスパイアされたモデルである。 既存のほとんどの手法は、人工ニューラルネットワークのバックプロパゲーションフレームワークとフィードフォワードアーキテクチャを模倣している。 本稿では,フォワード計算の正逆性に依存しない新しいトレーニング手法を提案する。
  論文  参考訳（メタデータ） (2021-09-29T07:46:54Z)
• Convergence and Alignment of Gradient Descentwith Random Back propagation Weights [6.338178373376447]
  バックプロパゲーションによる勾配降下は 人工ニューラルネットワークの 働き方です Lillicrapらは、ランダムなバックプロパゲーションと固定されたバックプロパゲーションの重みを利用する、生物学的にもっともらしい「フィードバックアライメント」アルゴリズムを提案する。
  論文  参考訳（メタデータ） (2021-06-10T20:58:05Z)
• Bio-plausible Unsupervised Delay Learning for Extracting Temporal Features in Spiking Neural Networks [0.548253258922555]
  ニューロン間の伝導遅延の可塑性は、学習において基本的な役割を果たす。 シナプス遅延の正確な調整を理解することは、効果的な脳にインスパイアされた計算モデルを開発するのに役立ちます。
  論文  参考訳（メタデータ） (2020-11-18T16:25:32Z)
• Activation Relaxation: A Local Dynamical Approximation to Backpropagation in the Brain [62.997667081978825]
  活性化緩和(AR)は、バックプロパゲーション勾配を力学系の平衡点として構成することで動機付けられる。 我々のアルゴリズムは、正しいバックプロパゲーション勾配に迅速かつ堅牢に収束し、単一のタイプの計算単位しか必要とせず、任意の計算グラフで操作できる。
  論文  参考訳（メタデータ） (2020-09-11T11:56:34Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。