論文の概要: Dendritic Neural Networks with Equilibrium Propagation

• arxiv url: http://arxiv.org/abs/2605.08135v1
• Date: Fri, 01 May 2026 19:33:23 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-05-25 12:34:33.734379
• Title: Dendritic Neural Networks with Equilibrium Propagation
• Title（参考訳）: 平衡伝播を有する樹状神経回路網
• Authors: Yoshimasa Kubo,
• Abstract要約: 本稿では,高度EPフレームワークを用いた樹状神経ネットワークと平衡伝播(EP)の統合について検討する。 その結果, デンドライトEPの性能は, 単純なタスクにおける標準EPに匹敵することがわかった。 特に、樹状体EPは、KMNISTとFMNISTの標準EPを著しく上回り、バックプロパゲーションによってトレーニングされた樹状体ネットワークの性能にアプローチする。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Equilibrium propagation (EP) is a biologically plausible alternative to backpropagation (BP), but its effectiveness can degrade in deeper and more challenging learning settings. In parallel, dendritic neural networks have demonstrated improved performance and generalization when trained with BP, suggesting that structured, biologically inspired architectures may enhance learning. In this work, we investigate the integration of dendritic neural networks with equilibrium propagation using an advanced EP framework. We evaluate the proposed dendritic EP model on MNIST, Kuzushiji-MNIST (KMNIST), and Fashion-MNIST (FMNIST), considering both shallow and deeper architectures. Our results show that dendritic EP achieves performance comparable to standard EP on simple tasks, while providing consistent improvements on more challenging datasets and deeper models. In particular, dendritic EP significantly outperforms standard EP on KMNIST and FMNIST, and approaches the performance of dendritic networks trained with backpropagation through time.To further understand these improvements, we analyze the evolution of hidden states during the free phase. We observe that dendritic EP exhibits higher activation magnitudes and more distributed hidden-state activity compared to standard EP, indicating that dendritic structure alters the internal network dynamics. These findings suggest that incorporating dendritic structure can enhance the effectiveness of biologically plausible learning algorithms, especially in regimes where standard EP struggles. Our work highlights the importance of architectural design for improving biologically inspired training methods.
• Abstract（参考訳）: 平衡伝播(EP)は、バックプロパゲーション(BP)の生物学的に妥当な代替手段であるが、その効果はより深く、より困難な学習環境において劣化する可能性がある。 並行して、樹状神経回路網はBPでトレーニングする際の性能の向上と一般化を実証しており、構造化された生物学的にインスパイアされたアーキテクチャが学習を促進する可能性があることを示唆している。 本研究では,高度EPフレームワークを用いた樹状神経ネットワークと平衡伝播の統合について検討する。 MNIST, Kuzushiji-MNIST (KMNIST), Fashion-MNIST (FMNIST) を用いた樹状EPモデルの評価を行った。 その結果,デンドライトEPは単純なタスクで標準EPに匹敵するパフォーマンスを実現し,より困難なデータセットやより深いモデルに対して一貫した改善を実現していることがわかった。 特に, 樹状体EPはKMNISTおよびFMNISTの標準EPより有意に優れており, 経時的に後方伝播を訓練した樹状体ネットワークの性能に近づき, これらの改善をより深く理解するために, 自由相における隠れ状態の進化を分析する。 樹状体EPは, 標準的なEPと比較して, 活性化度が高く, 分散した隠れ状態活性を示すことが観察され, 樹状体構造が内部ネットワークのダイナミクスを変えることが示唆された。 これらの結果から, 樹状体構造を組み込むことにより, 生物学的に妥当な学習アルゴリズムの有効性が向上することが示唆された。 我々の研究は、生物学的にインスピレーションを受けたトレーニング方法を改善するためのアーキテクチャ設計の重要性を強調している。

関連論文リスト

• General Self-Prediction Enhancement for Spiking Neurons [71.01912385372577]
  スパイキングニューラルネットワーク(SNN)は、イベント駆動のスパース計算によって非常にエネルギー効率が良いが、そのトレーニングは、性能、効率、生物学的妥当性の非微分可能性とトレードオフによって困難である。 本稿では,その入力出力履歴から内部予測電流を生成し,膜電位を変調する自己予測強化スパイキングニューロン法を提案する。 この設計には2つの利点があり、失明した勾配を緩和し、トレーニングの安定性と精度を高める連続的な勾配経路を作成し、また遠位樹状突起変調とエラー駆動のシナプス塑性に類似した生物学的原理と整合する。
  論文  参考訳（メタデータ） (2026-01-29T15:08:48Z)
• StochEP: Stochastic Equilibrium Propagation for Spiking Convergent Recurrent Neural Networks [21.560035501130006]
  スパイキングネットワーク(SNN)は、エネルギー効率が高く、希少で生物学的にインスパイアされた計算を約束する。 BPTT(Backproagation Through Time)とサロゲート勾配(surrogate gradients)を併用したトレーニングは、強い性能を達成できるが、生物学的には不可能である。 本稿では,確率論的スパイキングニューロンをEPパラダイムに統合した平衡伝播(EP)フレームワークを提案する。
  論文  参考訳（メタデータ） (2025-11-14T13:58:39Z)
• Training Deep Normalization-Free Spiking Neural Networks with Lateral Inhibition [52.59263087086756]
  深層ニューラルネットワーク(SNN)のトレーニングは、バッチ正規化のような明示的な正規化スキームに依存している。 本研究では,皮質回路にインスパイアされた側方抑制を取り入れた正規化自由学習フレームワークを提案する。 本稿では,生物リアリズムを持つ深層SNNの安定的学習を可能にするとともに,明示的な正規化に頼らずに競争性能を達成できることを述べる。
  論文  参考訳（メタデータ） (2025-09-27T11:11:30Z)
• Scalable Equilibrium Propagation via Intermediate Error Signals for Deep Convolutional CRNNs [17.067785532606724]
  Equilibrium Propagation (EP)は、収束性リカレントニューラルネットワーク(CRNN)のために最初に提案された生物学的にインスパイアされた局所学習規則である。 EPは、バックプロパゲーション・スルー・タイム(BPTT)によって計算されたものと密接に一致する勾配を推定し、計算要求を著しく減少させる。 本稿では,中間誤差信号を組み込んだ新しいEPフレームワークを提案する。
  論文  参考訳（メタデータ） (2025-08-21T22:19:30Z)
• Toward Practical Equilibrium Propagation: Brain-inspired Recurrent Neural Network with Feedback Regulation and Residual Connections [7.464380138405363]
  生物学的にプラウブルなフィードバック制御型Residual Recurrent Neural Network (FRE-RNN) を提案し,その学習性能について検討した。 収束特性の改善は、EPの計算コストと列車運行時間を桁違いに削減する。 提案手法は,人工知能を駆使しない大規模ネットワークにおけるEPの適用性と実用性を大幅に向上させる。
  論文  参考訳（メタデータ） (2025-08-05T15:07:50Z)
• Developmental Plasticity-inspired Adaptive Pruning for Deep Spiking and Artificial Neural Networks [11.730984231143108]
  発達的可塑性は、継続的な学習中に脳の構造を形成する際に顕著な役割を果たす。 ディープ人工知能ニューラルネットワーク(ANN)とスパイクニューラルネットワーク(SNN)の既存のネットワーク圧縮方法は、脳の発達する可塑性機構からほとんどインスピレーションを受けない。 本稿では, 樹状突起, シナプス, ニューロンの適応的発達的プルーニングからインスピレーションを得て, 塑性刺激による適応的プルーニング(DPAP)法を提案する。
  論文  参考訳（メタデータ） (2022-11-23T05:26:51Z)
• On the Intrinsic Structures of Spiking Neural Networks [66.57589494713515]
  近年、時間依存データやイベント駆動データを扱う大きな可能性から、SNNへの関心が高まっている。 スパイキング計算における本質的な構造の影響を総合的に調査する研究が数多く行われている。 この研究はSNNの本質的な構造を深く掘り下げ、SNNの表現性への影響を解明する。
  論文  参考訳（メタデータ） (2022-06-21T09:42:30Z)
• Scaling Equilibrium Propagation to Deep ConvNets by Drastically Reducing its Gradient Estimator Bias [62.43908463620527]
  実際には、EPはMNISTよりも難しい視覚タスクにスケールしない。 我々は、有限なヌーディングの使用に固有のEPの勾配推定のバイアスがこの現象に責任があることを示しています。 これらの結果は、EPをディープニューラルネットワークにおける誤差勾配を計算するスケーラブルなアプローチとして強調し、ハードウェア実装を動機付けている。
  論文  参考訳（メタデータ） (2021-01-14T10:23:40Z)
• A Theoretical Framework for Target Propagation [75.52598682467817]
  我々は、バックプロパゲーション(BP)の代替として人気があるが、まだ完全には理解されていないターゲット伝搬(TP)を解析する。 提案理論は,TPがガウス・ニュートン最適化と密接に関係していることを示し,BPとは大きく異なる。 我々は,フィードバックウェイトトレーニングを改善する新しいリコンストラクション損失を通じて,この問題に対する第1の解決策を提供する。
  論文  参考訳（メタデータ） (2020-06-25T12:07:06Z)
• Continual Weight Updates and Convolutional Architectures for Equilibrium Propagation [69.87491240509485]
  Equilibrium Propagation (EP)は、ニューラルネットワークのトレーニングのためのバックプロパゲーション(BP)に対する生物学的にインスパイアされた代替アルゴリズムである。 本稿では,方程式の簡易化,学習の高速化,CNNへのEP拡張を可能にするEPの離散時間定式化を提案する。 我々のCNNモデルは、EPでMNISTで報告された最高のパフォーマンスを達成する。
  論文  参考訳（メタデータ） (2020-04-29T12:14:06Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。