論文の概要: Heterogeneous Time Constants Improve Stability in Equilibrium Propagation
- arxiv url: http://arxiv.org/abs/2603.03402v1
- Date: Tue, 03 Mar 2026 14:35:38 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-03-05 21:29:15.037449
- Title: Heterogeneous Time Constants Improve Stability in Equilibrium Propagation
- Title(参考訳): 不均一時間定数は平衡伝播の安定性を改善する
- Authors: Yoshimasa Kubo, Suhani Pragnesh Modi, Smit Patel,
- Abstract要約: 平衡伝播のためのヘテロジニアス時間ステップ(HTS)を導入する。
HTSは,競争力のあるタスク性能を維持しながら,トレーニングの安定性を向上させる。
これらの結果は、不均一時間力学を取り入れることで、平衡伝播の生物学的リアリズムとロバスト性の両方が促進されることを示唆している。
- 参考スコア(独自算出の注目度): 0.669087470775851
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Equilibrium propagation (EP) is a biologically plausible alternative to backpropagation for training neural networks. However, existing EP models use a uniform scalar time step dt, which corresponds biologically to a membrane time constant that is heterogeneous across neurons. Here, we introduce heterogeneous time steps (HTS) for EP by assigning neuron-specific time constants drawn from biologically motivated distributions. We show that HTS improves training stability while maintaining competitive task performance. These results suggest that incorporating heterogeneous temporal dynamics enhances both the biological realism and robustness of equilibrium propagation.
- Abstract(参考訳): 平衡伝播(Equilibrium propagation、EP)は、ニューラルネットワークのトレーニングのためのバックプロパゲーションの生物学的に妥当な代替手段である。
しかし、既存のEPモデルは一様スカラー時間ステップdtを使用しており、これはニューロン間で不均一な膜時間定数に対応している。
そこで本研究では, 生物学的に動機付けられた分布から引き出されたニューロン特異的な時間定数を割り当てることで, EPのためのヘテロジニアス時間ステップ(HTS)を導入する。
HTSは,競争力のあるタスク性能を維持しながら,トレーニングの安定性を向上させる。
これらの結果は、不均一な時間力学を取り入れることで、平衡伝播の生物学的リアリズムとロバスト性の両方を高めることを示唆している。
関連論文リスト
- Multi-Scale Temporal Homeostasis Enables Efficient and Robust Neural Networks [0.0]
Multi-Scale Temporal Homeostasis (MSTH)は、超高速(5-ms)、高速(2-s)、中速(5-min)、低速(1-hrs)の制御を人工ネットワークに統合するフレームワークである。
MSTHは、常に精度を向上し、破滅的な失敗を排除し、摂動からの回復を促進する。
論文 参考訳(メタデータ) (2026-01-30T13:33:29Z) - How Information Evolves: Stability-Driven Assembly and the Emergence of a Natural Genetic Algorithm [1.2691047660244335]
SDA(StableabilityDriven Assembly)は,長寿命のモチーフに対して,集団の永続性に偏りを伴ってホールマークを組立てるフレームワークである。
SDA/GAをSMILESフラグメントの組換え,突然変異,安定性関数を用いて化学記号空間に適用した。
結果は、永続的選択が遺伝的複製に先行する進化的はしご仮説を動機付けている。
論文 参考訳(メタデータ) (2026-01-22T15:47:48Z) - Sleep-Based Homeostatic Regularization for Stabilizing Spike-Timing-Dependent Plasticity in Recurrent Spiking Neural Networks [14.487258585834374]
スパイク刺激依存性可塑性(STDP)は、スパイクニューラルネットワーク(SNN)のための生物学的に証明可能な学習メカニズムを提供する
本稿では, シナプス性ホメオスタシス仮説に着想を得たニューロモルフィック正規化手法を提案する。
論文 参考訳(メタデータ) (2026-01-13T11:17:30Z) - Unleashing Temporal Capacity of Spiking Neural Networks through Spatiotemporal Separation [67.69345363409835]
スパイキングニューラルネットワーク(SNN)は、時間的処理に自然に適していると考えられており、膜電位の伝播は、コア時間的モデリングメカニズムとして広く見なされている。
我々は, 膜伝播を段階的に段階的に除去する非ステートフル(NS)モデルの設計を行った。
論文 参考訳(メタデータ) (2025-12-05T07:05:53Z) - HetSyn: Versatile Timescale Integration in Spiking Neural Networks via Heterogeneous Synapses [3.744763853474646]
Spiking Neural Networks (SNN)は、時間情報処理のための生物学的に妥当でエネルギー効率の高いフレームワークを提供する。
HetSynはシナプス特異的な時間定数でシナプス不均一性をモデル化するフレームワークである。
We demonstrate that HetSynLIF improve the performance of SNNs across various tasks。
論文 参考訳(メタデータ) (2025-08-01T10:19:56Z) - Consistent Sampling and Simulation: Molecular Dynamics with Energy-Based Diffusion Models [50.77646970127369]
本稿では,Fokker-Planck由来の正規化項を用いたエネルギーベース拡散モデルを提案する。
高速折りたたみタンパク質を含む複数の生体分子系をサンプリング・シミュレートし,本手法を実証する。
論文 参考訳(メタデータ) (2025-06-20T16:38:29Z) - Backpropagation through space, time, and the brain [2.10686639478348]
我々は、ニューロンの物理的、動的ネットワークにおける完全局所的時間的クレジット割り当てのための計算フレームワークであるGeneral Latent Equilibriumを紹介する。
特に、GLEは樹状樹の形態を利用して、単一ニューロンのより複雑な情報保存と処理を可能にしている。
論文 参考訳(メタデータ) (2024-03-25T16:57:02Z) - Continuous Time Continuous Space Homeostatic Reinforcement Learning
(CTCS-HRRL) : Towards Biological Self-Autonomous Agent [0.12068041242343093]
ホメオスタシス(英: Homeostasis)は、生物が内部バランスを維持する過程である。
ホメオスタティック強化学習(HRRL)フレームワークは、この学習されたホメオスタティックな振る舞いを説明する。
本研究では,HRRLフレームワークを連続的な時間空間環境に進化させ,CTCS-HRRLフレームワークの有効性を検証する。
論文 参考訳(メタデータ) (2024-01-17T06:29:34Z) - Unbalanced Diffusion Schr\"odinger Bridge [71.31485908125435]
任意の有限質量の辺縁の時間的進化をモデル化する不均衡DSBを導入する。
これは、殺生項を伴う微分方程式の時間反転を導出することで達成される。
本稿では,非バランスなDSBを学習するためのスケーラブルな目的関数を構成する2つの新しいアルゴリズムスキームを提案する。
論文 参考訳(メタデータ) (2023-06-15T12:51:56Z) - Machine learning in and out of equilibrium [58.88325379746631]
我々の研究は、統計物理学から適応したフォッカー・プランク法を用いて、これらの平行線を探索する。
我々は特に、従来のSGDでは平衡が切れている長期的限界におけるシステムの定常状態に焦点を当てる。
本稿では,ミニバッチの置き換えを伴わない新しいランゲヴィンダイナミクス(SGLD)を提案する。
論文 参考訳(メタデータ) (2023-06-06T09:12:49Z) - Equilibrium Propagation with Continual Weight Updates [69.87491240509485]
時間によるバックプロパゲーション(BPTT)と密接に一致する勾配を計算し、機械学習と神経科学を橋渡しする学習アルゴリズムを提案する。
理論的には、学習速度が十分に小さい場合、第2相の各段階において、BPTTが与える損失の勾配に従ってニューロンとシナプスのダイナミクスが従うことを証明している。
これらの結果からEPは,後方伝播との親密な関係を維持しつつ,ハードウェアの制約に順応し,生物学に一歩近づいた。
論文 参考訳(メタデータ) (2020-04-29T14:54:30Z) - Continual Weight Updates and Convolutional Architectures for Equilibrium
Propagation [69.87491240509485]
Equilibrium Propagation (EP)は、ニューラルネットワークのトレーニングのためのバックプロパゲーション(BP)に対する生物学的にインスパイアされた代替アルゴリズムである。
本稿では,方程式の簡易化,学習の高速化,CNNへのEP拡張を可能にするEPの離散時間定式化を提案する。
我々のCNNモデルは、EPでMNISTで報告された最高のパフォーマンスを達成する。
論文 参考訳(メタデータ) (2020-04-29T12:14:06Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。