論文の概要: A Conservation Law for Equilibrium Propagation and Coupled Learning
- arxiv url: http://arxiv.org/abs/2606.15444v1
- Date: Sat, 13 Jun 2026 19:22:15 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-06-16 16:21:33.57724
- Title: A Conservation Law for Equilibrium Propagation and Coupled Learning
- Title(参考訳): 平衡伝播・結合学習のための保全法
- Authors: Joshua A. McGinnis, Adam G. Kline, Yoichiro Mori,
- Abstract要約: 連成学習と平衡伝播は, 連続時間, 小型潜航限界において, 訓練可能なパラメータの質量様量を保存することを示す。
そこで, 保全法則は, 線形回路の重要な設定において収束性に信頼性を持たせる方法で, トレーニングダイナミクスを制約することを示した。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: In this paper we show that the physical learning methods known as coupled learning (CL) and equilibrium propagation (EP) conserve a mass-like quantity in the trainable parameters in the continuous-time, small-nudging limit. We prove that this conservation holds in a broad range of physically relevant settings. We then show that the conservation law constrains the training dynamics in a way that makes convergence reliable in important settings for linear circuits. We conclude by discussing some practical implications of this conservation law.
- Abstract(参考訳): 本稿では,結合学習 (CL) と平衡伝播 (EP) と呼ばれる物理学習手法が, 連続時間, 小型ナッジ限界において, 学習可能なパラメータの質量的数を保存することを示す。
我々は、この保存が、幅広い物理的に関係のある設定で保持されていることを証明した。
そこで, 保全法則は, 線形回路の重要な設定において収束性に信頼性を持たせる方法で, トレーニングダイナミクスを制約することを示した。
我々は,この保全法の実践的意味を論じて結論付けた。
関連論文リスト
- Transformative or Conservative? Conservation laws for ResNets and Transformers [28.287184613608435]
本稿では,近代建築の保全法則の導出と解析により,そのギャップを埋める。
まず、ReLU(あるいは線形)浅層ネットワークのような基本構造ブロックは、畳み込みの有無にかかわらず、容易に保存則を表現できることを示す。
次に、パラメータのサブセットにのみ依存する保存法則の概念を導入する。
論文 参考訳(メタデータ) (2025-06-06T15:53:35Z) - Computational Inertia as a Conserved Quantity in Frictionless and Damped Learning Dynamics [0.0]
計算慣性と呼ばれる連続時間最適化力学における保存量を特定する。
この保存法則を定式化し, 摂動下における解析的崩壊を導出し, その挙動を合成系で示す。
論文 参考訳(メタデータ) (2025-05-25T14:43:57Z) - Equilibrium Propagation for Learning in Lagrangian Dynamical Systems [0.0]
トレーニングは、望ましい目標に向かって軌道を優しくヌードし、トレーニング対象のパラメータにどのように共役するかを測定することで達成される。
この方法は、周期境界条件や固定された初期状態と最終状態を持つシステムに特に適しており、時間を通して明示的なバックプロパゲーションを必要とせず、効率的なパラメータ更新を可能にする。
論文 参考訳(メタデータ) (2025-05-12T08:59:17Z) - Keep the Momentum: Conservation Laws beyond Euclidean Gradient Flows [28.287184613608435]
運動量に基づく力学の保存則は時間的依存を示すことを示す。
また、勾配流から運動量力学へ遷移する際の「保存損失」も観察する。
この現象は非ユークリッド計量にも現れ、例えば非負行列因子化(NMF)に用いられる。
論文 参考訳(メタデータ) (2024-05-21T15:59:55Z) - Machine learning in and out of equilibrium [58.88325379746631]
我々の研究は、統計物理学から適応したフォッカー・プランク法を用いて、これらの平行線を探索する。
我々は特に、従来のSGDでは平衡が切れている長期的限界におけるシステムの定常状態に焦点を当てる。
本稿では,ミニバッチの置き換えを伴わない新しいランゲヴィンダイナミクス(SGLD)を提案する。
論文 参考訳(メタデータ) (2023-06-06T09:12:49Z) - Resilient Constrained Learning [94.27081585149836]
本稿では,学習課題を同時に解決しながら,要求に適応する制約付き学習手法を提案する。
我々はこの手法を、その操作を変更することで破壊に適応する生態システムを記述する用語に因んで、レジリエントな制約付き学習と呼ぶ。
論文 参考訳(メタデータ) (2023-06-04T18:14:18Z) - Guaranteed Conservation of Momentum for Learning Particle-based Fluid
Dynamics [96.9177297872723]
本稿では,学習物理シミュレーションにおける線形運動量を保証する新しい手法を提案する。
我々は、強い制約で運動量の保存を強制し、反対称的な連続的な畳み込み層を通して実現する。
提案手法により,学習シミュレータの物理的精度を大幅に向上させることができる。
論文 参考訳(メタデータ) (2022-10-12T09:12:59Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。