論文の概要: Equilibrium Propagation for Non-Conservative Systems
- arxiv url: http://arxiv.org/abs/2602.03670v1
- Date: Tue, 03 Feb 2026 15:52:23 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-02-04 18:37:15.552262
- Title: Equilibrium Propagation for Non-Conservative Systems
- Title(参考訳): 非保守系の平衡伝播
- Authors: Antonino Emanuele Scurria, Dimitri Vanden Abeele, Bortolo Matteo Mognetti, Serge Massar,
- Abstract要約: フィードフォワードネットワークを含む任意の非保守システムに平衡伝搬(EP)を拡張するフレームワークを提案する。
我々は平衡伝播の重要な性質、すなわち推論と学習の両方に定常状態を用いることを保っている。
我々は、コスト関数の正確な勾配を得るために、相互作用の非相互部分に比例する項で学習相のダイナミクスを変更する。
- 参考スコア(独自算出の注目度): 3.3360186658767685
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Equilibrium Propagation (EP) is a physics-inspired learning algorithm that uses stationary states of a dynamical system both for inference and learning. In its original formulation it is limited to conservative systems, $\textit{i.e.}$ to dynamics which derive from an energy function. Given their importance in applications, it is important to extend EP to nonconservative systems, $\textit{i.e.}$ systems with non-reciprocal interactions. Previous attempts to generalize EP to such systems failed to compute the exact gradient of the cost function. Here we propose a framework that extends EP to arbitrary nonconservative systems, including feedforward networks. We keep the key property of equilibrium propagation, namely the use of stationary states both for inference and learning. However, we modify the dynamics in the learning phase by a term proportional to the non-reciprocal part of the interaction so as to obtain the exact gradient of the cost function. This algorithm can also be derived using a variational formulation that generates the learning dynamics through an energy function defined over an augmented state space. Numerical experiments using the MNIST database show that this algorithm achieves better performance and learns faster than previous proposals.
- Abstract(参考訳): Equilibrium Propagation (EP) は、推論と学習の両方に動的システムの定常状態を使用する物理に着想を得た学習アルゴリズムである。
元々の定式化では、エネルギー関数から導かれる力学に$\textit{i.e.}$という保守系に制限される。
アプリケーションにおけるEPの重要性を考えると、EPを非可観測系、$\textit{i.e.}$システムに拡張することが重要である。
このようなシステムにEPを一般化する以前の試みは、コスト関数の正確な勾配を計算できなかった。
本稿では,EPをフィードフォワードネットワークを含む任意の非保守システムに拡張するフレームワークを提案する。
我々は平衡伝播の重要な性質、すなわち推論と学習の両方に定常状態を用いることを維持している。
しかし、我々は、コスト関数の正確な勾配を得るために、相互作用の非相互部分に比例する項で学習相のダイナミクスを変更する。
このアルゴリズムは、拡張状態空間上で定義されたエネルギー関数を通して学習力学を生成する変分定式化を用いて導出することもできる。
MNISTデータベースを用いた数値実験により、このアルゴリズムは性能が向上し、従来の提案よりも高速に学習できることが示されている。
関連論文リスト
- Learning with springs and sticks [6.765839157891597]
本研究では,任意の連続関数を任意に近似できるばねと棒からなる簡単な力学系について検討する。
提案手法を回帰タスクに適用し,その性能が多層パーセプトロンに匹敵することを示す。
環境変動に起因したシステムのエンファーモダイナミック学習障壁を実証的に発見する。
論文 参考訳(メタデータ) (2025-08-26T13:26:26Z) - Lagrangian-based Equilibrium Propagation: generalisation to arbitrary boundary conditions & equivalence with Hamiltonian Echo Learning [9.058144413941845]
GLEP(Generalized Lagrangian Equilibrium Propagation)は、静的入力によるエネルギーベースモデル(EBM)の学習アルゴリズムである。
GLEPはシステムの境界条件に応じて異なる学習アルゴリズムを生成することを示す。
そして, GLEPの特殊な場合として, ハミルトンエコー学習(HEL)が導出可能であることを示す。
論文 参考訳(メタデータ) (2025-06-06T17:17:40Z) - Learning Stochastic Thermodynamics Directly from Correlation and Trajectory-Fluctuation Currents [0.0]
電流は近年、エントロピーの有界生産における役割について注目を集めている。
そこでは、累積電流と標準機械学習損失関数の基本的な関係を導入する。
これらの損失関数は、TURと他の方法の両方から得られた結果を再現する。
さらに重要なことは、以前は到達不能な量に対する新しい損失関数を発見する道を開くことである。
論文 参考訳(メタデータ) (2025-04-26T19:42:09Z) - Physics-Informed Solution of The Stationary Fokker-Plank Equation for a
Class of Nonlinear Dynamical Systems: An Evaluation Study [0.0]
Fokker-Planck(FP)方程式の正確な解析解は、力学系の限られた部分集合に対してのみ利用できる。
その可能性を評価するために、FP方程式を解くために、データフリーで物理インフォームドニューラルネットワーク(PINN)フレームワークを提案する。
論文 参考訳(メタデータ) (2023-09-25T13:17:34Z) - Machine learning in and out of equilibrium [58.88325379746631]
我々の研究は、統計物理学から適応したフォッカー・プランク法を用いて、これらの平行線を探索する。
我々は特に、従来のSGDでは平衡が切れている長期的限界におけるシステムの定常状態に焦点を当てる。
本稿では,ミニバッチの置き換えを伴わない新しいランゲヴィンダイナミクス(SGLD)を提案する。
論文 参考訳(メタデータ) (2023-06-06T09:12:49Z) - Learning Neural Constitutive Laws From Motion Observations for
Generalizable PDE Dynamics [97.38308257547186]
多くのNNアプローチは、支配的PDEと物質モデルの両方を暗黙的にモデル化するエンドツーエンドモデルを学ぶ。
PDEの管理はよく知られており、学習よりも明示的に実施されるべきである、と私たちは主張する。
そこで我々は,ネットワークアーキテクチャを利用したニューラル構成則(Neural Constitutive Laws,NCLaw)と呼ばれる新しいフレームワークを導入する。
論文 参考訳(メタデータ) (2023-04-27T17:42:24Z) - Stabilizing Q-learning with Linear Architectures for Provably Efficient
Learning [53.17258888552998]
本研究では,線形関数近似を用いた基本的な$Q$-learningプロトコルの探索変種を提案する。
このアルゴリズムの性能は,新しい近似誤差というより寛容な概念の下で,非常に優雅に低下することを示す。
論文 参考訳(メタデータ) (2022-06-01T23:26:51Z) - Structure-Preserving Learning Using Gaussian Processes and Variational
Integrators [62.31425348954686]
本稿では,機械系の古典力学に対する変分積分器と,ガウス過程の回帰による残留力学の学習の組み合わせを提案する。
我々は、既知のキネマティック制約を持つシステムへのアプローチを拡張し、予測の不確実性に関する公式な境界を提供する。
論文 参考訳(メタデータ) (2021-12-10T11:09:29Z) - DySMHO: Data-Driven Discovery of Governing Equations for Dynamical
Systems via Moving Horizon Optimization [77.34726150561087]
本稿では,スケーラブルな機械学習フレームワークである移動水平最適化(DySMHO)による動的システムの発見について紹介する。
DySMHOは、基底関数の大きな辞書から基礎となる支配方程式を逐次学習する。
標準非線形力学系の例は、DySMHOが規則を正確に回復できることを示すために用いられる。
論文 参考訳(メタデータ) (2021-07-30T20:35:03Z) - Equilibrium Propagation with Continual Weight Updates [69.87491240509485]
時間によるバックプロパゲーション(BPTT)と密接に一致する勾配を計算し、機械学習と神経科学を橋渡しする学習アルゴリズムを提案する。
理論的には、学習速度が十分に小さい場合、第2相の各段階において、BPTTが与える損失の勾配に従ってニューロンとシナプスのダイナミクスが従うことを証明している。
これらの結果からEPは,後方伝播との親密な関係を維持しつつ,ハードウェアの制約に順応し,生物学に一歩近づいた。
論文 参考訳(メタデータ) (2020-04-29T14:54:30Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。