論文の概要: Symmetric Equilibrium Propagation for Thermodynamic Diffusion Training
- arxiv url: http://arxiv.org/abs/2604.23806v1
- Date: Sun, 26 Apr 2026 17:05:05 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-04-28 17:12:07.563204
- Title: Symmetric Equilibrium Propagation for Thermodynamic Diffusion Training
- Title(参考訳): 熱力学拡散訓練のための対称平衡伝播
- Authors: Aditi De,
- Abstract要約: 本稿では,2重結合型アナログ基板が,ディジタル推論よりも3~4桁のエネルギー優位性を持つ予測値において,物理的に動的に実現可能であることを示す。
我々は、外的デジタル加速器を介して勾配をルーティングすることなく、同じ基板上でエンハンチングループを閉じることができるかどうかを判定する。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: The reverse process in score-based diffusion models is formally equivalent to overdamped Langevin dynamics in a time-dependent energy landscape. In our prior work we showed that a bilinearly-coupled analog substrate can physically realize this dynamics at a projected three-to-four orders of magnitude energy advantage over digital inference by replacing dense skip connections with low-rank inter-module couplings. Whether the \emph{training} loop can be closed on the same substrate -- without routing gradients through an external digital accelerator -- has remained open. We resolve this affirmatively: Equilibrium Propagation applied directly to the bilinear energy yields an unbiased estimator of the denoising score-matching gradient in the zero-nudge limit. For finite nudging we derive a sharp bias bound controlled solely by substrate stiffness, local curvature, and the norm of the loss-gradient signal, with a bilinear-specific corollary showing that one dominant bias term vanishes identically for coupling-parameter updates. Symmetric nudging further upgrades the leading bias from $ \mathcal{O}(β) $ to $ \mathcal{O}(β^2) $ at negligible extra cost. Under realistic finite-relaxation budgets this upgrade is essential, as one-sided EqProp produces anti-correlated gradients while symmetric EqProp yields well-aligned updates. Bias-variance analysis determines the optimal operating point, and end-to-end physical-unit accounting projects a $ 10^3$-$10^4\times $ energy advantage per training step over a matched GPU baseline. Symmetric bilinear EqProp is the first local, readout-only training rule that preserves the low-rank coupling enabling scalable thermodynamic diffusion models.
- Abstract(参考訳): スコアベース拡散モデルの逆過程は、時間依存エネルギーランドスケープにおける過大なランゲヴィン力学と正式に等価である。
先程の研究では、双線形結合型アナログ基板は、高密度のスキップ接続を低ランクの結合結合に置き換えることで、デジタル推論よりも3~4桁のエネルギー優位性を予想して、このダイナミクスを物理的に実現できることを示した。
emph{training}ループが(外部のデジタルアクセラレータを経由する勾配をルーティングすることなく)同じ基板上で閉じられるかどうかについては、未解決のままである。
両線形エネルギーに直接適用される平衡伝播は、ゼロ・ナッジ限界におけるデノジングスコアマッチング勾配の偏りのない推定値を得る。
有限ヌージングでは, 基板剛性, 局所曲率, 損失勾配信号のノルムのみに支配されるシャープバイアスが導出され, バイリニア特異的な行程では, 結合パラメータ更新に対して1つの支配バイアス項が同一に消滅することを示す。
シンメトリーヌードングは、さらに$ \mathcal{O}(β) $ から $ \mathcal{O}(β^2) $ へのリードバイアスを無視可能な追加コストでアップグレードする。
現実的な有限緩和予算の下では、このアップグレードは必要不可欠であり、一方のEqPropは反相関勾配を生成し、対称EqPropは適切に整列された更新をもたらす。
バイアス分散分析により最適動作点が決定され、エンドツーエンドの物理ユニット会計は10^3$-$10^4\times $ energy advantage per training steps over a matched GPU baseline。
対称双線形EqPropは、スケーラブルな熱力学拡散モデルを可能にする低ランク結合を保った最初の局所的読み出し専用トレーニングルールである。
関連論文リスト
- Wiener Chaos Expansion based Neural Operator for Singular Stochastic Partial Differential Equations [58.188204772101756]
本稿では,最近開発された Wiener Chaos Expansion (WCE) ベースのニューラル演算子 (NO) を特異偏微分方程式に適用する方法について検討する。
特徴量線形変調(FiLM)を利用して特異SPDEの解とその滑らかな残差の依存性を適切に把握する。
得られたWCE-FiLM-NOは、相対的な$L$損失、アウト・オブ・ディストリビューション、自己相関スコアによって測定された、$boldsymbol4$に対して優れた性能を示す。
論文 参考訳(メタデータ) (2026-03-09T10:50:30Z) - Symmetry-protected topology and deconfined solitons in a multi-link $\mathbb{Z}_2$ gauge theory [45.88028371034407]
球殻の大円として視覚化できるリンクを持つ多重グラフ上で定義された$mathbbZ$格子ゲージ理論を研究する。
これは、ピエルズ不安定性に類似した現象の根底にある状態依存トンネル振幅につながることを示す。
行列積状態に基づいて詳細な解析を行うことで、電荷分解が電荷-摩擦化の結果生じることを証明できる。
論文 参考訳(メタデータ) (2026-03-02T22:59:25Z) - Stability and Generalization of Push-Sum Based Decentralized Optimization over Directed Graphs [55.77845440440496]
プッシュベースの分散通信は、情報交換が非対称である可能性のある通信ネットワークの最適化を可能にする。
我々は、グラディエント・プッシュ(SGP)アルゴリズムのための統一的な一様安定性フレームワークを開発する。
重要な技術的要素は、2つの量に束縛された不均衡認識の一般化である。
論文 参考訳(メタデータ) (2026-02-24T05:32:03Z) - Decoherence, Perturbations and Symmetry in Lindblad Dynamics [0.0]
我々は、摂動的ダイソン型処理と離散対称性の制約を、シュルディンガー方程式とフォン・ノイマン方程式から嫌悪的なリンドブラッドフレームワークへと拡張する。
この研究は、一般的な力学的な考察から特定の量子力学のツールまで、現実主義と双対時間境界条件に基づく奇対称定式化をさらに発展させる。
論文 参考訳(メタデータ) (2026-02-14T23:23:29Z) - Time domain braiding of anyons revealed through a nonequilibrium fluctuation dissipation theorem [0.0]
非平衡初期状態に対して有効である新しいゆらぎ散逸定理(FDT)を導出し、時間領域におけるエノンのブレイディングを印加する。
そこで本研究では,時間領域ブレイディングフェーズを決定するための補完手法を提案する。
論文 参考訳(メタデータ) (2025-10-12T09:48:32Z) - Noise-induced decoherence-free zones for anyons [0.0]
固定パラメータから変動量への交換位相の促進を行う異種システムのためのフレームワークを開発する。
保護モードは、常に$thetastar = pi/2$というデファを最小化し、$D$の特定の形式とは無関係であることを示す。
これは、ノイズの多い異音系におけるコヒーレンスを最適化するための単純な設計規則を強調している。
論文 参考訳(メタデータ) (2025-10-07T16:21:57Z) - Scaling of Stochastic Normalizing Flows in $\mathrm{SU}(3)$ lattice gauge theory [44.99833362998488]
非平衡マルコフ連鎖モンテカルロシミュレーションは、ターゲット確率分布からのサンプルに対するジャージンスキーの等式に基づくよく理解されたフレームワークを提供する。
平衡外進化はフローベースアプローチの同じ枠組みを共有しており、自然に正規化フロー(SNF)と呼ばれる新しいアーキテクチャに結合することができる。
4次元における$mathrmSU(3)$の格子ゲージ理論に対するSNFの最初の実装は、非平衡モンテカルロ更新の間にゲージ同変層を導入することで定義される。
論文 参考訳(メタデータ) (2024-11-29T19:01:05Z) - Machine learning in and out of equilibrium [58.88325379746631]
我々の研究は、統計物理学から適応したフォッカー・プランク法を用いて、これらの平行線を探索する。
我々は特に、従来のSGDでは平衡が切れている長期的限界におけるシステムの定常状態に焦点を当てる。
本稿では,ミニバッチの置き換えを伴わない新しいランゲヴィンダイナミクス(SGLD)を提案する。
論文 参考訳(メタデータ) (2023-06-06T09:12:49Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。