論文の概要: Thermodynamic Regulation of Finite-Time Gibbs Training in Energy-Based Models: A Restricted Boltzmann Machine Study
- arxiv url: http://arxiv.org/abs/2603.02525v1
- Date: Tue, 03 Mar 2026 02:21:19 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-03-04 21:38:10.602
- Title: Thermodynamic Regulation of Finite-Time Gibbs Training in Energy-Based Models: A Restricted Boltzmann Machine Study
- Title(参考訳): エネルギーモデルを用いた有限時間ギブズトレーニングの熱力学制御:制限ボルツマンマシンスタディ
- Authors: Görkem Can Süleymanoğlu,
- Abstract要約: 内因性熱力学制御を導入し, 温度が状態変数として進化し, 統計をサンプリングする。
MNISTの実験により,提案した自己制御近似法は,安定性と有効試料性能を保っていることが示された。
その結果,WeMトレーニングは静的平衡過程ではなく,制御された非平衡過程であることがわかった。
- 参考スコア(独自算出の注目度): 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Restricted Boltzmann Machines (RBMs) are typically trained using finite-length Gibbs chains under a fixed sampling temperature. This practice implicitly assumes that the stochastic regime remains valid as the energy landscape evolves during learning. We argue that this assumption can become structurally fragile under finite-time training dynamics. This fragility arises because, in nonconvex energy-based models, fixed-temperature finite-time training can generate admissible trajectories with effective-field amplification and conductance collapse. As a result, the Gibbs sampler may asymptotically freeze, the negative phase may localize, and, without sufficiently strong regularization, parameters may exhibit deterministic linear drift. To address this instability, we introduce an endogenous thermodynamic regulation framework in which temperature evolves as a dynamical state variable coupled to measurable sampling statistics. Under standard local Lipschitz conditions and a two-time-scale separation regime, we establish global parameter boundedness under strictly positive L2 regularization. We further prove local exponential stability of the thermodynamic subsystem and show that the regulated regime mitigates inverse-temperature blow-up and freezing-induced degeneracy within a forward-invariant neighborhood. Experiments on MNIST demonstrate that the proposed self-regulated RBM substantially improves normalization stability and effective sample size relative to fixed-temperature baselines, while preserving reconstruction performance. Overall, the results reinterpret RBM training as a controlled non-equilibrium dynamical process rather than a static equilibrium approximation.
- Abstract(参考訳): 制限ボルツマン機械(RBM)は通常、一定のサンプリング温度下で有限長ギブス鎖を用いて訓練される。
この慣習は、学習中にエネルギーランドスケープが進化するにつれて、確率的体制が有効であると暗黙的に仮定する。
この仮定は有限時間学習力学の下で構造的に脆弱になる可能性があると論じる。
この不安定性は、非凸エネルギーベースモデルにおいて、固定温度有限時間トレーニングが有効磁場増幅と導電性崩壊を伴う許容軌道を生成するために生じる。
その結果、ギブスサンプリング器は漸近的に凍結し、負相は局在し、十分に強い正則化がなければ、パラメータは決定論的線形ドリフトを示す。
この不安定性に対処するために、測定可能なサンプリング統計と結合した動的状態変数として温度が進化する内因性熱力学制御フレームワークを導入する。
標準的な局所リプシッツ条件と2段階の分離条件の下では、厳密な正のL2正則化の下で大域的パラメータ境界性を確立する。
さらに, 熱力学的サブシステムの局所的な指数的安定性を証明し, 制御された状態は, 前方不変近傍における逆温度の爆発と凍結誘起縮退を緩和することを示した。
MNIST実験により, 提案した自己制御RBMは, 再現性能を保ちながら, 常温ベースラインに対する正則化安定性と有効試料径を著しく向上することを示した。
全体として、RBMトレーニングは静的平衡近似よりも制御された非平衡力学過程として再解釈される。
関連論文リスト
- Avoiding Premature Collapse: Adaptive Annealing for Entropy-Regularized Structural Inference [1.7523718031184992]
この障害の基本的なメカニズムは、 textbf Premature Mode Collapseである。
提案手法は,適応型スケジューリングアルゴリズムであるtextbfEfficient Piecewise Hybrid Adaptive Stability Control (EPH-ASC) で,推論過程の安定性をモニタする。
論文 参考訳(メタデータ) (2026-01-30T14:47:18Z) - Stability as a Liability:Systematic Breakdown of Linguistic Structure in LLMs [5.96875296117642]
安定なパラメータトラジェクトリが定常解を導出し、経験的分布へのKLの分岐を最小化することを示す。
制御されたフィードバックベースのトレーニングフレームワークを用いて,この効果を実証的に検証する。
これは、最適化の安定性と生成的表現性は本質的に一致していないことを示し、安定性のみが生成的品質の指標として不十分であることを示している。
論文 参考訳(メタデータ) (2026-01-26T15:34:50Z) - Temperature dependence of energy transport in the $\mathbb{Z}_3$ chiral clock model [0.0]
本研究では, 1次元$mathbbZ_3$キラルクロックモデルの非可積分状態におけるエネルギー輸送について検討した。
本研究では, 比較的高温のモデルにおける輸送係数を, 空隙のない相と低温の相の両方よりも高い温度で抽出する。
量子臨界スケーリングが観測される温度には到達できないが、我々のアプローチはモデルの輸送特性にアクセスすることができる。
論文 参考訳(メタデータ) (2023-10-31T18:00:30Z) - Characterizing the spontaneous collapse of a wavefunction through
entropy production [0.0]
連続自発局所化モデル(CSL)のエネルギーの非保存につながる現象論を考察する。
このような枠組みを用いて、モデル(dCSL)の散逸的定式化に伴う均衡過程を評価する。
CSLモデルは、負のエントロピー生成速度を示すため、クラウシウス法則に反することを示す。
論文 参考訳(メタデータ) (2023-10-19T12:10:52Z) - Machine learning in and out of equilibrium [58.88325379746631]
我々の研究は、統計物理学から適応したフォッカー・プランク法を用いて、これらの平行線を探索する。
我々は特に、従来のSGDでは平衡が切れている長期的限界におけるシステムの定常状態に焦点を当てる。
本稿では,ミニバッチの置き換えを伴わない新しいランゲヴィンダイナミクス(SGLD)を提案する。
論文 参考訳(メタデータ) (2023-06-06T09:12:49Z) - Apparent pathologies in stochastic entropy production in the
thermalisation of an open two-level quantum system [0.0]
開封された2レベル量子系の熱的統計状態への緩和によるエントロピー効果について検討する。
一般的な状態から始まる熱化には, エントロピー生産の環境成分の変化の持続的非ゼロ平均値が伴うことを示した。
論文 参考訳(メタデータ) (2023-03-07T11:34:46Z) - Clean two-dimensional Floquet time-crystal [68.8204255655161]
障害のない2次元量子イジングモデルは、周期的不完全大域スピンフリップの対象となる。
本稿では, 自発的に破れた離散時間-翻訳対称性を維持できる, 正確な対角化法とテンソル-ネットワーク法の組み合わせにより示す。
2次元における磁区の長期安定性に関連する秩序パラメータの崩壊速度の非摂動変化を観察する。
論文 参考訳(メタデータ) (2022-05-10T13:04:43Z) - Observation of Time-Crystalline Eigenstate Order on a Quantum Processor [80.17270167652622]
量子体系は、その低温平衡状態において豊富な相構造を示す。
超伝導量子ビット上の固有状態秩序DTCを実験的に観測する。
結果は、現在の量子プロセッサ上での物質の非平衡相を研究するためのスケーラブルなアプローチを確立する。
論文 参考訳(メタデータ) (2021-07-28T18:00:03Z) - Uhlmann Fidelity and Fidelity Susceptibility for Integrable Spin Chains
at Finite Temperature: Exact Results [68.8204255655161]
奇数パリティ部分空間の適切な包含は、中間温度範囲における最大忠実度感受性の向上につながることを示す。
正しい低温の挙動は、2つの最も低い多体エネルギー固有状態を含む近似によって捉えられる。
論文 参考訳(メタデータ) (2021-05-11T14:08:02Z) - Analog cosmological reheating in an ultracold Bose gas [58.720142291102135]
超低温ボースガス中の一般宇宙論単体モデルの再加熱様ダイナミクスを量子シミュレーションする。
非相対論的極限において、拡大時空と背景振動インフラトン場を模倣する。
提案された実験は、弱い結合状態を超えても、最近まで進化を探求する可能性がある。
論文 参考訳(メタデータ) (2020-08-05T18:00:26Z) - Probing eigenstate thermalization in quantum simulators via
fluctuation-dissipation relations [77.34726150561087]
固有状態熱化仮説(ETH)は、閉量子多体系の平衡へのアプローチの普遍的なメカニズムを提供する。
本稿では, ゆらぎ・散逸関係の出現を観測し, 量子シミュレータのフルETHを探索する理論に依存しない経路を提案する。
我々の研究は、量子シミュレータにおける熱化を特徴づける理論に依存しない方法を示し、凝縮物質ポンプ-プローブ実験をシミュレーションする方法を舗装する。
論文 参考訳(メタデータ) (2020-07-20T18:00:02Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。