論文の概要: Finite-step statistical mechanics of scale-invariant learning: spectral equations of state and curvature transport
- arxiv url: http://arxiv.org/abs/2610.38012v1
- Date: Tue, 27 Oct 2026 22:04:00 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-31 05:25:12.339701
- Title: Finite-step statistical mechanics of scale-invariant learning: spectral equations of state and curvature transport
- Title(参考訳): スケール不変学習の有限段階統計力学:状態のスペクトル方程式と曲率輸送
- Abstract要約: 勾配ノイズが理想-ガス記述から逸脱するニューラルネットワークでは、マクスウェル関係に類似したエントロピー-スケーリング関係はほぼ有効である。
軌道の正確な再スケーリングは熱平衡を仮定せずにエントロピー関係を説明する。
CIFAR-10とCIFAR-100のスフィアモデル、教師学生ネットワークおよび畳み込みネットワークにおけるテストは、輸送記述をサポートし、ハーモニックおよび立方体の近似の限界を識別する。
- 参考スコア(独自算出の注目度): 51.56484100374058
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Stationary learning admits an ideal-gas description under restrictive noise assumptions. In neural networks whose gradient noise departs from these assumptions, however, an entropy-scaling relation resembling a Maxwell relation remains approximately valid. We ask which thermodynamic-looking relations follow from scale symmetry rather than equilibrium, and how departures from the ideal-gas description can be quantified, for discrete stochastic gradient dynamics with memory. An exact rescaling of trajectories explains the entropy relation without assuming thermal equilibrium. Within a local harmonic approximation, self-adjusting weight norms yield a spectral equation of state whose virial coefficients are set by moments of the curvature spectrum, and coupled parameter groups can sustain stationary probability currents. Our central result beyond this approximation is an exact curvature-transport identity. Together with a finite-step loss balance, it decomposes corrections to the harmonic fluctuation relation into measurable curvature changes, finite-step remainders, gradient-memory correlations and finite-window drift terms. A related displacement-weighted curvature change provides a diagnostic of the arrow of time; its mean and second moment give a lower bound on the relative entropy between forward and reversed state pairs. We also calculate the activation-boundary contribution to curvature for rectified teacher-student networks with Gaussian inputs. Tests in sphere models, teacher-student networks and convolutional networks on CIFAR-10 and CIFAR-100 support the transport description and identify limits of the harmonic and cubic-remainder approximations. These results separate symmetry-based relations from equilibrium assumptions and provide quantitative diagnostics of nonideal fluctuations in learning dynamics.
- Abstract(参考訳): 定常学習は、制約的な雑音仮定の下での理想ガス記述を認める。
しかし、これらの仮定から勾配ノイズが離れているニューラルネットワークでは、マクスウェル関係に類似したエントロピー-スケーリング関係はほぼ有効である。
我々は、平衡よりもスケール対称性による熱力学的な関係と、理想ガス記述からの離脱をどのように定量化できるかを、記憶を伴う離散確率勾配力学に対して問う。
軌道の正確な再スケーリングは熱平衡を仮定せずにエントロピー関係を説明する。
局所調和近似の中で、自己調整重みノルムは、曲率スペクトルのモーメントによって仮想係数が設定された状態のスペクトル方程式を生成し、結合されたパラメータ群は定常的な確率電流を維持することができる。
この近似を超える中心的な結果は、正確な曲率変換の同一性である。
有限ステップ損失バランスとともに、高調波変動関係の補正を測定可能な曲率変化、有限ステップ残差、勾配線相関、有限ウィンドウドリフト項に分解する。
関連する変位重み付き曲率変化は、矢印の診断を提供し、その平均と第2モーメントは、前方と逆の状態対の間の相対エントロピーに下界を与える。
また,ガウス入力による修正教師学生ネットワークの曲率に対するアクティベーション-バウンダリ寄与を計算した。
CIFAR-10とCIFAR-100のスフィアモデル、教師学生ネットワーク、畳み込みネットワークにおけるテストは、輸送記述をサポートし、ハーモニックおよび立方体の近似の限界を識別する。
これらの結果は対称性に基づく関係を平衡仮定から分離し、学習力学における非理想的変動の定量的診断を提供する。
関連論文リスト
- Symmetry-protected topology and deconfined solitons in a multi-link $\mathbb{Z}_2$ gauge theory [45.88028371034407]
球殻の大円として視覚化できるリンクを持つ多重グラフ上で定義された$mathbbZ$格子ゲージ理論を研究する。
これは、ピエルズ不安定性に類似した現象の根底にある状態依存トンネル振幅につながることを示す。
行列積状態に基づいて詳細な解析を行うことで、電荷分解が電荷-摩擦化の結果生じることを証明できる。
論文 参考訳(メタデータ) (2026-03-02T22:59:25Z) - Parametric resonant enhancement of motional entanglement under optimal control: an analytical study [45.88028371034407]
我々は、クーロン相互作用を介して結合された光学的に閉じ込められた大粒子の運動自由度の間の理論的に連続的に変化する絡み合いについて検討した。
本研究では,結合強度の時間変調によるパラメトリック共鳴の詳細な解析を行う。
パラメトリックゲインとデコヒーレンスとの競合の結果、定常非平衡絡み状態が実現されることを実証する。
論文 参考訳(メタデータ) (2025-10-21T09:01:19Z) - Exactly solvable dissipative dynamics and one-form strong-to-weak spontaneous symmetry breaking in interacting two-dimensional spin systems [0.0]
マルコフ環境に結合した相互作用するガンマ行列のスピンモデルの散逸ダイナミクスについて検討する。
定常状態と緩和ダイナミクスは、基礎となるグラフの選択から定性的に独立であることを示す。
我々の研究は、物質の非平衡量子相を探索する分析的に抽出可能な枠組みを確立する。
論文 参考訳(メタデータ) (2025-05-16T17:59:59Z) - Measurement-induced transitions for interacting fermions [43.04146484262759]
エンタングルメントと電荷ゆらぎを特徴付けるオブザーバブルに対する統一的なアプローチを提供する場理論の枠組みを開発する。
このフレームワーク内では、複製されたケルディシュ非線形シグマモデル(NLSM)を導出する。
NLSMに対する正規化群アプローチを用いることで、位相図と物理観測値のスケーリングを決定する。
論文 参考訳(メタデータ) (2024-10-09T18:00:08Z) - Exact asymptotics of long-range quantum correlations in a nonequilibrium steady state [0.0]
非相互作用不純物を含む一次元の量子相関測度のスケーリングを解析的に研究する。
本研究は,従属対数補正の正確な形式を,相関測度の広範な項に導出する。
これは平衡状態の場合と似ており、そのような対数項は物理系に関する普遍的な情報を伝達することができる。
論文 参考訳(メタデータ) (2023-10-25T18:00:48Z) - Probing eigenstate thermalization in quantum simulators via
fluctuation-dissipation relations [77.34726150561087]
固有状態熱化仮説(ETH)は、閉量子多体系の平衡へのアプローチの普遍的なメカニズムを提供する。
本稿では, ゆらぎ・散逸関係の出現を観測し, 量子シミュレータのフルETHを探索する理論に依存しない経路を提案する。
我々の研究は、量子シミュレータにおける熱化を特徴づける理論に依存しない方法を示し、凝縮物質ポンプ-プローブ実験をシミュレーションする方法を舗装する。
論文 参考訳(メタデータ) (2020-07-20T18:00:02Z) - Quantum relaxation in a system of harmonic oscillators with
time-dependent coupling [0.0]
結合した1次元高調波発振器系の非平衡初期分布の緩和を解析する。
一般に、ここで研究されるシステムは平衡傾向にあるが、パラメータの値によって緩和が抑制されることが示される。
論文 参考訳(メタデータ) (2020-07-06T12:57:18Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。