論文の概要: Online local learning for generative thermodynamic computing
- arxiv url: http://arxiv.org/abs/2609.15439v1
- Date: Mon, 14 Sep 2026 12:02:14 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-16 07:15:06.317534
- Title: Online local learning for generative thermodynamic computing
- Title(参考訳): 生成熱力学計算のためのオンライン局所学習
- Abstract要約: 生成熱力学コンピュータは、熱ノイズをランゲヴィン力学を通して構造化データに変換する。
統合ステップ毎にローカルアップデートでこれらのシステムをトレーニングします。
更新タイミング,ノイズ構造,精度が生成熱力学コンピューティングにどのように影響するかを示す。
- 参考スコア(独自算出の注目度): 1.519321208145928
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Generative thermodynamic computers turn thermal noise into structured data through Langevin dynamics. We train these systems with a local update at each integration step. The reverse-path Onsager-Machlup objective yields a coupling gradient that is a symmetric sum of local residual-state correlations. We apply this gradient immediately rather than accumulating it over a full trajectory. In digital simulations using MNIST prototypes, online and trajectory-batch training reach similar validation losses on fixed noising paths. Models trained online release less heat on average in all five independently seeded pairs, with both models' parameters held fixed during sampling. Auxiliary classifier and nearest-prototype measures change modestly, while pairwise diversity decreases. The response to noise depends strongly on where the errors enter: independent zero-mean errors in the formed updates produce little heat change over a finite range of noise amplitudes, whereas residual offset and temporal correlation have much larger effects. Storing trained couplings requires substantially less precision than resolving deterministic updates during training. Together, these results establish a local online training method and show how update timing, noise structure, and precision affect generative thermodynamic computing.
- Abstract(参考訳): 生成熱力学コンピュータは、熱ノイズをランゲヴィン力学を通して構造化データに変換する。
統合ステップ毎にローカルアップデートでこれらのシステムをトレーニングします。
逆パス Onsager-Machlup の目的は、局所的残留状態相関の対称和であるカップリング勾配をもたらす。
この勾配を全軌道上に蓄積するのではなく、直ちに適用する。
MNISTプロトタイプを用いたデジタルシミュレーションでは、オンラインとトラジェクトリバッチのトレーニングは、固定されたノイズ発生経路上でも同様の検証損失に達する。
オンラインリリースをトレーニングしたモデルは、5つの独立したペアで平均的な熱を減らし、両方のモデルのパラメータはサンプリング中に固定された。
補助的分類器と最も近い原型測定器は適度に変化し、対の多様性は減少する。
生成した更新における独立ゼロ平均誤差は、有限範囲の雑音振幅に対してほとんど熱変化を起こさないが、残差オフセットと時間相関は、はるかに大きな効果を持つ。
トレーニング中の決定論的更新を解消するよりも、トレーニング済みのカップリングの精度が極めて低い。
これらの結果は,局所的なオンライントレーニング手法を確立し,更新タイミング,ノイズ構造,精度が生成熱力学コンピューティングにどのように影響するかを示す。
関連論文リスト
- Difficulty-Calibrated Interpolation Paths for Conditional Flow Matching [0.0]
条件付きフローマッチングは、所定のノイズ・データ・パスの速度にネットワークを後退させて生成モデルを訓練する。
本研究では,条件付きフローマッチングの回帰困難度が経路に沿って系統的に変化することを示す。
本稿では,モデル自体からスケジュールを導出するDifficulty-Calibrated Flow Matchingを提案する。
論文 参考訳(メタデータ) (2026-08-21T16:42:52Z) - Same Loss, Same Noise, Opposite Schedules: Noise Structure and Optimizer Normalization Jointly Determine Whether Learning-Rate Cooldown Helps [4.422349568747053]
本稿では,大規模モデル事前学習の既定であるウォームアップ安定度学習スケジュール(WSD)の段階について検討する。
提案手法は, 勾配雑音の構造と勾配雑音の構造が正規化するか否かという2つの特性を同時に有する。
論文 参考訳(メタデータ) (2026-07-14T05:21:38Z) - From Atoms to Entropy: Optimal Noise Allocation for Diffusion Training in the Convex Regime [52.459513910242485]
拡散訓練における最適な雑音レベルアロケーションを研究するための一般統計フレームワークを開発する。
最適化されたトレーニングスケジュールは、有限個のノイズレベルに集中した原子最小値を持つことを示す。
次に,大規模実験におけるエントロピック・スケジュールの評価を行った。
論文 参考訳(メタデータ) (2026-07-10T20:59:06Z) - Diffusion Models are Molecular Dynamics Simulators [0.0]
バッチ次元に逐次バイアスを付与したデノナイズ拡散サンプリング器が,ランゲヴィン力学を過度に破壊するオイラー・丸山積分器であることを証明した。
各逆消音ステップは、その関連するばね剛性を伴って、ノイズスケジュールとその剛性とで協調して設定された有効時間ステップを有する微分方程式の一段階と解釈することができる。
学習したスコアは、学習したエネルギーの勾配の役割を担い、拡散サンプリングとランゲヴィン時間進化の正確な対応を与える。
論文 参考訳(メタデータ) (2025-11-21T19:48:32Z) - Filling the Missings: Spatiotemporal Data Imputation by Conditional Diffusion [7.021277706390712]
環境モニタリングから都市交通管理まで,現代的応用への課題が提示されている。
機械学習とディープラーニングに基づく現在のアプローチは、空間次元と時間次元の依存性を効果的にモデル化するために苦労している。
CoFILLは、拡散品質モデルの本質的な利点に基づいて、高品質な計算結果を生成する。
論文 参考訳(メタデータ) (2025-06-08T11:53:06Z) - Time Series Similarity Score Functions to Monitor and Interact with the Training and Denoising Process of a Time Series Diffusion Model applied to a Human Activity Recognition Dataset based on IMUs [0.0]
拡散確率モデルは 合成センサー信号を生成できる
トレーニングプロセスは、前処理で付加された雑音と拡散モデルで予測された雑音との差を測定する損失関数によって制御される。
我々は、複数の類似度指標を調査し、トレーニングと合成プロセスを監視して、この問題を克服するために既存のメトリクスを適用します。
論文 参考訳(メタデータ) (2025-05-20T06:38:17Z) - Noisy Correspondence Learning with Self-Reinforcing Errors Mitigation [63.180725016463974]
クロスモーダル検索は、実際は精力的な、十分に整合した大規模データセットに依存している。
我々は、新しい雑音対応学習フレームワーク、textbfSelf-textbfReinforcing textbfErrors textbfMitigation(SREM)を導入する。
論文 参考訳(メタデータ) (2023-12-27T09:03:43Z) - Just One Byte (per gradient): A Note on Low-Bandwidth Decentralized
Language Model Finetuning Using Shared Randomness [86.61582747039053]
分散環境での言語モデルトレーニングは、交換の通信コストによって制限される。
分散微調整を低帯域幅で行うために,共有ランダムネスを用いた最近の作業を拡張した。
論文 参考訳(メタデータ) (2023-06-16T17:59:51Z) - Consistent Diffusion Models: Mitigating Sampling Drift by Learning to be
Consistent [97.64313409741614]
本稿では, モデルが生成したデータ上での予測が時間とともに一定であることを示す, 両立性特性を強制することを提案する。
CIFAR-10の条件および非条件生成とAFHQとFFHQのベースライン改良について,本研究の新たな訓練目標が得られた。
論文 参考訳(メタデータ) (2023-02-17T18:45:04Z) - Stabilizing Machine Learning Prediction of Dynamics: Noise and
Noise-inspired Regularization [58.720142291102135]
近年、機械学習(ML)モデルはカオス力学系の力学を正確に予測するために訓練可能であることが示されている。
緩和技術がなければ、この技術は人工的に迅速にエラーを発生させ、不正確な予測と/または気候不安定をもたらす可能性がある。
トレーニング中にモデル入力に付加される多数の独立雑音実効化の効果を決定論的に近似する正規化手法であるLinearized Multi-Noise Training (LMNT)を導入する。
論文 参考訳(メタデータ) (2022-11-09T23:40:52Z) - Distribution Mismatch Correction for Improved Robustness in Deep Neural
Networks [86.42889611784855]
正規化法は ノイズや入力の腐敗に関して 脆弱性を増大させる
本稿では,各層の活性化分布に適応する非教師なし非パラメトリック分布補正法を提案する。
実験により,提案手法は画像劣化の激しい影響を効果的に低減することを示した。
論文 参考訳(メタデータ) (2021-10-05T11:36:25Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。