論文の概要: Jeffreys Flow: Robust Boltzmann Generators for Rare Event Sampling via Parallel Tempering Distillation
- arxiv url: http://arxiv.org/abs/2604.05303v1
- Date: Tue, 07 Apr 2026 01:17:53 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-04-08 17:42:09.557771
- Title: Jeffreys Flow: Robust Boltzmann Generators for Rare Event Sampling via Parallel Tempering Distillation
- Title(参考訳): ジェフリーズフロー:平行加温蒸留による希少イベントサンプリング用ロバストボルツマン発電機
- Authors: Guang Lin, Christian Moya, Di Qi, Xuda Ye,
- Abstract要約: ボルツマン・ジェネレータは逆のクルバック(英語版)を頼りにしており、粗いエネルギーを持つ物理系をサンプリングすることは稀な事象や準安定トラップによって妨げられる。
この失敗を緩和する堅牢な生成フレームワークであるJeffreys Flowを紹介します。
- 参考スコア(独自算出の注目度): 9.242166517719111
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Sampling physical systems with rough energy landscapes is hindered by rare events and metastable trapping. While Boltzmann generators already offer a solution, their reliance on the reverse Kullback--Leibler divergence frequently induces catastrophic mode collapse, missing specific modes in multi-modal distributions. Here, we introduce the Jeffreys Flow, a robust generative framework that mitigates this failure by distilling empirical sampling data from Parallel Tempering trajectories using the symmetric Jeffreys divergence. This formulation effectively balances local target-seeking precision with global modes coverage. We show that minimizing Jeffreys divergence suppresses mode collapse and structurally corrects inherent inaccuracies via distillation of the empirical reference data. We demonstrate the framework's scalability and accuracy on highly non-convex multidimensional benchmarks, including the systematic correction of stochastic gradient biases in Replica Exchange Stochastic Gradient Langevin Dynamics and the massive acceleration of exact importance sampling in Path Integral Monte Carlo for quantum thermal states.
- Abstract(参考訳): 粗いエネルギー景観を持つ物理系をサンプリングすることは、まれな出来事や準安定的なトラップによって妨げられる。
ボルツマン生成器はすでに解を提供しているが、その逆クルバック-リーブラ分岐への依存は、しばしば破滅的なモード崩壊を誘発し、マルチモーダル分布において特定のモードが欠落する。
ここでは, 対称なジェフリーズ発散を用いた並列テンパリング軌道からの経験的サンプリングデータを蒸留することにより, この障害を緩和する強靭な生成フレームワークであるジェフリーズフローを紹介する。
この定式化は、局所目標探索精度とグローバルモードのカバレッジを効果的にバランスさせる。
本稿では, ジェフリーズ発散の最小化がモード崩壊を抑制し, 経験的基準データの蒸留によって固有の不正確性を構造的に補正することを示す。
本研究では,Replica Exchange Stochastic Gradient Langevin Dynamicsにおける確率的勾配バイアスの体系的補正や,Path Integral Monte Carloにおける量子熱状態の高精度サンプリングの大規模高速化を含む,高凸な多次元ベンチマークにおけるフレームワークのスケーラビリティと精度を実証する。
関連論文リスト
- Annealing in variational inference mitigates mode collapse: A theoretical study on Gaussian mixtures [12.937511747845436]
本研究では, トラクタブル環境下でのモード崩壊を緩和するための戦略を数学的に解析する。
本分析は, 適切に選択された焼鈍方式がモード崩壊を確実に防止できることを示す。
本稿では,これらの理論的トレードオフがニューラルネットワークベースモデルであるRealNVP正規化フローに定性的に拡張することを示す。
論文 参考訳(メタデータ) (2026-02-13T13:28:23Z) - A scalable flow-based approach to mitigate topological freezing [34.54607280864912]
マルコフチェインモンテカルロシミュレーションからトポロジカルアーティファクトを除去するフローベース戦略を提案する。
この戦略は、非平衡モンテカルロ更新を局所的で頑丈な欠陥層に置き換える正規化フロー(SNF)に基づいている。
欠点SNFは、同等のコストで非平衡法を再現するよりも優れた性能を示す。
論文 参考訳(メタデータ) (2026-01-28T15:40:46Z) - Entropy-Reservoir Bregman Projection: An Information-Geometric Unification of Model Collapse [3.533187668612022]
本稿では,これらの現象を統一する情報幾何学的枠組みであるEntropyReser Bregman Projection- ERBPを提案する。
我々の理論は崩壊に必要な条件、(ii)非言語エントロピーフロアを保証する十分な条件、(iii)サンプルサイズに依存する閉形式率をもたらす。
論文 参考訳(メタデータ) (2025-12-16T19:50:03Z) - Drift No More? Context Equilibria in Multi-Turn LLM Interactions [58.69551510148673]
コンテキストドリフト(Contexts drift)とは、ターン間のゴール一貫性のある振る舞いからモデルが出力する出力の段階的なばらつきである。
シングルターンエラーとは異なり、ドリフトは時間的に展開し、静的な評価指標では捉えにくい。
マルチターンドリフトは、避けられない崩壊というよりも、制御可能な平衡現象として理解できることを示す。
論文 参考訳(メタデータ) (2025-10-09T04:48:49Z) - Inference-Time Scaling of Diffusion Language Models with Particle Gibbs Sampling [70.8832906871441]
我々は、モデルを再訓練することなく、所望の報酬に向けて世代を操る方法を研究する。
従来の手法では、通常は1つの認知軌道内でサンプリングやフィルタを行い、軌道レベルの改善なしに報酬をステップバイステップで最適化する。
本稿では,拡散言語モデル(PG-DLM)の粒子ギブスサンプリングについて紹介する。
論文 参考訳(メタデータ) (2025-07-11T08:00:47Z) - Scalable Equilibrium Sampling with Sequential Boltzmann Generators [60.00515282300297]
Boltzmannジェネレータフレームワークを2つの重要なコントリビューションで拡張する。
1つ目は、全原子カルテシアン座標で直接動作する非常に効率的なトランスフォーマーベースの正規化フローである。
特に,連続モンテカルロの連続時間変種を用いて,流れサンプルの推論時スケーリングを行う。
論文 参考訳(メタデータ) (2025-02-25T18:59:13Z) - Temperature-Annealed Boltzmann Generators [0.6906005491572401]
逆クルバック・リーブラー分岐を高温での正規化流の訓練はモード崩壊を伴わずに可能である。
目標温度を下げるために,再重み付けに基づく学習目標を導入する。
最大のシステムにとって、我々のアプローチはシステムの準安定状態を正確に解決する唯一の方法である。
論文 参考訳(メタデータ) (2025-01-31T12:09:40Z) - Predicting Cascading Failures with a Hyperparametric Diffusion Model [66.89499978864741]
拡散モデルのレンズによる電力グリッドのカスケード故障について検討する。
我々のモデルは、バイラル拡散原理と物理に基づく概念を統合する。
この拡散モデルはカスケード故障の痕跡から学習可能であることを示す。
論文 参考訳(メタデータ) (2024-06-12T02:34:24Z) - GANs with Variational Entropy Regularizers: Applications in Mitigating
the Mode-Collapse Issue [95.23775347605923]
深層学習の成功に基づいて、GAN(Generative Adversarial Networks)は、観測されたサンプルから確率分布を学習するための現代的なアプローチを提供する。
GANはしばしば、ジェネレータが入力分布の既存のすべてのモードをキャプチャできないモード崩壊問題に悩まされる。
情報理論のアプローチを採り、生成したサンプルのエントロピーの変動的下限を最大化し、それらの多様性を増大させる。
論文 参考訳(メタデータ) (2020-09-24T19:34:37Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。