論文の概要: Continuously Tempered Diffusion Samplers
- arxiv url: http://arxiv.org/abs/2509.00316v1
- Date: Sat, 30 Aug 2025 02:24:52 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-09-04 15:17:03.173295
- Title: Continuously Tempered Diffusion Samplers
- Title(参考訳): 連続加熱拡散サンプリング器
- Authors: Ezra Erives, Bowen Jing, Peter Holderrieth, Tommi Jaakkola,
- Abstract要約: 熱処理に基づくニューラルサンプリングは、ニューラルネットワークをトレーニングすることで、正規化されていない分布からのサンプリングを減らそうとする。
学習段階において、損失を評価するために位置が生成されるような提案分布が重要な設計選択である。
本稿では分子動力学の文脈で開発された探索技術を活用した連続的誘電拡散サンプリング手法を提案する。
- 参考スコア(独自算出の注目度): 11.82119062779468
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Annealing-based neural samplers seek to amortize sampling from unnormalized distributions by training neural networks to transport a family of densities interpolating from source to target. A crucial design choice in the training phase of such samplers is the proposal distribution by which locations are generated at which to evaluate the loss. Previous work has obtained such a proposal distribution by combining a partially learned transport with annealed Langevin dynamics. However, isolated modes and other pathological properties of the annealing path imply that such proposals achieve insufficient exploration and thereby lower performance post training. To remedy this, we propose continuously tempered diffusion samplers, which leverage exploration techniques developed in the context of molecular dynamics to improve proposal distributions. Specifically, a family of distributions across different temperatures is introduced to lower energy barriers at higher temperatures and drive exploration at the lower temperature of interest. We empirically validate improved sampler performance driven by extended exploration. Code is available at https://github.com/eje24/ctds.
- Abstract(参考訳): 熱処理に基づくニューラルサンプリングは、ニューラルネットワークをトレーニングして、ソースからターゲットに補間する密度の族を輸送することで、正規化されていない分布からのサンプリングを減らそうとする。
このようなサンプルの学習段階における重要な設計選択は、損失を評価する場所を生成するための提案分布である。
従来の研究は、部分的に学習された輸送体と熱処理されたランゲヴィンダイナミクスを組み合わせることで、そのような分布を得ることができた。
しかし,アニール経路の分離モードやその他の病理特性は,これらの提案が不十分な探索を達成し,その結果,成績の低下を示唆している。
これを改善するために,分子動力学の文脈で開発された探索技術を活用して提案分布を改善する,連続的な誘電拡散サンプリング手法を提案する。
具体的には、異なる温度にまたがる分布の族を導入し、より高い温度でエネルギー障壁を低くし、低い温度で探索する。
拡張探索によるサンプリング性能の向上を実証的に検証した。
コードはhttps://github.com/eje24/ctdsで入手できる。
関連論文リスト
- Reinforced sequential Monte Carlo for amortised sampling [49.92678178064033]
我々は、最大エントロピー強化学習(MaxEnt RL)により訓練されたシーケンシャルモンテカルロ(SMC)とニューラルシーケンシャルサンプリングとの接続を述べる。
本稿では,提案関数とツイスト関数の安定な連成訓練手法と,トレーニング信号のばらつきを低減するための適応重み付け方式について述べる。
論文 参考訳(メタデータ) (2025-10-13T17:59:11Z) - Progressive Inference-Time Annealing of Diffusion Models for Sampling from Boltzmann Densities [85.83359661628575]
拡散に基づくサンプル学習のために, PITA(Progressive Inference-Time Annealing)を提案する。
PITAはボルツマン分布のアナーリングと拡散平滑化という2つの相補的手法を組み合わせたものである。
N-体粒子系、アラニンジペプチド、トリペプチドの平衡サンプリングを可能にする。
論文 参考訳(メタデータ) (2025-06-19T17:14:22Z) - Progressive Tempering Sampler with Diffusion [50.06039228068602]
本研究では, 拡散モデルを温度にわたって逐次訓練するニューラルサンプリング器を提案する。
また, 高温拡散モデルを組み合わせて低温試料を近似的に生成する手法を提案する。
本手法は,拡散型ニューラルサンプリングよりも高い精度で目標評価効率を向上する。
論文 参考訳(メタデータ) (2025-06-05T16:46:04Z) - Adaptive Destruction Processes for Diffusion Samplers [12.446080077998834]
本稿では,拡散サンプリング装置におけるトレーニング可能な破壊プロセスの課題とメリットについて考察する。
ステップ数に制限がある場合、生成過程と破壊過程の両方を訓練することで、より高速な収束とサンプリング品質の向上が期待できる。
論文 参考訳(メタデータ) (2025-06-02T11:07:27Z) - On scalable and efficient training of diffusion samplers [31.34103908109394]
データがない場合、非正規化エネルギー分布からサンプルを採取するために拡散モデルを訓練することの課題に対処する。
そこで我々は,従来の強力なサンプリング手法と拡散サンプリングを適切に調和させる,スケーラブルでサンプル効率のよいフレームワークを提案する。
本手法は,拡散サンプリングの標準ベンチマークにおける試料効率を大幅に向上し,高次元問題や実世界の分子コンホメータ生成に優れる。
論文 参考訳(メタデータ) (2025-05-26T06:16:34Z) - Enhanced Importance Sampling through Latent Space Exploration in Normalizing Flows [69.8873421870522]
重要サンプリングはモンテカルロシミュレーションで使われる稀な事象シミュレーション手法である。
正規化フローの潜在空間における提案分布を更新し,より効率的なサンプリング法を提案する。
論文 参考訳(メタデータ) (2025-01-06T21:18:02Z) - Theory on Score-Mismatched Diffusion Models and Zero-Shot Conditional Samplers [49.97755400231656]
一般のスコアミスマッチ拡散サンプリング器に対する明示的な次元依存性を持つ最初の性能保証を示す。
その結果, スコアミスマッチは, 目標分布とサンプリング分布の分布バイアスとなり, 目標分布とトレーニング分布の累積ミスマッチに比例することがわかった。
この結果は、測定ノイズに関係なく、任意の条件モデルに対するゼロショット条件付きサンプリングに直接適用することができる。
論文 参考訳(メタデータ) (2024-10-17T16:42:12Z) - Improved off-policy training of diffusion samplers [93.66433483772055]
本研究では,非正規化密度やエネルギー関数を持つ分布からサンプルを抽出する拡散モデルの訓練問題について検討する。
シミュレーションに基づく変分法や非政治手法など,拡散構造推論手法のベンチマークを行った。
我々の結果は、過去の研究の主張に疑問を投げかけながら、既存のアルゴリズムの相対的な利点を浮き彫りにした。
論文 参考訳(メタデータ) (2024-02-07T18:51:49Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。