論文の概要: Accelerated sampling using SamAdams variable timesteps and position-adaptive Langevin dynamics
- arxiv url: http://arxiv.org/abs/2606.26881v1
- Date: Thu, 25 Jun 2026 11:09:22 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-06-26 18:46:32.254905
- Title: Accelerated sampling using SamAdams variable timesteps and position-adaptive Langevin dynamics
- Title(参考訳): SamAdams可変時間ステップと位置適応ランゲヴィンダイナミクスを用いた加速サンプリング
- Abstract要約: 本稿では,2つの相補的なデバイスをベースとした高速化されたランゲヴィンに基づくサンプリング手法を提案する。
この方法は、緩和された剛性モニタを用いて、位相空間の剛性領域における有効積分ステップを自動的に縮小する。
局所的な力の方向に沿って摩擦を集中させ、正準分布を正確な不変量として保存する。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: We introduce an accelerated Langevin-based sampling method that is based on two complementary devices: \emph{SamAdams} adaptive timestepping, which automatically shrinks the effective integration step in stiff regions of phase space using a relaxed stiffness monitor, and \emph{position-adaptive Langevin} (PAL) dynamics, which concentrates friction along the local force direction while preserving the canonical distribution as the exact invariant measure. The resulting combined scheme (SA-PAL) is implemented in a palindromic integrator which requires only one force evaluation per iteration through suitable organisation of the integration steps and by exploiting the rank-one-plus-scalar structure of the PAL friction tensor. We test the method on various model problems: the Rosenbrock function, a thin entropic channel, the Mueller-Brown potential, and a Bayesian parameterisation problem with a sparsity-inducing shrinkage prior. On the Rosenbrock and Mueller-Brown potentials mixing rates are improved by 1.5-3 times compared to fixed stepsize integration. Efficiency gains of more than an order of magnitude are documented in the other examples.
- Abstract(参考訳): 緩和された剛性モニタを用いて位相空間の剛性領域における有効積分ステップを自動的に縮小する適応型タイムステッピングと、正準分布を正確な不変量として保ちながら局所的な力方向に沿って摩擦を集中するpAL(emph{position-adaptive Langevin})ダイナミックスである。
得られた組み合わせスキーム (SA-PAL) は, PAL摩擦テンソルのランク・ワン・プラス・スカラー構造を利用して, 繰り返し毎の力量評価のみを要し, パリンドロミックインテグレータに実装される。
提案手法は, ローゼンブロック関数, 薄いエントロピーチャネル, ミューラー・ブラウンポテンシャル, ベイズパラメータ化問題, および, 疎縮を先行したベイズパラメータ化問題など, 様々なモデル問題に対して検証する。
Rosenbrock と Mueller-Brown の混合速度は, 固定段差積分に比べて1.5-3倍向上する。
他の例では、1桁以上の効率向上が記録されている。
関連論文リスト
- Grokking as a Variance-Limited Phase Transition: Spectral Gating and the Epsilon-Stability Threshold [0.0]
一般化には、適応に固有のテクスタイニソトロピックな修正が必要であり、これは溶液の接空間にノイズを誘導する。
この研究は、モジュラー演算タスクにおけるAdamWのダイナミクスを分析し、一般化から記憶への遷移を制御するスペクトルゲーティングのメカニズムを明らかにする。
論文 参考訳(メタデータ) (2026-03-16T16:18:18Z) - Stability and Generalization of Push-Sum Based Decentralized Optimization over Directed Graphs [55.77845440440496]
プッシュベースの分散通信は、情報交換が非対称である可能性のある通信ネットワークの最適化を可能にする。
我々は、グラディエント・プッシュ(SGP)アルゴリズムのための統一的な一様安定性フレームワークを開発する。
重要な技術的要素は、2つの量に束縛された不均衡認識の一般化である。
論文 参考訳(メタデータ) (2026-02-24T05:32:03Z) - Adaptive Exponential Integration for Stable Gaussian Mixture Black-Box Variational Inference [12.184990052467198]
3つの重要なコンポーネントを組み合わせた、安定的で効率的なフレームワークを開発します。
我々はモンテカルロ推定の下で、ノイズフリーな設定とほぼ余剰な収束の指数収束を証明した。
マルチモーダル分布,Nealのマルチスケールファンネル,およびDarcy流に対するPDEに基づくベイズ逆問題に関する数値実験により,提案手法の有効性が示された。
論文 参考訳(メタデータ) (2026-01-21T10:39:02Z) - A Langevin sampling algorithm inspired by the Adam optimizer [0.0]
本稿では,時間スケールのLangevinダイナミクスに基づく適応段階MCMCサンプリングのためのフレームワークを提案する。
我々のアルゴリズムは実装が簡単で、任意のオフザペグの固定ステップLangevinインテグレータと簡単に組み合わせることができる。
論文 参考訳(メタデータ) (2025-04-26T12:57:57Z) - Scalable Equilibrium Sampling with Sequential Boltzmann Generators [60.00515282300297]
Boltzmannジェネレータフレームワークを2つの重要なコントリビューションで拡張する。
1つ目は、全原子カルテシアン座標で直接動作する非常に効率的なトランスフォーマーベースの正規化フローである。
特に,連続モンテカルロの連続時間変種を用いて,流れサンプルの推論時スケーリングを行う。
論文 参考訳(メタデータ) (2025-02-25T18:59:13Z) - Symmetric Mean-field Langevin Dynamics for Distributional Minimax
Problems [78.96969465641024]
平均場ランゲヴィンのダイナミクスを、対称で証明可能な収束した更新で、初めて確率分布に対する最小の最適化に拡張する。
また,時間と粒子の離散化機構について検討し,カオス結果の新たな均一時間伝播を証明した。
論文 参考訳(メタデータ) (2023-12-02T13:01:29Z) - Robust scalable initialization for Bayesian variational inference with
multi-modal Laplace approximations [0.0]
フル共分散構造を持つ変分混合は、パラメータ数による変動パラメータによる二次的な成長に苦しむ。
本稿では,変分推論のウォームスタートに使用できる初期ガウスモデル近似を構築する方法を提案する。
論文 参考訳(メタデータ) (2023-07-12T19:30:04Z) - Convergence of mean-field Langevin dynamics: Time and space
discretization, stochastic gradient, and variance reduction [49.66486092259376]
平均場ランゲヴィンダイナミクス(英: mean-field Langevin dynamics、MFLD)は、分布依存のドリフトを含むランゲヴィン力学の非線形一般化である。
近年の研究では、MFLDは測度空間で機能するエントロピー規則化された凸関数を地球規模で最小化することが示されている。
有限粒子近似,時間分散,勾配近似による誤差を考慮し,MFLDのカオスの均一時間伝播を示す枠組みを提供する。
論文 参考訳(メタデータ) (2023-06-12T16:28:11Z) - Second Order Ensemble Langevin Method for Sampling and Inverse Problems [19.22911224624543]
本稿では,ランジュバン力学のアンサンブル近似に基づくサンプリング手法を提案する。
数値計算の結果は,逆問題における数値サンプリング器の基礎としての可能性を示している。
論文 参考訳(メタデータ) (2022-08-09T02:17:22Z) - On the Convergence of Stochastic Extragradient for Bilinear Games with
Restarted Iteration Averaging [96.13485146617322]
本稿では, ステップサイズが一定であるSEG法の解析を行い, 良好な収束をもたらす手法のバリエーションを示す。
平均化で拡張した場合、SEGはナッシュ平衡に確実に収束し、スケジュールされた再起動手順を組み込むことで、その速度が確実に加速されることを証明した。
論文 参考訳(メタデータ) (2021-06-30T17:51:36Z) - Hessian-Free High-Resolution Nesterov Acceleration for Sampling [55.498092486970364]
最適化のためのNesterovのAccelerated Gradient(NAG)は、有限のステップサイズを使用する場合の連続時間制限(ノイズなしの運動的ランゲヴィン)よりも優れたパフォーマンスを持つ。
本研究は, この現象のサンプリング法について検討し, 離散化により加速勾配に基づくMCMC法が得られる拡散過程を提案する。
論文 参考訳(メタデータ) (2020-06-16T15:07:37Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。