論文の概要: Dimension-Uniform Discretization Analysis of Preconditioned Annealed Langevin Dynamics for Multimodal Gaussian Mixtures
- arxiv url: http://arxiv.org/abs/2605.16473v1
- Date: Fri, 15 May 2026 15:18:32 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-05-19 17:57:46.502509
- Title: Dimension-Uniform Discretization Analysis of Preconditioned Annealed Langevin Dynamics for Multimodal Gaussian Mixtures
- Title(参考訳): 多モードガウス混合に対するプレコンディショニングアナールランゲヴィンダイナミクスの次元-均一離散化解析
- Authors: Lorenzo Baldassari, Josselin Garnier, Knut Solna, Maarten V. de Hoop,
- Abstract要約: 離散化はそのような誤差の典型的な源であり、適切なスペクトル崩壊を伴うプレコンディショニングは、それらの蓄積を制御する1つの方法である。
本研究では, ガウス混合体に適用したプレコンディションアニールランゲヴィンダイナミクス(ALD)について検討する。
- 参考スコア(独自算出の注目度): 10.631439631816166
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Obtaining stable diffusion-based samplers in high- and infinite-dimensional settings is challenging because errors can accumulate across high-frequency coordinates and make the dynamics unstable under refinement of the finite-dimensional approximation of the underlying function-space problem. Discretization is a typical source of such errors, and preconditioning with a suitable spectral decay is one way to control their accumulation. In this paper, we study this problem for preconditioned annealed Langevin dynamics (ALD) applied to Gaussian mixtures. We first show that Euler-Maruyama (EM) discretization, by treating the stiff linear part of the annealed score with a forward Euler step, imposes a stability constraint coupling the preconditioner with the annealed covariance scale. Together with the conditions ensuring dimension-uniform control of the annealed dynamics, this constraint forces the initial smoothed law to remain uniformly close to the target across dimensions. We then consider an exponential-integrator scheme that integrates the stiff linear part of the annealed score exactly. Under explicit spectral summability conditions coupling the smoothing covariance, the component covariance spectra, and the preconditioner, we prove a dimension-uniform Kullback-Leibler (KL) bound for this scheme. This bound can be made arbitrarily small, uniformly in dimension, by allowing enough time for annealing and then refining the time mesh accordingly. Importantly, these conditions allow regimes in which the KL divergence between the target and the initial smoothed law diverges with dimension, showing that the restrictions imposed by EM are scheme-dependent rather than intrinsic to ALD.
- Abstract(参考訳): 高次元および無限次元の環境下で安定な拡散型サンプリング器を持つことは、高周波数座標に誤差が蓄積され、基礎となる関数空間問題の有限次元近似の洗練の下で力学が不安定になるため、困難である。
離散化はそのような誤差の典型的な源であり、適切なスペクトル崩壊を伴うプレコンディショニングは、それらの蓄積を制御する1つの方法である。
本稿では,ガウス混合体に適用した予条件付き焼鈍ランゲヴィンダイナミクス(ALD)について検討する。
まず, 熱処理したスコアの剛性線形部分を前向きのオイラーステップで処理することにより, 予条件と熱処理した共分散スケールを結合する安定性の制約を課すことにより, エウラー・丸山(EM)の離散化を導出する。
この制約は、アニール力学の次元一様制御を保証する条件とともに、初期滑らかな法則を次元にわたってターゲットに均一に近づけるように強制する。
次に、焼鈍したスコアの硬い線形部分を正確に積分する指数積分器スキームを考える。
滑らかな共分散、成分共分散スペクトル、プレコンディショナーを結合した明示的なスペクトル要約性条件の下では、このスキームに対して次元一様カルバック・リーブラ(KL)が有界であることが証明される。
この境界は、アニールに十分な時間を与え、それに応じて時間メッシュを精製することで、任意に小さく、一様にすることができる。
重要なことは、これらの条件により、ターゲットと初期滑らかな法則の間のKLのばらつきが次元にばらつき、EMによって課される制限がALDに固有のものではなく、スキーム依存であることが示される。
関連論文リスト
- Homogenized Transformers [5.290251602267728]
重みを層や頭部で独立に再サンプリングする多頭部自己注意のランダムモデルについて検討した。
この力学系は, 深さ, 残留段数, および頭部の個数の適切な関節スケーリングの下では, 非自明な限界を許容する。
論文 参考訳(メタデータ) (2026-04-02T12:39:27Z) - Stability and Generalization of Push-Sum Based Decentralized Optimization over Directed Graphs [55.77845440440496]
プッシュベースの分散通信は、情報交換が非対称である可能性のある通信ネットワークの最適化を可能にする。
我々は、グラディエント・プッシュ(SGP)アルゴリズムのための統一的な一様安定性フレームワークを開発する。
重要な技術的要素は、2つの量に束縛された不均衡認識の一般化である。
論文 参考訳(メタデータ) (2026-02-24T05:32:03Z) - Dimension-Free Multimodal Sampling via Preconditioned Annealed Langevin Dynamics [10.631439631816166]
Annealed Langevin dynamics (ALD) は古典的なランゲヴィンの代替として広く用いられている。
我々は,マルチモーダル目標に対する連続時間ALDの一様次元解析を提供することにより,このギャップを埋める手助けをする。
論文 参考訳(メタデータ) (2026-02-01T21:37:33Z) - Adaptive Annealed Importance Sampling with Constant Rate Progress [68.8204255655161]
Annealed Importance Smpling (AIS)は、抽出可能な分布から重み付けされたサンプルを合成する。
本稿では,alpha$-divergencesに対する定数レートAISアルゴリズムとその効率的な実装を提案する。
論文 参考訳(メタデータ) (2023-06-27T08:15:28Z) - Convergence of mean-field Langevin dynamics: Time and space
discretization, stochastic gradient, and variance reduction [49.66486092259376]
平均場ランゲヴィンダイナミクス(英: mean-field Langevin dynamics、MFLD)は、分布依存のドリフトを含むランゲヴィン力学の非線形一般化である。
近年の研究では、MFLDは測度空間で機能するエントロピー規則化された凸関数を地球規模で最小化することが示されている。
有限粒子近似,時間分散,勾配近似による誤差を考慮し,MFLDのカオスの均一時間伝播を示す枠組みを提供する。
論文 参考訳(メタデータ) (2023-06-12T16:28:11Z) - Optimal control for state preparation in two-qubit open quantum systems
driven by coherent and incoherent controls via GRAPE approach [77.34726150561087]
我々は、コヒーレントかつ非コヒーレントな時間依存制御によって駆動される2つの量子ビットのモデルを考える。
系の力学はゴリーニ=コサコフスキー=スダルシャン=リンドブラッドのマスター方程式によって支配される。
最適化制御の下で, フォン・ノイマンエントロピー, 純度, および1ビット還元密度行列の進化について検討した。
論文 参考訳(メタデータ) (2022-11-04T15:20:18Z) - On optimization of coherent and incoherent controls for two-level
quantum systems [77.34726150561087]
本稿では、閉かつオープンな2レベル量子系の制御問題について考察する。
閉系の力学は、コヒーレント制御を持つシュリンガー方程式によって支配される。
開系の力学はゴリーニ=コサコフスキー=スダルシャン=リンドブラッドのマスター方程式によって支配される。
論文 参考訳(メタデータ) (2022-05-05T09:08:03Z) - On the Convergence of Stochastic Extragradient for Bilinear Games with
Restarted Iteration Averaging [96.13485146617322]
本稿では, ステップサイズが一定であるSEG法の解析を行い, 良好な収束をもたらす手法のバリエーションを示す。
平均化で拡張した場合、SEGはナッシュ平衡に確実に収束し、スケジュールされた再起動手順を組み込むことで、その速度が確実に加速されることを証明した。
論文 参考訳(メタデータ) (2021-06-30T17:51:36Z) - Towards quantum simulation of Sachdev-Ye-Kitaev model [5.931069258860319]
我々は,Sachdev-Ye-Kitaevモデル(SYK)の簡易バージョンについて,正確な対角化による実相互作用について検討した。
分離分離を増加させることで、カオス状態から可積分状態への量子相転移が観察される。
論文 参考訳(メタデータ) (2020-03-03T14:18:07Z) - Exactly Thermalised Quantum Dynamics of the Spin-Boson Model coupled to
a Dissipative Environment [0.0]
非マルコフ調和環境に結合した、正確に熱化されたオープン量子系の力学を記述する。
開系密度行列のトレースの数値的ばらつきを低減するために, 競合するESLN変異体を多数開発する。
固定ハミルトニアンの下での進化を考察し、この系が長い時間で正しい正準平衡状態に留まっているか、あるいは接近していることを示す。
論文 参考訳(メタデータ) (2020-02-18T16:30:14Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。