論文の概要: Mirror Mean-Field Langevin Dynamics
- arxiv url: http://arxiv.org/abs/2505.02621v1
- Date: Mon, 05 May 2025 12:49:42 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-05-06 18:49:35.676696
- Title: Mirror Mean-Field Langevin Dynamics
- Title(参考訳): ミラー平均ランゲヴィンダイナミクス
- Authors: Anming Gu, Juno Kim,
- Abstract要約: 固有平均場ランゲヴィンダイナミクス(MMFLD)を提案し,$mathbbRd$の凸部分集合に制約された確率測度の最適化について検討した。
我々は,一様対数ソボレフ不等式による連続MMFLDの線形収束保証と,その時間および粒子分散のカオス結果を一様に伝播する。
- 参考スコア(独自算出の注目度): 0.09208007322096533
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: The mean-field Langevin dynamics (MFLD) minimizes an entropy-regularized nonlinear convex functional on the Wasserstein space over $\mathbb{R}^d$, and has gained attention recently as a model for the gradient descent dynamics of interacting particle systems such as infinite-width two-layer neural networks. However, many problems of interest have constrained domains, which are not solved by existing mean-field algorithms due to the global diffusion term. We study the optimization of probability measures constrained to a convex subset of $\mathbb{R}^d$ by proposing the \emph{mirror mean-field Langevin dynamics} (MMFLD), an extension of MFLD to the mirror Langevin framework. We obtain linear convergence guarantees for the continuous MMFLD via a uniform log-Sobolev inequality, and uniform-in-time propagation of chaos results for its time- and particle-discretized counterpart.
- Abstract(参考訳): 平均場ランゲヴィンダイナミクス(MFLD)は、ワッサーシュタイン空間上のエントロピー規則化された非線形凸関数を$\mathbb{R}^d$で最小化し、無限幅2層ニューラルネットワークのような相互作用する粒子系の勾配勾配ダイナミクスのモデルとして近年注目を集めている。
しかし、関心のある問題の多くは領域を制約しており、これはグローバル拡散項によって既存の平均場アルゴリズムでは解けない。
我々は,MFLD のミラーランゲヴィンフレームワークへの拡張である \emph{mirror mean-field Langevin dynamics} (MMFLD) を提案し,$\mathbb{R}^d$ の凸部分集合に制約された確率測度の最適化について検討した。
我々は,一様対数ソボレフ不等式による連続MMFLDの線形収束保証と,その時間および粒子分散のカオス結果を一様に伝播する。
関連論文リスト
- Improved Particle Approximation Error for Mean Field Neural Networks [9.817855108627452]
MFLD(Mean-field Langevin dynamics)は、確率分布の空間上で定義されるエントロピー規則化された非線形凸関数を最小化する。
最近の研究は、MFLDにおけるカオスの時間的一様伝播を実証している。
粒子近似誤差における対数的ソボレフ不等式(LSI)定数の依存性を改善する。
論文 参考訳(メタデータ) (2024-05-24T17:59:06Z) - Symmetric Mean-field Langevin Dynamics for Distributional Minimax
Problems [78.96969465641024]
平均場ランゲヴィンのダイナミクスを、対称で証明可能な収束した更新で、初めて確率分布に対する最小の最適化に拡張する。
また,時間と粒子の離散化機構について検討し,カオス結果の新たな均一時間伝播を証明した。
論文 参考訳(メタデータ) (2023-12-02T13:01:29Z) - Convergence of mean-field Langevin dynamics: Time and space
discretization, stochastic gradient, and variance reduction [49.66486092259376]
平均場ランゲヴィンダイナミクス(英: mean-field Langevin dynamics、MFLD)は、分布依存のドリフトを含むランゲヴィン力学の非線形一般化である。
近年の研究では、MFLDは測度空間で機能するエントロピー規則化された凸関数を地球規模で最小化することが示されている。
有限粒子近似,時間分散,勾配近似による誤差を考慮し,MFLDのカオスの均一時間伝播を示す枠組みを提供する。
論文 参考訳(メタデータ) (2023-06-12T16:28:11Z) - A Functional-Space Mean-Field Theory of Partially-Trained Three-Layer
Neural Networks [49.870593940818715]
本稿では,第1層がランダムで固定された3層NNモデルの無限幅限界について検討する。
我々の理論はモデルの異なるスケーリング選択に対応しており、結果としてMF制限の2つの条件が顕著な振舞いを示す。
論文 参考訳(メタデータ) (2022-10-28T17:26:27Z) - Convex Analysis of the Mean Field Langevin Dynamics [49.66486092259375]
平均場ランゲヴィン力学の収束速度解析について述べる。
ダイナミックスに付随する$p_q$により、凸最適化において古典的な結果と平行な収束理論を開発できる。
論文 参考訳(メタデータ) (2022-01-25T17:13:56Z) - Fast Mixing of Multi-Scale Langevin Dynamics under the Manifold
Hypothesis [85.65870661645823]
我々は,Langevin次元のアルゴリズムによって,より小さなデータに依存する時間を大幅に短縮できることを示す。
第二に、サンプリング空間の高さはランゲヴィン・ダイナミクスの性能を著しく損なう。
論文 参考訳(メタデータ) (2020-06-19T14:52:40Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。