論文の概要: Dimension-free regimes for unadjusted Langevin in ridge-separable models: A subspace robust Wasserstein analysis
- arxiv url: http://arxiv.org/abs/2610.31431v1
- Date: Thu, 22 Oct 2026 15:30:22 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-24 02:08:44.425776
- Title: Dimension-free regimes for unadjusted Langevin in ridge-separable models: A subspace robust Wasserstein analysis
- Title(参考訳): 尾根分離モデルにおける非調整ランゲヴィンの次元自由状態:部分空間ロバストなワッサーシュタイン解析
- Abstract要約: 我々は、平均と任意の低次元の辺りを制御する部分空間ロバストなワッサーシュタイン距離のバイアスを分析する。
I.d.データで形成される隆起分離電位について,ベル形状の混合プロファイルを示す高確率境界を証明した。
- 参考スコア(独自算出の注目度): 1.2043574473965317
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: The Unadjusted Langevin Algorithm (ULA) is widely used for high-dimensional Bayesian inference. Classical analyses in Wasserstein-2 distance predict an asymptotic bias and a mixing time that grow with dimension, but this metric is stronger than necessary for many statistical tasks. We instead analyze the bias in subspace robust Wasserstein distance, which controls the mean and arbitrary low-dimensional marginals and is therefore well suited to observables typically estimated in practice. For ridge-separable potentials formed with i.i.d. data, we prove high-probability bounds showing a bell-shaped mixing profile as the number of data points $N$ varies relative to the dimension $d$. In the overparameterized regime, the effective dimension is the rank $N$ of the data-dependent perturbation, leading to complexity depending on $N$ rather than $d$. In the large-sample regime, Gaussian-perturbation estimates yield dimension-free complexity once $N$ is sufficiently large. In contrast, near the proportional regime $\asymp d$, we prove that dimension-free guarantees are impossible in general.
- Abstract(参考訳): Unadjusted Langevin Algorithm (ULA) はハイ次元ベイズ推論に広く用いられている。
Wasserstein-2 距離の古典的な分析は、漸近バイアスと次元とともに成長する混合時間を予測するが、多くの統計的なタスクで必要とされるよりも強い。
代わりに、平均および任意の低次元境界を制御できる部分空間ロバストなワッサーシュタイン距離のバイアスを分析し、そのため、実際に推定される観測値に適している。
I.d.データで形成される隆起分離ポテンシャルに対しては、次元$d$に対してN$の値が変化するため、ベル形状の混合プロファイルを示す高確率境界が証明される。
過度にパラメータ化された状態では、有効次元はデータ依存の摂動のランク$N$であり、$d$ではなく$N$に依存する複雑さをもたらす。
大きなサンプル状態では、ガウス摂動は、$N$が十分に大きいとき、次元自由な複雑性をもたらすと見積もる。
対照的に、比例的レギュレーション $\asymp d$ の近くで、次元自由保証は一般に不可能であることを示す。
関連論文リスト
- Minimax Lower Bound for Estimating Diffusion-based Local Intrinsic Dimension [2.5556158622876195]
FLIPDを基盤とした有限スケール関数関数関数の推定について検討した。
モデルクラス上で一様に、有限スケールの体は、少なくとも$O(2)$の多様体次元$d$と異なることを示す。
次に、この有限スケール場を$n$観測から推定するために、$(nd)-1$のミニマックス下界を確立する。
論文 参考訳(メタデータ) (2026-09-04T07:18:53Z) - Provably Adaptive Linear Approximation for the Shapley Value and Beyond [73.0940890296463]
基本的で長期にわたる課題は、その効率的な近似である。
一般に用いられるすべての半値に対して$P(|hatboldsymbol-boldsymbol|_2geq)leq$を必要とする線形空間アルゴリズムを開発する。
本アルゴリズムは,各ユーティリティ関数の平均二乗誤差の明示的最小化を可能にする。
論文 参考訳(メタデータ) (2026-04-09T16:38:14Z) - Generalization Properties of Score-matching Diffusion Models for Intrinsically Low-dimensional Data [32.72306410557258]
有限個のサンプルから未知分布の$$を学習するためのスコアベース拡散モデルの統計的収束について検討する。
以上の結果から,拡散モデルがデータ固有の幾何学に自然に適応していることが示唆された。
我々の理論は, 拡散モデルの解析を, GANと最適輸送で確立された急激なミニマックス速度で橋渡しするものである。
論文 参考訳(メタデータ) (2026-03-04T03:59:02Z) - Dimension-Independent Convergence of Underdamped Langevin Monte Carlo in KL Divergence [50.719298242863744]
Underdamped Langevin dynamics (ULD) は Gibbs 分布の$propto e-V$ に広く使われているサンプルである。
離散化LDDにおける最初の次元自由なKL分散境界を証明した。
論文 参考訳(メタデータ) (2026-03-02T22:14:38Z) - Convergence of Unadjusted Langevin in High Dimensions: Delocalization of Bias [21.64772960240025]
問題の次元が$d$になるにつれて、所望の誤差内で収束を保証するのに必要なイテレーションの数が増加することを示す。
私たちが取り組んだ重要な技術的課題は、収束を測定するための$W_2,ellinfty$メートル法に一段階の縮約性がないことである。
論文 参考訳(メタデータ) (2024-08-20T01:24:54Z) - Learning with Norm Constrained, Over-parameterized, Two-layer Neural Networks [54.177130905659155]
近年の研究では、再生カーネルヒルベルト空間(RKHS)がニューラルネットワークによる関数のモデル化に適した空間ではないことが示されている。
本稿では,有界ノルムを持つオーバーパラメータ化された2層ニューラルネットワークに適した関数空間について検討する。
論文 参考訳(メタデータ) (2024-04-29T15:04:07Z) - Effective Minkowski Dimension of Deep Nonparametric Regression: Function
Approximation and Statistical Theories [70.90012822736988]
ディープ非パラメトリック回帰に関する既存の理論は、入力データが低次元多様体上にある場合、ディープニューラルネットワークは本質的なデータ構造に適応できることを示した。
本稿では,$mathcalS$で表される$mathbbRd$のサブセットに入力データが集中するという緩和された仮定を導入する。
論文 参考訳(メタデータ) (2023-06-26T17:13:31Z) - On Projection Robust Optimal Transport: Sample Complexity and Model
Misspecification [101.0377583883137]
射影ロバスト(PR)OTは、2つの測度の間のOTコストを最大化するために、射影可能な$k$次元部分空間を選択する。
私たちの最初の貢献は、PRワッサーシュタイン距離のいくつかの基本的な統計的性質を確立することである。
次に、部分空間を最適化するのではなく平均化することにより、PRW距離の代替として積分PRワッサーシュタイン距離(IPRW)を提案する。
論文 参考訳(メタデータ) (2020-06-22T14:35:33Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。