論文の概要: On the Optimisation Landscape of Overparameterised Weighted MMD
- arxiv url: http://arxiv.org/abs/2610.19861v1
- Date: Wed, 14 Oct 2026 09:24:51 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-15 21:06:16.069178
- Title: On the Optimisation Landscape of Overparameterised Weighted MMD
- Title(参考訳): 過パラメータ重みMDの最適化景観について
- Abstract要約: 重み付き原子量測定による最大平均誤差(MMD)の最適化状況について検討した。
コンパクトに支持されたターゲット分布に対して、十分多くの粒子が任意の局所最小値が任意に小さいMDDを持つことを保証する。
- 参考スコア(独自算出の注目度): 10.953917735844648
- License: http://creativecommons.org/licenses/by-sa/4.0/
- Abstract: We study the optimisation landscape of the maximum mean discrepancy (MMD) over weighted atomic measures. For the one-dimensional Gaussian kernel, we show that, for any compactly supported target distribution, sufficiently many particles ensure that every local minimum has arbitrarily small MMD. Moreover, any stationary point whose MMD remains bounded away from zero is unstable under an unweighted gradient flow over the particle locations. These results hold both when the weights are constrained to the simplex, and when they are unconstrained but optimised at each step. When the target is itself finitely supported, we further strengthen this result: beyond an explicit particle threshold, there are no spurious local minima, and every spurious stationary point is unstable. To our knowledge, these are the first finite-particle overparameterisation guarantees of their kind for weighted MMD optimisation.
- Abstract(参考訳): 重み付き原子量に対する最大平均誤差(MMD)の最適化状況について検討した。
一次元ガウス核の場合、任意のコンパクトに支持された対象分布に対して、全ての局所最小値が任意に小さいMDDを持つことを十分に多くの粒子が保証していることが示される。
さらに、MDD が 0 から離れている任意の定常点は、粒子位置上の非重み付き勾配流の下で不安定である。
これらの結果は、重みが単純度に制約されている場合と、制限されないが各ステップで最適化されている場合の両方に当てはまる。
ターゲット自体が有限に支持されている場合、この結果をさらに強化する: 明示的な粒子しきい値を超えると、急激な局所最小値はなく、全ての急激な定常点が不安定である。
我々の知る限り、これらは、重み付けMDD最適化におけるそれらの種類に関する最初の有限粒子オーバーパラメトリゼーション保証である。
関連論文リスト
- To discretize continually: Mean shift interacting particle systems for Bayesian inference [9.150567695563067]
非正規化密度から確率分布に対する積分を近似する新しい手法を提案する。
これらの手法は、経験的分布の最適量子化のための最近のアルゴリズムと同様に、古典的な平均シフトアルゴリズムを拡張している。
マルチモーダル混合、ベイジアン階層モデル、PDE制約逆問題など、幅広いベンチマークサンプリング問題に対して、それらの性能を実証する。
論文 参考訳(メタデータ) (2026-05-13T21:48:00Z) - Shuffling-Aware Optimization for Private Vector Mean Estimation [2.4264122405649045]
我々は最近提案されたシャッフル指数を導入し、それを用いてシャッフル後のメカニズム問題を明示的な最適化問題として定式化する。
次に、シャッフル指数を用いて平均二乗誤差のミニマックス下限を定め、シャッフルを適用すれば、LDPの下で最適となるメカニズムが準最適となることを示唆する。
論文 参考訳(メタデータ) (2026-04-30T15:47:17Z) - Stationary MMD Points for Cubature [14.356142724423822]
有限点集合を用いた対象確率の近似は、基本的な重要性の問題である。
ヒルベルト空間の積分について、定常MDD点の立方体誤差はMDDよりも速く収束することを示す。
論文 参考訳(メタデータ) (2025-05-27T05:53:19Z) - Optimal Particle-based Approximation of Discrete Distributions (OPAD) [7.127829790714167]
粒子の集合に対して、ターゲット分布から(粒子をベースとした)近似のクルバック・リブラー(KL)の発散を最小限に抑える一意の重み付け機構が存在することを示す。
既存の粒子法で既に計算されている値に基づいて最適な重みを求めることができることを示す。
論文 参考訳(メタデータ) (2024-11-30T17:36:59Z) - Targeted Separation and Convergence with Kernel Discrepancies [61.973643031360254]
カーネルベースの不一致測度は、(i)ターゲットPを他の確率測度から分離するか、(ii)Pへの弱収束を制御する必要がある。
本稿では, (i) と (ii) を保証するのに十分な,必要な新しい条件を導出する。
可分距離空間上のMDDに対して、ボヒナー埋め込み可測度を分離するカーネルを特徴づけ、すべての測度を非有界カーネルと分離するための単純な条件を導入する。
論文 参考訳(メタデータ) (2022-09-26T16:41:16Z) - Optimal Scaling for Locally Balanced Proposals in Discrete Spaces [65.14092237705476]
離散空間におけるMetropolis-Hastings (M-H) アルゴリズムの効率は、対象分布に依存しない受容率によって特徴づけられることを示す。
最適受容率の知識は、連続空間におけるステップサイズ制御と直接的に類似して、離散空間における提案分布の近傍サイズを自動的に調整することを可能にする。
論文 参考訳(メタデータ) (2022-09-16T22:09:53Z) - A Note on Optimizing Distributions using Kernel Mean Embeddings [94.96262888797257]
カーネル平均埋め込みは、その無限次元平均埋め込みによる確率測度を表す。
カーネルが特徴的である場合、カーネルの総和密度を持つ分布は密度が高いことを示す。
有限サンプル設定でそのような分布を最適化するアルゴリズムを提供する。
論文 参考訳(メタデータ) (2021-06-18T08:33:45Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。