論文の概要: Difference of Convex Programming in the Wasserstein Space with Applications to MMD Optimization
- arxiv url: http://arxiv.org/abs/2606.27767v1
- Date: Fri, 26 Jun 2026 06:53:03 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-06-29 18:24:25.398658
- Title: Difference of Convex Programming in the Wasserstein Space with Applications to MMD Optimization
- Title（参考訳）: ワッサーシュタイン空間における凸プログラミングの差異とMDD最適化への応用
- Abstract要約: 本稿では、ワッサーシュタイン空間上の目的のクラスを示す。
凸仮定の下では、直流分解の勾配に沿ってほぼ静止している。
本研究の主目的は,最大離散性(MMD)とエネルギー(ED)方式である。
- 参考スコア（独自算出の注目度）: 13.544454495712037
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Optimizing functionals over the space of probability measures is now ubiquitous in machine learning. A widely used approach is to perform the optimization directly over the Wasserstein space, but many objective functionals of practical interest are non-convex along Wasserstein geodesics, making the analysis of standard first-order methods challenging. In this work, we study a class of objectives over the Wasserstein space that admit a difference-of-convex (DC) decomposition and we lift the classical convex-concave procedure (CCCP) to this setting. Under smoothness and strong convexity assumptions on the convex components of the decomposition, we prove almost stationarity along the iterates of the resulting algorithm. Our main focus is on the Maximum Mean Discrepancy (MMD) and the Energy Distance (ED) functionals, for which we develop explicit Wasserstein DC decompositions, and establish local convergence of the scheme under mild assumptions. Empirically, we show that well-chosen DC decompositions yield faster and more stable convergence than Wasserstein gradient descent on these MMD objectives.
- Abstract（参考訳）: 確率測度空間上の関数の最適化は、機械学習において今や至るところで行われている。
広く使われているアプローチは、ワッサーシュタイン空間上で直接最適化を行うことであるが、実際的な関心を持つ多くの目的関数はワッサーシュタイン測地線に沿った非凸であり、標準的な一階法の解析は困難である。
本研究では,コンベックス(DC)分解を許容するワッサーシュタイン空間上の目的のクラスについて検討し,古典的コンベックス・コンケーブ手順(CCCP)をこの設定に引き上げる。
分解の凸成分に対する滑らかさと強い凸性仮定の下で、結果のアルゴリズムの繰り返しに沿ってほぼ定常性を証明した。
我々の主な焦点は最大平均離散性(MMD)とエネルギー距離(ED)関数であり、これはワッサーシュタイン直流分解を明示的に発展させ、軽度の仮定の下でスキームの局所収束を確立するものである。
実験により, 直流分解はこれらのMD目標に対するワッサーシュタイン勾配降下よりも早く, より安定に収束することを示した。
関連論文リスト
- Random Coordinate Descent on the Wasserstein Space of Probability Measures [1.5888343554854376]
Wasserstein-2幾何によって与えられる確率測度空間の最適化は、現代の機械学習と平均場モデリングの中心である。
我々は、ランダムワッサーシュタイン座標系(RWCD)とランダムワッサースタイン座標系(RWCP)の両方を導入し、ワッサーシュタイン多様体に特化して座標降下フレームワークを提案する。
空調エネルギーに関する数値実験により、我々のフレームワークが従来のフルグレード法よりも大幅に高速化できることが示されている。
論文 参考訳（メタデータ） (2026-04-02T04:36:56Z) - Hessian-guided Perturbed Wasserstein Gradient Flows for Escaping Saddle Points [54.06226763868876]
ワッサーシュタインフロー (WGF) は測度空間上で最適化を行う一般的な方法である。
PWGFは一般の非目的の観点で大域的最適に収束することを示す。
論文 参考訳（メタデータ） (2025-09-21T08:14:20Z) - Wasserstein Distributionally Robust Regret Optimization [0.0]
We provide a systematic analysis of Wasserstein DRRO, paralleling known results for Wasserstein DRO。
滑らかさと規則性条件下では、ワッサーシュタインDRROは経験的リスク最小化(Empirical Risk Minimization:ERM)と1次項に一致することを示す。
2つの1次元凹関数を最大化することにより、後悔を計算できることが示される。
論文 参考訳（メタデータ） (2025-04-15T01:47:11Z) - Enhancing Distributional Robustness in Principal Component Analysis by Wasserstein Distances [7.695578200868269]
主成分分析(PCA)の分布ロバスト最適化(DRO)モデルについて,基礎となる確率分布の不確実性を考慮する。
結果の定式化は非滑らかな制約付き min-max 最適化問題につながり、曖昧性集合はタイプ2$ワッサーシュタイン距離で分布の不確かさを捉える。
この明示的な特徴付けは、元の DRO モデルを、複雑な非滑らかな項を持つスティーフェル多様体上の最小化問題に同値に再構成する。
論文 参考訳（メタデータ） (2025-03-04T11:00:08Z) - Continuous-time Riemannian SGD and SVRG Flows on Wasserstein Probabilistic Space [21.12668895845275]
我々は、フロー上の勾配を勾配降下に拡張することにより、ワッサーシュタイン空間における連続最適化手法の族を拡張する。
ワッサーシュタイン空間の性質を利用して微分方程式(SDE)を構築し、対応する離散ユークリッド力学を近似する。
最後に、提案した流れの収束速度を確立し、ユークリッド設定で知られている流れと整合する。
論文 参考訳（メタデータ） (2024-01-24T15:35:44Z) - Mean-Square Analysis with An Application to Optimal Dimension Dependence
of Langevin Monte Carlo [60.785586069299356]
この研究は、2-ワッサーシュタイン距離におけるサンプリング誤差の非同相解析のための一般的な枠組みを提供する。
我々の理論解析は数値実験によってさらに検証される。
論文 参考訳（メタデータ） (2021-09-08T18:00:05Z) - Large-Scale Wasserstein Gradient Flows [84.73670288608025]
ワッサーシュタイン勾配流を近似するスケーラブルなスキームを導入する。
我々のアプローチは、JKOステップを識別するために、入力ニューラルネットワーク(ICNN)に依存しています。
その結果、勾配拡散の各ステップで測定値からサンプリングし、その密度を計算することができる。
論文 参考訳（メタデータ） (2021-06-01T19:21:48Z) - Zeroth-Order Hybrid Gradient Descent: Towards A Principled Black-Box
Optimization Framework [100.36569795440889]
この作業は、一階情報を必要としない零次最適化(ZO)の反復である。
座標重要度サンプリングにおける優雅な設計により,ZO最適化法は複雑度と関数クエリコストの両面において効率的であることを示す。
論文 参考訳（メタデータ） (2020-12-21T17:29:58Z) - Projection Robust Wasserstein Distance and Riemannian Optimization [107.93250306339694]
プロジェクション・ソリッドスタイン(PRW)は、ワッサーシュタイン・プロジェクション(WPP)のロバストな変種であることを示す。
本稿では,PRW距離の計算への第一歩として,その理論と実データに関する実験の関連について述べる。
論文 参考訳（メタデータ） (2020-06-12T20:40:22Z) - The Wasserstein Proximal Gradient Algorithm [23.143814848127295]
ワッサーシュタイン勾配流は、確率測度の空間上の目的関数を最小化するために最も急勾配の曲線を定義する連続時間力学である。
目的関数が滑らかで非滑らかな空間的凸項の和である場合に対処できるフォワードバックワード(FB)離散化スキームを提案する。
論文 参考訳（メタデータ） (2020-02-07T22:19:32Z) - A Near-Optimal Gradient Flow for Learning Neural Energy-Based Models [93.24030378630175]
学習エネルギーベースモデル(EBM)の勾配流を最適化する新しい数値スキームを提案する。
フォッカー・プランク方程式から大域相対エントロピーの2階ワッサーシュタイン勾配流を導出する。
既存のスキームと比較して、ワッサーシュタイン勾配流は実データ密度を近似するより滑らかで近似的な数値スキームである。
論文 参考訳（メタデータ） (2019-10-31T02:26:20Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。