論文の概要: On the Wasserstein Gradient Flow Interpretation of Drifting Models
- arxiv url: http://arxiv.org/abs/2605.05118v1
- Date: Wed, 06 May 2026 16:48:46 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-05-07 18:41:07.945087
- Title: On the Wasserstein Gradient Flow Interpretation of Drifting Models
- Title(参考訳): 漂流モデルのワッサーシュタイン勾配流解釈について
- Authors: Arthur Gretton, Li Kevin Wenliang, Alexandre Galashov, James Thornton, Valentin De Bortoli, Arnaud Doucet,
- Abstract要約: 最近、Deng et al. (2026) は、生成タスクのための新しいフレームワークである、Drifting (GMD) による生成モデリングを提案した。
本稿では、WGF(Wasserstein Gradient Flows)のレンズによるGMDの分析、すなわち確率測度空間における関数の最も急降下経路について述べる。
- 参考スコア(独自算出の注目度): 82.3193475501435
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Recently, Deng et al. (2026) proposed Generative Modeling via Drifting (GMD), a novel framework for generative tasks. This note presents an analysis of GMD through the lens of Wasserstein Gradient Flows (WGF), i.e., the path of steepest descent for a functional in the space of probability measures, equipped with the geometry of optimal transport. Unlike previous WGF-based contributions, GMD can be thought of as directly targeting a fixed point of a specific WGF flow. We demonstrate three main results: first, that one algorithm proposed by Deng et al. (2026) corresponds to finding the limiting point of a WGF on the KL divergence, with Parzen smoothing on the densities. Second, that the algorithm actually implemented by Deng et al. (2026) corresponds to a different procedure, which bears some resemblance to the fixed point of a WGF on the Sinkhorn divergence, but lacks certain desirable properties of the latter. Third, the same same idea can be extended to the limiting point of other WGFs, including the Maximum Mean Discrepancy (MMD), the sliced Wasserstein distance, and GAN critic functions.
- Abstract(参考訳): 最近、Deng et al (2026) は、生成タスクのための新しいフレームワークである、Drifting (GMD) による生成モデリングを提案した。
本稿では、WGF(Wasserstein Gradient Flows)のレンズによるGMDの解析、すなわち、最適輸送の幾何学を備えた確率測度空間における関数の最も急降下経路について述べる。
以前のWGFベースのコントリビューションとは異なり、GMDは特定のWGFフローの固定点を直接ターゲットとすることができる。
まず、Deng et al (2026) によって提案された1つのアルゴリズムは、KL の発散における WGF の極限点の発見に対応し、Parzen は密度を滑らかにする。
第二に、Deng et al (2026) によって実際に実装されたアルゴリズムは、シンクホーンの発散における WGF の固定点に少し似ているが、後者の望ましい性質を欠いている別の手順に対応する。
第三に、同じ考えを他のWGFの極限点にまで拡張することができる: 最大平均離散性(MMD)、スライスされたワッサーシュタイン距離、GAN批判関数などである。
関連論文リスト
- Gradient Flow Drifting: Generative Modeling via Wasserstein Gradient Flows of KDE-Approximated Divergences [1.7415937218905126]
我々は、最近提案されたドリフトモデルと、カーネル密度推定(KDE)近似の下での前方KL分散のワッサーシュタイン勾配流の等価性を証明した。
我々は、簡潔な識別可能性の証明と、理論的に根拠付けられた混合分散戦略を提供する。
論文 参考訳(メタデータ) (2026-03-11T09:48:42Z) - Rod Flow: A Continuous-Time Model for Gradient Descent at the Edge of Stability [9.11122093402205]
大きなステップサイズの勾配降下は、勾配流からしばしば遠ざかる。
Cohenらによって提唱された「中心流」は、GDダイナミクスの正確な近似を提供する。
簡単な玩具の例としては,GDのダイナミックスをよりよく捉えたRod Flowを提案する。
論文 参考訳(メタデータ) (2026-02-01T23:10:44Z) - An operator splitting analysis of Wasserstein--Fisher--Rao gradient flows [0.0]
Wasserstein-Fisher-Rao(WFR)勾配流は、最近強力なサンプリングツールとして提案されている。
ステップサイズと演算子順序の規則的な選択により、分割スキームは正確なWFRフローよりも高速に目標分布に収束できることを示す。
この目標に向けてのステップとして、WFR勾配流は対数凹凸を保ち、WFRに対する最初の鋭い崩壊バウンドを得ることを示す。
論文 参考訳(メタデータ) (2025-11-22T13:37:53Z) - Hessian-guided Perturbed Wasserstein Gradient Flows for Escaping Saddle Points [54.06226763868876]
ワッサーシュタインフロー (WGF) は測度空間上で最適化を行う一般的な方法である。
PWGFは一般の非目的の観点で大域的最適に収束することを示す。
論文 参考訳(メタデータ) (2025-09-21T08:14:20Z) - On the Wasserstein Convergence and Straightness of Rectified Flow [54.580605276017096]
Rectified Flow (RF) は、ノイズからデータへの直流軌跡の学習を目的とした生成モデルである。
RFのサンプリング分布とターゲット分布とのワッサーシュタイン距離に関する理論的解析を行った。
本稿では,従来の経験的知見と一致した1-RFの特異性と直線性を保証する一般的な条件について述べる。
論文 参考訳(メタデータ) (2024-10-19T02:36:11Z) - From Gradient Flow on Population Loss to Learning with Stochastic
Gradient Descent [50.4531316289086]
SGD(Gradient Descent)は、大規模非ルートモデルの学習方法である。
集団損失のGFが収束すると仮定して、総合的な条件 SGD が収束する。
我々は、凸損失のような古典的な設定だけでなく、Retrieval Matrix sq-rootのようなより複雑な問題に対してもGD/SGDを統一的に解析する。
論文 参考訳(メタデータ) (2022-10-13T03:55:04Z) - Mean-field Variational Inference via Wasserstein Gradient Flow [8.05603983337769]
平均場(MF)近似のような変分推論は、効率的な計算のためにある種の共役構造を必要とする。
We introduced a general computer framework to implement MFal inference for Bayesian model with or without latent variables, using the Wasserstein gradient flow (WGF)。
本稿では,ニューラルネットワークを用いた制約のない関数近似手法を提案する。
論文 参考訳(メタデータ) (2022-07-17T04:05:32Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。