論文の概要: No-Regret Generative Modeling via Parabolic Monge-Ampère PDE

• arxiv url: http://arxiv.org/abs/2504.09279v1
• Date: Sat, 12 Apr 2025 16:51:02 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-04-15 16:53:43.096059
• Title: No-Regret Generative Modeling via Parabolic Monge-Ampère PDE
• Title（参考訳）: Parabolic Monge-Ampère PDEによる非線形生成モデリング
• Authors: Nabarun Deb, Tengyuan Liang,
• Abstract要約: 離散化パラボリックモンジアンペアPDEに基づく新しい生成モデリングフレームワークを提案する。 非線形解析のレンズによる生成モデルの理論的保証を確立する。 技術的貢献として、放物型モンジアンペアPDEに合わせた新しい進化的変分不等式を導出する。
• 参考スコア（独自算出の注目度）: 8.006362366562936
• License:
• Abstract: We introduce a novel generative modeling framework based on a discretized parabolic Monge-Amp\`ere PDE, which emerges as a continuous limit of the Sinkhorn algorithm commonly used in optimal transport. Our method performs iterative refinement in the space of Brenier maps using a mirror gradient descent step. We establish theoretical guarantees for generative modeling through the lens of no-regret analysis, demonstrating that the iterates converge to the optimal Brenier map under a variety of step-size schedules. As a technical contribution, we derive a new Evolution Variational Inequality tailored to the parabolic Monge-Amp\`ere PDE, connecting geometry, transportation cost, and regret. Our framework accommodates non-log-concave target distributions, constructs an optimal sampling process via the Brenier map, and integrates favorable learning techniques from generative adversarial networks and score-based diffusion models. As direct applications, we illustrate how our theory paves new pathways for generative modeling and variational inference.
• Abstract（参考訳）: 本稿では、Sinkhornアルゴリズムの連続的な極限として現れる離散パラボリックモンジ・アンプPDEに基づく新しい生成モデリングフレームワークを提案する。 本手法は,ミラー勾配降下ステップを用いて,ブレニエ写像の空間において反復的洗練を行う。 非回帰解析のレンズによる生成モデルの理論的保証を確立し、様々なステップサイズスケジュールの下で最適なブレニエ写像に反復が収束することを実証する。 技術的貢献として、パラボリックなモンジュ・アンプ・エ・PDEに合わせた新しい進化的変分不等式を導出し、幾何学、輸送コスト、後悔を結び付ける。 本フレームワークは,非log-concave対象分布に対応し,Brenierマップを用いて最適なサンプリングプロセスを構築し,生成逆数ネットワークとスコアベース拡散モデルから好適な学習手法を統合する。 直接的応用として、我々の理論は生成的モデリングと変分推論のための新しい経路をどう舗装するかを説明する。

関連論文リスト

• A Stein Gradient Descent Approach for Doubly Intractable Distributions [5.63014864822787]
  そこで本研究では,2重に抽出可能な分布を推定するために,モンテカルロ・スタイン変分勾配勾配(MC-SVGD)法を提案する。 提案手法は,後続分布に匹敵する推論性能を提供しながら,既存のアルゴリズムよりもかなりの計算ゲインを達成する。
  論文  参考訳（メタデータ） (2024-10-28T13:42:27Z)
• Bridging Model-Based Optimization and Generative Modeling via Conservative Fine-Tuning of Diffusion Models [54.132297393662654]
  本稿では,RLによる報酬モデルの最適化により,最先端拡散モデルを微調整するハイブリッド手法を提案する。 我々は、報酬モデルの補間能力を活用し、オフラインデータにおいて最良の設計を上回るアプローチの能力を実証する。
  論文  参考訳（メタデータ） (2024-05-30T03:57:29Z)
• Reflected Schr\"odinger Bridge for Constrained Generative Modeling [16.72888494254555]
  反射拡散モデルは、現実の応用における大規模生成モデルのゴートメソッドとなっている。 本稿では,様々な領域内でデータを生成するために最適化されたエントロピー規則化された最適輸送手法であるReflectioned Schrodinger Bridgeアルゴリズムを紹介する。 提案アルゴリズムは,多様な領域におけるロバストな生成モデリングを実現し,そのスケーラビリティは,標準画像ベンチマークによる実世界の制約付き生成モデリングにおいて実証される。
  論文  参考訳（メタデータ） (2024-01-06T14:39:58Z)
• Geometric Neural Diffusion Processes [55.891428654434634]
  拡散モデルの枠組みを拡張して、無限次元モデリングに一連の幾何学的先行を組み込む。 これらの条件で、生成関数モデルが同じ対称性を持つことを示す。
  論文  参考訳（メタデータ） (2023-07-11T16:51:38Z)
• Protein Design with Guided Discrete Diffusion [67.06148688398677]
  タンパク質設計における一般的なアプローチは、生成モデルと条件付きサンプリングのための識別モデルを組み合わせることである。 離散拡散モデルのためのガイダンス手法であるdiffusioN Optimized Smpling (NOS)を提案する。 NOSは、構造に基づく手法の重要な制限を回避し、シーケンス空間で直接設計を行うことができる。
  論文  参考訳（メタデータ） (2023-05-31T16:31:24Z)
• A Geometric Perspective on Diffusion Models [57.27857591493788]
  本稿では,人気のある分散拡散型SDEのODEに基づくサンプリングについて検討する。 我々は、最適なODEベースのサンプリングと古典的な平均シフト(モード探索)アルゴリズムの理論的関係を確立する。
  論文  参考訳（メタデータ） (2023-05-31T15:33:16Z)
• An optimal control perspective on diffusion-based generative modeling [9.806130366152194]
  微分方程式(SDE)に基づく最適制御と生成モデルとの接続を確立する。 特にハミルトン・ヤコビ・ベルマン方程式を導出し、基礎となるSDE限界の対数密度の進化を制御している。 非正規化密度から抽出する新しい拡散法を開発した。
  論文  参考訳（メタデータ） (2022-11-02T17:59:09Z)
• Unveiling the Latent Space Geometry of Push-Forward Generative Models [24.025975236316846]
  多くの深い生成モデルは、GAN(Generative Adversarial Networks)やVAE(Varial Auto-Encoders)のような連続生成器によってガウス測度のプッシュフォワードとして定義される。 この研究は、そのような深層生成モデルの潜伏空間を探索する。 これらのモデルの主な問題は、非連結分布を学習する際に、対象分布の支持外からサンプルを出力する傾向があることである。
  論文  参考訳（メタデータ） (2022-07-21T15:29:35Z)
• Score-based Generative Modeling of Graphs via the System of Stochastic Differential Equations [57.15855198512551]
  本稿では,連続時間フレームワークを用いたグラフのスコアベース生成モデルを提案する。 本手法は, トレーニング分布に近い分子を生成できるが, 化学価数則に違反しないことを示す。
  論文  参考訳（メタデータ） (2022-02-05T08:21:04Z)
• Spatiotemporal Imaging with Diffeomorphic Optimal Transportation [1.5464123983408111]
  共同画像再構成と動き推定のための微分同相最適輸送を用いた変分モデルを提案する。 提案したモデルは、理論的にいくつかの既存の選択肢と比較される。 提案するモデルと関連するアルゴリズムに関するいくつかの重要な問題についても論じる。
  論文  参考訳（メタデータ） (2020-11-24T05:55:25Z)
• Probabilistic Circuits for Variational Inference in Discrete Graphical Models [101.28528515775842]
  変分法による離散的グラフィカルモデルの推論は困難である。 エビデンス・ロウアーバウンド(ELBO)を推定するためのサンプリングに基づく多くの手法が提案されている。 Sum Product Networks (SPN) のような確率的回路モデルのトラクタビリティを活用する新しい手法を提案する。 選択的SPNが表現的変動分布として適していることを示し、対象モデルの対数密度が重み付けされた場合、対応するELBOを解析的に計算可能であることを示す。
  論文  参考訳（メタデータ） (2020-10-22T05:04:38Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。